Hill provenía de una familia trabajadora, de origen irlandés por la rama paterna e italiano por la materna. A los 14 años se unió a los hermanos Vario, asociados a la que entonces se había convertido en una de las más poderosas familias de la mafia neoyorquina, los Lucchese.