Mafia II foca no personagem Vito Scaletta, veterano da 2ª Guerra Mundial, que, de volta da Europa, se junta ao amigo Joe Barbaro para, juntos, galgarem os degraus dentro do submundo de Empire City, realizando trabalhos para duas famílias mafiosas rivais. Uma hora o jogador escolhe a qual família se juntar e se torna “um homem feito”.