"För 75 år sedan stoppade vi Hitler. Vem stoppar Angela Merkel? Hon har uppfyllt Hitlers dröm om att kontrollera Europa", skrev Zammit Tabona i ett Facebook-inlägg på fredagen.
Inlägget raderades kort efter att det hade publicerats men hade då redan hunnit väcka uppståndelse.
Maltas utrikesminister Evarist Bartolo bekräftar att Michael Zammit Tabona, som utsågs till ambassadör i Finland 2013, har avgått.
Enligt Bartolo måste diplomaten be om ursäkt till den tyska ambassaden för sina "okänsliga" kommentarer, skriver Malta Today.