Ministern kom med utspelet tidigare i veckan under ett tal för att högtidlighålla slutet på den judiska påsken.
Bezalel Smotrich uppmanade till att utplåna Israels fiender, skriver Haaretz.
– Det duger inte med halvmesyrer. Rafah, Deir al-Balah, Nuseirat – total förintelse. "Du skall utplåna minnet av Amalek så grundligt att det inte finns mer under himlen", sade han.
Det bibliska citatet syftar på amalekiterna, ett av de konkurrerande folkslag som judarnas gud Jahve beordrade dem att utplåna – inklusive kvinnor och spädbarn. Israeliska politiker har tidigare likställt palestinierna med amalekiterna.
Smotrich hänvisade också till pågående förhandlingar med Hamas om ett avtal om frigivning av gisslan och beklagade att Israel "förhandlar med någon som för länge sedan borde ha upphört att existera överhuvudtaget".
Finansministern har tidigare gett sitt stöd till förslaget att etniskt rensa Gazaremsan och skicka de överlevande invånarna till västvärlden.