Trion dödades efter att de "av misstag identifierats som ett hot" i staden Shejaiya i norra Gaza, uppger IDF.
Kropparna har återlämnats till Israel, som gått ut med namnen på två av de döda. Det rör sig om Yotam Haim, som kidnappades från kibbutzen Kfar Aza, och som Samer Talalka, som fördes bort från kibbutzen Nir Am.
Familjen till den tredje gisslan har bett att namnet inte ska röjas.
Den israeliska militären säger att händelsen nu utreds.
"IDF uttrycker djup ånger över den tragiska händelsen och sänder familjerna sina innerliga kondoleanser", lyder ett uttalande från den israeliska militären.
"Vårt nationella uppdrag är att lokalisera de saknade och återföra alla gisslan hem", fortsätter meddelandet.
Mer än 100 gisslan är kvar i fångenskap i Gaza efter att ha fångats i attackerna i Israel den 7 oktober.