Domstolen utfärdade också en arresteringsorder mot Hamasledaren Mohammed Deif, trots att Deif rapporteras ha dödats i en israelisk attack i Gaza i somras.
ICC säger att Deifs död inte kunnat bekräftas och att arresteringsordern därför utfärdas. Ursprungligen begärde åklagaren arresteringsorder också för Hamasledarna Ismail Haniyeh och Yahya Sinwar, men dessa har också dödats.
Domstolen misstänker Benjamin Netanyahu och Yoav Gallant ”på rimliga grunder” för brott mot mänskligheten och krigsförbrytelser i Gaza.
Arresteringsordern innebär att Netanyahu och Gallant blir internationellt efterlysta liksom Rysslands president Vladimir Putin, som fick en arresteringsorder på nacken i mars i fjol.
Misstankarna mot Hamasledarna gällde likaså brott mot mänskligheten och krigsförbrytelser.
Bakgrunden till domstolens åtgärder är Hamas terrorattack mot Israel den sjunde oktober i fjol och Israels motangrepp i Gaza som fortfarande pågår.
Israel fördömer
Flera israeliska ledare fördömde domstolens beslut. President Isaac Herzog sa att ICC:s beslut är absurt.
– Beslutet innebär att man valt terrorns och ondskans sida i stället för demokrati och frihet, sa Herzog.
Utrikesminister Gideon Saar ansåg att ICC nu förlorat all sin legitimitet.
Också oppositionsledaren och Netanyahukritikern Benny Gantz fördömde arresteringsordern och betecknade den som en historisk vanära som aldrig ska glömmas.
Riskerar inte gripande genast
Israel erkänner inte domstolens jurisdiktion och Netanyahu och Gallant riskerar därför inte att gripas i hemlandet. Inte heller Israels främsta bundsförvant USA är medlem av ICC.
Det är däremot största delen av de europeiska länderna, bland dem Finland. Medlemsländerna är skyldiga att gripa Netanyahu och Gallant ifall de skulle dyka upp på deras territorium.
Det har dock hänt tidigare att medlemsländer inte följt ICC:s regler. Sudans förra president Omar al-Bashir reste till flera av ICC:s medlemsländer, bland annat Sydafrika och Jordanien utan att gripas trots att han var internationellt efterlyst.
Och trots gällande arresteringsorder blev den ryska presidenten Vladimir Putin i höstas mottagen i Mongoliet. Landet är ICC-medlem men starkt beroende av Ryssland ekonomiskt.