Missilen avfyrades i närheten av Nordkoreas huvudstad Pyongyang och flög så långt som 270 mil. När den var på 550 kilometers höjd gick den rakt över norra Japan.
Japanska myndigheter skickade ut ett varningsmeddelade om att befolkningen skulle ta skydda i källare och andra säkra byggnader.
– Detta är det största och allvarligaste hotet mot vårt land någonsin, säger landets premiärminister Shinzo Abe enligt Ekot.
Trots det försökte Japan inte skjuta ner roboten, men händelsen ses ändå som ett allvarligt hot och en upptrappning i konflikten eftersom Nordkoreas tidigare robotar de senaste åren aldrig skjutits över landet.
Ett par gånger innan har Nordkorea avfyrat missiler över Japan, 1998 och 2009, men då påstått att det var satelliter.
Nattens robotuppskjutning kan peka på en ny typ av styrka från den kommunistiska diktaturen.
– Det är en stor sak att man väljer att flyga över Japan, som man tidigare har undvikit under flera år, säger David Wright, vid Global Security Program, uppger SVT Nyheter.
Grannlandet Sydkorea svarade med att släppa åtta bomber över ett testområde i provinsen Gangwon på gräsen till Nordkorea. Detta för att uppvisa styrka tillbaka.
På tisdag kommer FN:s säkerhetsråd att hålla ett extrainkallat möte på begäran av USA och Sydkorea.