Nyheten slog ned som en bomb i slutet av förra månaden när det framgick att amerikanska soldater hade åtalats för sexuella övergrepp månader tidigare och att det hela mörkats både av amerikanska och japanska myndigheter.
Båda fallen rapporterades först i lokala medier i slutet av juni. Vid en arrestering som gjordes i mars åtalades en medlem av det amerikanska flygvapnet för kidnappning och sexuella övergrepp mot en tonåring och i maj greps en amerikansk marinkårssoldat för försök till våldtäkt som resulterade i att en flicka skadades. Ytterligare detaljer om de påstådda offren lämnades inte.
Fallen är politiskt känsliga eftersom de påminde många japaner en våldtäkt 1995, då en 12-årig flicka gruppvåldtogs av tre amerikanska soldater, vilket utlöste massiva protester mot den amerikanska närvaron i Japan.
Våldtäkten ledde till ett avtal från 1996 mellan Tokyo och Washington om att stänga en viktig amerikansk flygbas. Avtalet har dock varit svårt att infria på grund av protester från befolkningen på den plats som utsetts att ersätta den gamla flygbasen.
Rahm Emanuel sa att han djupt beklagade vad som hände med de drabbade personerna, deras familjer och deras samhälle. Dock avstod han från att be om ursäkt, skriver Associated Press.
– Självklart måste man låta den straffrättsliga processen ha sin gång. Men det betyder inte att man på mänsklig nivå inte kan beklaga det inträffade, sade han.
– Vi måste bli bättre, konstaterade ambassadören och sade att den amerikanska militärens standarder och rutiner för utbildning och träning av trupperna på det här området "helt enkelt inte fungerade".
USA och Japan ska nu öka sin transparens gentemot allmänheten enligt rutiner som ska utarbetas under ett möte senare denna månad i Tokyo.
Även Japans ansvarige minister Yoshimasa Hayashi har lovat att regeringen ska sluta mörka misstänkt brottslighet bland amerikansk militärpersonal på Okinawa, samtidigt som offrens integritet ska skyddas.
Ungefär 50.000 amerikanska trupper är utplacerade i Japan som ett resultat av ett kapitulationsavtal som Japan skrev under med USA efter att ha bombats med kärnvapen av supermakten i slutet av andra världskriget.
Avtalet ser i princip ut som det omdebatterade DCA-avtalet, som ger amerikansk militärpersonal ”obehindrad tillgång” till svenskt territorialvatten, territorium och luftrum och som innehåller flera skrivningar som gör det möjligt att mörka brott som den amerikanska militären begår mot civilbefolkningen i Sverige. Svenskar är också fråntagna rätten att kräva skadestånd från amerikaner och deras underentreprenörer, enligt avtalet.
Till skillnad från Japan skrev den svenska regeringen av någon anledning under avtalet frivilligt.