Det var i samband med ett OS-lopp i onsdags som Patrick Moster hördes ropa "Ta kamelfösarna nu!" till den tyske cyklisten Nikias Arndt.
Arndt låg då efter två andra cyklister från Algeriet respektive Eritrea.
Händelsen sändes live i tv och Patrick Moster har bett "oändligt" mycket om ursäkt för urspelet.
Det tyska olympiska sportförbundet DOSB meddelade på torsdagen att Moster har skilts från sitt uppdrag och att han kommer att resa hem till Tyskland igen.
– Vi är fortfarande övertygade om att hans offentliga ursäkt för de rasistiska kommentarer som han fällde i går är uppriktig. Men med denna urspårning bröt Moster de olympiska värderingarna. Fair play, respekt och tolerans är inte förhandlingsbara, säger DOSB:s ordförande Alfons Hörmann i ett pressmeddelande.