Händelsen inträffade vid åttatiden nära Walliser Strasse, i närheten av en lokal skola.
Mannens motiv till att gå in i bageriet med en machete är ännu oklart, men enligt Berliner Zeitung ska ett häftigt bråk ha brutit ut inne i lokalen.
Efter att bråket fortsatt utomhus ska fem personer ha förföljt och attackerat mannen tills han föll livlös till marken.
“Mannen avled på platsen trots omedelbara återupplivningsförsök”, uppger polisen i ett uttalande.
De fem misstänkta gärningsmännen, i åldrarna 24 till 57 år, greps på platsen och är nu frihetsberövade medan mordutredningen pågår.
Flera vittnesuppgifter pekar på att den döde mannen kan ha haft koppling till droghandel, något som dock inte har bekräftats av myndigheterna.
Även bageriets ägare kände till mannen och beskrev honom som en ofta återkommande kund.
– Jag tror han är rumän – alkoholist och narkoman, säger han.
Polisen är oroad över den tilltagande brutaliseringen av vardagslivet i Berlin.
– Tyvärr ser vi allt oftare att konflikter löses med våld och dödliga vapen, säger Benjamin Jendro, talesperson för polisfacket i staden.
Berlinpolisens mordkommission leder nu utredningen av det brutala dådet.