Videon ska ha spelats in i den antika syriska staden Palmyra, som har intagits av terrororganisationen, skriver den tyska tidningen Focus.
De två skäggiga män som förekommer i klippet vänder sig till sina "bröder och systrar" i Tyskland och Österrike med uppmaning att ansluta sig till IS. De som inte har möjlighet att göra det kan istället fokusera på att "tillintetgöra alla otrogna" i de europeiska länder de bor i, försäkrar terroristerna.
En av islamisterna konstaterar dessutom att organisationen är fast besluten att hämnas på Merkel för Tysklands deltagande i operationer mot Islamiska staten.
Videon är den första som IS släppt på tyska.
Över 450 tyska medborgare beräknas ha begett sig till arabvärlden för att slåss för Islamiska staten.