Männen, som är mellan 20 och 30 år gamla, uppges ha gripits i Gera i Thüringen i Tyskland under tisdagsmorgonen.
Duon anklagas för att ha konspirerat för att genomföra en islamistiskt motiverat terrordåd mot den svenska riksdagen i Stockholm.
Motivet till attackplanen ska ha varit koranbränningarna. Som hämnd ska de två männen ha övervägt att attackera den svenska riksdagen med skjutvapen. Men några konkreta förberedelser för brottet ska inte ha hunnit vidtagas, enligt Tagesschau.
Den federala tyska riksåklagaren anklagar en av de två männen för att vara medlem i den islamistiska terrororganisationen ISPK, en utlöpare av terrororganisationen IS i Centralasien. Den andre mannen ska ha stöttat ISPK.
Statsminister Ulf Kristersson kommenterar händelsen i en intervju med SVT Västernorrland.
– Jag vet att den svenska säkerhetspolisen står i kontakt med sina tyska kollegor för att gå igenom vad som har hänt, säger Kristersson och fortsätter:
– Vi har haft en hotfull period i Sverige, därför höjdes också terrorhotnivån, precis för att den här typen av risker finns.