Polisens insatsstyrka slog till mot de båda männen under tisdagsmorgonen i tyska Gera, efter beslut av Tysklands riksåklagare Jens Rommel.
Männen är afghanska medborgare och har enligt åklagaren koppling till IS Khorasan, som ofta beskrivs som terrorgruppen IS afghanska gren. De tros ha planerat att öppna eld mot poliser och andra i eller vid riksdagen i Stockholm.
Planerna uppges vara motiverade av koranbränningar i Sverige och uppdraget om att utföra ett attentat ska 30-åringen ha fått från IS Khorasan, som han anslutit sig till i höstas.
Terrorplanerna tros sedan ha mejslats fram av 30-åringen och 23-åringen i nära samråd med terrorgruppen.
De två gripna har enligt åklagarens arresteringsorder kartlagt området runt riksdagshuset online, och försökte vid flera tillfällen komma över skjutvapen utan att lyckas.
Säkerhetspolisen hänvisar kommentarer om ärendet till tyska myndigheter, men framhåller att den höga terrorhotnivån mot Sverige dels grundar sig i ett ökat fokus "från våldsbejakande islamistisk extremism internationellt" bland annat på grund av koranbränningar i fjol.
"Säkerhetspolisen har full förståelse för att det rådande läget kan skapa oro hos människor. Viktigt är att komma ihåg att avsikten hos de som sprider hat och hot är just att skapa rädsla och otrygghet", skriver Fredrik Hultgren-Friberg, pressekreterare vid Säpo till TT.