Serzj Sargsian tillträdde som premiärminister för elva dagar sedan – kort efter att ha lämnat posten som president. Det har lett till omfattande protester i Armenien mot vad som beskrivits som en maktkupp.
"Jag gjorde fel", säger Sargsian i ett pressmeddelande, rapporterar den statliga nyhetsbyrån Armenpress.
"I den nuvarande situationen finns det flera lösningar, men jag kommer inte att välja någon av dem. Det är inte min stil. Jag avgår som landets ledare och från posten som Armeniens premiärminister."
Tiotusentals i protest
Under helgen protesterade tiotusentals armenier på huvudstaden Jerevans gator. På måndagen publicerades bilder på hundratals uniformklädda militärer som anslutit sig till protesterna. Försvarsdepartementet fördömde tilltaget och sade att de soldater som gått med i protesterna kommer att straffas.
Samtidigt anslöt sig Armeniens största oppositionsparti till protesterna och uppmanade myndigheterna att "inse ögonblickets allvar".
I söndags greps även protestledaren Nikol Pasjinian efter att ha lämnat ett möte med Serzj Sargsian. Han släpptes sedan under måndagen.
"Nikol Pasjinian hade rätt. Jag hade fel", säger Sargsian i sitt avgångsuttalande.
Efter beskedet syntes människor dansa på Jerevans gator och krama poliser.
Systemet ändrades
Serzj Sargsian, som är nära allierad med Rysslands president Vladimir Putin, satt som president i tio år innan hans mandat gick ut den 9 april.
Efter en folkomröstning 2015 ändrades det politiska systemet i Armenien så att presidenten fick en mer ceremoniell roll, samtidigt som premiärministern fick mer makt. Ändringarna planerades redan då att träda i kraft ungefär samtidigt som Serzj Sargsian gick från den ena posten till den andra.
Ex-presidenten anklagas för korruption, nära band till oligarker och för att ha orsakat ökad fattigdom i landet.
Den tidigare premiärministern Karen Karapetian kommer att ta över arbetet tillfälligt. Parlamentet kommer den närmaste veckan att föreslå nya kandidater.
Bakgrund: Armenien efter Sovjets fall
Armenien förklarade sig självständigt från den sammanfallande Sovjetunionen den 23 september 1991. Året därpå tillåts landet gå med i FN.
De första självständiga åren kom att präglas av konflikten i Nagorno-Karabach-regionen, en enklav som kom att hamna i självständiga Azerbajdzjan, med en stor etniskt armenisk befolkning. 30000 människor beräknas ha dödats i kriget som pågick fram till 1994. Regionens status är dock fortfarande omtvistad.
1999 stormade fem beväpnade män parlamentet och dödade den nationalistiska premiärministern Vazgen Sargsian. De efterföljande presidentvalen följs av fuskanklagelser och valet av Serzj Sargsian (inget släktskap till Vazgen) 2008 ledde till våldsamma protester där 10 dödades.
2013 valdes Serzj Sargsian till president igen, i en stor och på sina håll ifrågasatt seger. Under 2015 pågick dagliga protester på gatorna i Jerevan på grund av kraftigt höjda elpriser.
I juli 2016 belägrade pro-oppositionella beväpnade män en polisstation i Jerevan och tog många människor som gisslan. Två poliser dödades. Attacken följdes av större demonstrationer mot regeringen.
Källa: AFP