Liverpools fyra raka segrar är den anrika klubbens bästa säsongsstart i ligan sedan 1990.
Men en match som såg ut att bli en enkel affär med 2–0-ledning i paus blev till slut en tajt tillställning efter Alissons blunder.
Den brasilianske målvakten försökte dribbla som siste man efter ett hemspel, men han tappade bollen till Kelechi Iheanacho som kunde spela fram Rachid Ghezzal till öppet mål och reducering i 63:e minuten.
Det var Liverpools första insläppta mål för säsongen.
Inte oväntat
Tabben kom inte helt oväntat heller, åtminstone inte för Klopp. Alisson gjorde en liknande dribbling mot Brighton i förra veckan, men då med lyckat resultat.
- Det stod klart sedan förra veckan att jag trodde att det skulle kunna hända. Jag trodde inte att det skulle ske i matchen efter, men vi kunde ha städat undan situationen två gånger före. Han vet så klart att det är ett misstag och är man nog att acceptera det.
- Jag sade åt honom att det här var den bästa matchen det kunde hända, eftersom vi vann, sade Klopp enligt AFP.
I första halvlek var Liverpool överlägset. Sadio Mané slog till redan i tionde minuten med sitt fjärde mål för säsongen och Roberto Firmino nickade in 2–0 i slutsekunderna av första halvlek.
Sen utdelning
Chelsea tog också sin fjärde raka seger i säsongsstarten, men det dröjde länge innan utdelningen kom i 2–0-segern hemma mot Bournemouth. Inhopparen Pedro sköt 1–0 i 72:a minuten och Eden Hazard fastställde 2–0 i 85:e.
Ken Semas Watford och Tottenham har också chansen att vara hundraprocentiga efter fyra omgångar då lagen, som båda inlett med tre raka segrar, möts på söndagen.
Några som hade kunnat befinna sig i samma läge var Manchester City. Men de tappade segern i förra omgången efter 1–1 mot Wolverhampton. Nu är de regerande mästarna tillbaka som vinnare igen. De avfärdade Newcastle hemma med 2–1.
Raheem Sterling gav City ledningen med ett tidigt ledningsmål. Men en halvtimme in rusade DeAndre Yedlin ifrån Gabriel Jesus och serverades av Salomon Rondon och satte kvitteringen.
City skulle svara tidigt in i den andra halvleken då Kyle Walker satte 2–1 och spiken i kistan.
I botten av tabellen är West Ham fortfarande poänglöst efter 0–1-förlust hemma mot nykomlingen Wolverhampton.