Urodzony w Metzu, po ukończeniu szkoły średniej w Paryżu rozpoczął pracę w służbie cywilnej. Wiersze zaczął pisać już w młodości, jego styl był wzorowany na poezji grupy Parnassien, w szczególności na wierszach jej lidera Charlesa Leconte'a de Lisle'a.
Pierwszy opublikowany tomik poezji, zatytułowany Poemes saturniens (1867), przyniósł Verlain'owi uznanie i popularność pomimo ostrej krytyki ze strony Sainte-Beuve'a. Prywatne życie poety zaczęło mieć coraz większy wpływ na jego twórczość, poczynając od jego miłości do Mathilde Maute (z którą później wziął ślub). W 1872 porzucił żonę i syna, dla kochanka, poety Arthura Rimbauda. Verlain był alkoholikiem i pewnego razu będąc pod wpływem alkoholu, powodowany zazdrością, strzelił w kierunku Rimbauda, jedynie go raniąc. Został później aresztowany i trafił do więzienia w Mons, gdzie odnalazł Boga i nawrócił się, co miało poważny wpływ na jego poezję. Wiersze opublikowane w tomie Romances sans paroles opisywały jego stan umysłu w tym okresie.
Po zwolnieniu z więzienia, Verlaine podróżował po Anglii gdzie pracował jako nauczyciel, pisząc także wiersze do jego następnego, bardzo udanego zbioru poezji Sagesse. Przebywając w Anglii zakochał się w jednym ze swoich uczniów Lucien Letinois, który stał się dla niego natchnieniem. Po nagłej śmierci Luncien'a na dur brzuszny, Verlaine powrócił do Francji w 1877 r.
Ostatnie lata życia Verlaine spędził w biedzie, stając się coraz bardziej niepoczytalny i coraz bardziej uzależniony od alkoholu, pomimo to, jego poezja zdobyła wielkie uznanie współczesnych. Najbardziej znanym z jego wierszy jest Chanson d'automne, który w czasie II wojny światowej służył aliantom do przekazywania kodowanych wiadomości francuskiemu ruchowi oporu. Poezja Verlaine'a była także bardzo popularna wśród muzyków, jego wiersze stały się tekstami wielu piosenek.
Istnieje bardzo wiele portretów Verlaine's namalowanych przez francuskich malarzy, najpiękniejsze z nich są autorstwa: Henri Fantin-Latour, Antonio de La Gandara, Eugène Carrière, Frédéric Cazals i Thèophile-Alexandre Steinlen.
Został pochowany na cmentarzu Cimetière des Batignolles w Paryżu.