Accablé par la terreur et la culpabilité après la perte de Grouchka, le protagoniste s'enfuit en errant sans but à travers les chemins d'automne. Il rencontre un vieux paysan et sa femme affligés par le départ de leur fils unique pour la conscription militaire. Mû par un élan de pitié, il accepte de prendre la place du jeune conscrit sous le nom de Pierre Serdukoff et donne l'argent reçu à un monastère pour le salut de Grouchka. Il demande ensuite à être envoyé au Caucase, où il passe plus de quinze ans à combattre l'ennemi.
Durant une expédition militaire périlleuse le long de la rivière Koï-Sou, il se porte volontaire pour traverser l'eau glacée sous le feu des Tatares afin de fixer un câble de pont. Porté par le souvenir de Grouchka qui lui apparaît sous les traits d'une adolescente ailée, il réussit l'exploit au péril de sa vie. Son courage lui vaut d'être promu officier, mais ses aveux réitérés sur son passé criminel finissent par lasser ses supérieurs, qui l'envoient finalement à la retraite avec la croix de Saint-Georges et une lettre de recommandation pour Pétersbourg.
Arrivé dans la capitale, il trouve un emploi subalterne peu rémunérateur au bureau des adresses, attaché à la lettre la plus ingrate de l'alphabet. Incapable de survivre ainsi et refusant de redevenir cocher en raison de son statut de noble et d'officier décoré, il s'engage comme acteur dans une baraque foraine de la place de l'Amirauté. Il y joue le rôle du diable, contraint de porter un costume contraignant et d'endurer les coups répétés de ses camarades de scène. Lorsqu'il prend la défense d'une jeune actrice harcelée par un collègue, il est violemment rejeté par la troupe et se retrouve de nouveau sans ressources.
Finalement recueilli par la solidarité et trouvant le monde extérieur hostile, il choisit de se retirer dans un monastère. Devenu le père Izmaïl, il y retrouve une existence paisible et réglée en reprenant ses anciennes fonctions de cocher. Bien qu'il raconte parfois son passé tourmenté et ses quêtes d'expiation, personne ne le croit véritablement, et il achève ses jours dans la sérénité de sa condition monastique.