Dopo essere stato scarcerato nel 1852 Proudhon era costantemente controllato dalla polizia, eppure nel 1858 convinse un editore a pubblicare il suo lavoro più ferocemente anticlericale e antireligioso: De la justice dans la Révolution et dans l'église. Certamente l’opera più eversiva del padre teorico dell’anarchismo, vedeva nella Chiesa Cattolica un elemento di carattere distruttivo per le relazioni umane e la giustizia. Apparso il libro, egli venne di nuovo arrestato e condannato a tre anni di prigione. Rifugiatosi a Bruxelles, rimase in esilio fino al 1862 quando tornò a Parigi, dove meno di tre anni dopo moriva.