Ещё находясь на службе, в 1814 году в Кракове был принят в масонскую ложу, в 1819 году был принят в «Союз благоденствия», в 1821 в Северное тайное общество декабристов. Вступив в общество декабристов, участия в его делах не принимал и относился к ним сдержанно-скептически. Активно участвовал в жизни петербургских масонских лож, был членом ложи «Соединённых друзей», входил в качестве великого герольда в высшее правление масонства в России — капитул «Феникс». Затем вышел из масонской ложи «Соединённых друзей», но лишь для того, чтобы перейти в другой масонский союз — в Великую ложу Астрея. В 1818—1819 годах был 1-м надзирателем ложи «Северных друзей».
В 1826 году после возвращения в Россию был арестован по подозрению в причастности к декабристам — в июле, в пограничном Брест-Литовске. «Чаадаев в письмах к близким говорил, что уезжает навсегда, и близкий друг Якушкин был до такой степени уверен в этом, что на допросе после разгрома восставших спокойнейшим образом назвал Чаадаева в числе лиц, завербованных им в нелегальную организацию». 26 августа с Чаадаева по повелению Николая I был снят подробный допрос. С Чаадаева была взята подписка о неучастии его в любых тайных обществах, причём он категорически отрицал своё участие в Северном обществе. Через 40 дней отпущен.
Впоследствии он будет негативно отзываться о восстании декабристов, утверждая, что, по его мнению, их порыв отодвинул нацию на полвека назад.