Coolidge oznámil své rozhodnutí neusilovat o znovuzvolení ostrým a typicky hravým prohlášením: „Rozhodl jsem se nekandidovat na prezidenta v roce 1928.“ Prohlášení přednesl na ručně psaných proužcích papíru novinářům, kteří s ním cestovali na letní dovolenou v roce 1927. Toto oznámení mnoho lidí překvapilo. V den rozhodnutí se senátor Arthur Capper z Kansasu, který byl přítomen, když Coolidge informoval novináře, zeptal Grace Coolidgeové, co si o tomto oznámení myslí. „Jaké oznámení?“ odpověděla.

Lakonický až do konce, Coolidge své rozhodnutí nikdy obšírně nevysvětlil. Protože však zůstal mimořádně populární a téměř jistě by získal další funkční období, bavili se znalci a historici spekulacemi o jeho motivech a někdy nabízeli propracované teorie. Ve skutečnosti, jak napsal ve své autobiografii, nikdy nepatřil k těm, kdo by milovali moc a slávu, a byl připraven „zbavit se nároků a iluzí veřejného života“. V souladu se svým republikánským smýšlením chtěl ctít nepsaný zvyk, že prezidenti mají sloužit pouze dvě funkční období, a těšil se na prostý důchod ve svém starém rodném městě Northamptonu ve státě Massachusetts. Byl také zdrcen smrtí svého šestnáctiletého syna Calvina mladšího v roce 1924. Calvin junior se nakazil infekcí poté, co se mu při hraní tenisu udělal puchýř. V době, kdy ještě nebyl objeven penicilin, do týdne zemřel. Po jeho smrti Coolidge prohlásil, že „moc a sláva prezidentství odešly s ním.“ Po odchodu do důchodu se Coolidge vrátil do Northamptonu v Massachusetts, kde strávil následující čtyři roky psaním své autobiografie a článků pro celostátní časopisy. Jeho celostátní sloupek pro řetězec McClure Newspaper, „Thinking Things over with Calvin Coolidge“, vycházel v roce 1931 po dobu jednoho roku. Dne 5. ledna 1933, těsně po obědě, Coolidge zkolaboval ve své ložnici, kam si šel obvykle na dvě hodiny zdřímnout. Jeho žena ho našla mrtvého na koronární trombózu (selhání srdce). Coolidgeova závěť byla stručná a výstižná: „Neopomíjeje svého syna Johna, odkazuji veškerý svůj majetek, jak nemovitý, tak osobní, své manželce Grace Coolidgeové, a to bezplatně“. Jeho hodnota činila přibližně 700 000 dolarů. Je dojemné, že jeho odchod přišel těsně před inaugurací Franklina Roosevelta a začátkem nového pohledu na ekonomiku i nového prezidentského aktivismu, který měl Coolidgeovu politiku odsunout do minulé éry.