Coolidge ogłosił swoją decyzję o nieubieganiu się o reelekcję w ostrym i typowo żartobliwym oświadczeniu: „Nie decyduję się kandydować na prezydenta w 1928 roku”. Oświadczenie to dostarczył na ręcznie zapisanych paskach papieru reporterom podróżującym z nim na letnie wakacje w 1927 roku. Ogłoszenie to zaskoczyło wiele osób. W dniu podjęcia decyzji senator Arthur Capper z Kansas, który był obecny, gdy Coolidge informował reporterów, zapytał Grace Coolidge, co sądzi o tym oświadczeniu. „Jakie ogłoszenie?” – odpowiedziała.

Lakoniczny do końca, Coolidge nigdy nie wyjaśnił swojej decyzji w sposób obszerny. Ale ponieważ pozostał niezwykle popularny i prawie na pewno wygrałby kolejną kadencję, publicyści i historycy dobrze się bawili, spekulując na temat jego motywów, czasami proponując wyszukane teorie. W rzeczywistości, jak napisał w swojej autobiografii, nigdy nie kochał władzy ani sławy i był gotów „uwolnić się od pretensji i złudzeń życia publicznego”. Zgodnie ze swoimi republikańskimi poglądami chciał uszanować niepisany zwyczaj, że prezydenci powinni sprawować urząd tylko przez dwie kadencje i cieszył się na prostą emeryturę w swoim starym rodzinnym mieście Northampton w stanie Massachusetts. Był również zdruzgotany śmiercią swojego 16-letniego syna, Calvina Juniora, w 1924 roku. Calvin Jr. zaraził się infekcją po tym, jak podczas gry w tenisa nabawił się pęcherza. Ponieważ penicylina nie została jeszcze odkryta, zmarł w ciągu tygodnia. Po śmierci Coolidge powiedział, że „moc i chwała prezydentury odeszły razem z nim”. Po przejściu na emeryturę Coolidge powrócił do Northampton w stanie Massachusetts, gdzie spędził następne cztery lata pisząc autobiografię i artykuły do krajowych magazynów. Jego ogólnokrajowa kolumna dla sieci gazet McClure, „Thinking Things over with Calvin Coolidge”, ukazywała się przez rok w 1931 roku. 5 stycznia 1933 roku, tuż po lunchu, Coolidge zasłabł w swojej sypialni, gdzie udał się na zwyczajową dwugodzinną drzemkę. Jego żona znalazła go martwego z powodu zakrzepicy naczyń wieńcowych (niewydolność serca). Charakterystyczna dla Coolidge’a ostatnia wola była krótka i konkretna: „Nie zapominając o moim synu Johnie, przekazuję cały mój majątek, zarówno rzeczywisty, jak i osobisty, mojej żonie, Grace Coolidge, na zasadzie prawa pierwokupu”. Wynosił on około 700.000 dolarów. Co przejmujące, jego odejście nastąpiło tuż przed inauguracją Franklina Roosevelta i początkiem zarówno nowego spojrzenia na ekonomię, jak i nowego prezydenckiego aktywizmu, który odesłałby politykę Coolidge’a do minionej epoki.