Śmierć i pochówek
Informację o jego stanie zdrowia podano oficjalnie po uroczystościach Święta Niepodległości 11 listopada 1934. Podczas uroczystości Piłsudski zasłabł, w związku z czym skrócono część oficjalną. Konsylium lekarskie postanowiło sprowadzić do Polski z Wiednia prof. Karela Wenckebacha. Przyleciał on do Warszawy wiosną 1935 samolotem pilotowanym przez Jerzego Bajana. Stwierdził chorobę nowotworową (według niektórych opracowań kiłę trzeciorzędową), a Józefowi Piłsudskiemu pozostawił jedynie kilka tygodni życia (wcześniej zaniepokojenie odnośnie do stanu wątroby J. Piłsudskiego wyrażał jego osobisty lekarz, płk Marcin Woyczyński, który ustąpił z tej funkcji w kwietniu 1935). Poza prof. Wenckebachem opiekę lekarską nad Marszałkiem sprawowali polscy lekarze: dr Antoni Stefanowski, gen. dr Stanisław Rouppert (kierownik), ppłk dr Stefan Mozołowski, mjr dr Henryk Cianciara i mjr dr Felicjan Tukanowicz.
11 maja 1935 Józef Piłsudski doznał krwotoku żołądkowego, który osłabił serce. Zmarł na raka wątrobowokomórkowego (są materiały mówiące o raku żołądka z przerzutem do wątroby) w Belwederze 12 maja 1935 (w 9. rocznicę zamachu stanu), o godzinie 20.45. W chwili śmierci byli przy Józefie Piłsudskim ksiądz Władysław Korniłowicz który udzielił umierającemu ostatniego namaszczenia oraz ppłk dr Stefan Mozołowski, który sporządził akt zgonu.
Niezwłocznie po śmierci marszałka, 13 maja 1935 zostały wyjęte z ciała mózg i serce. Dokonali tego lekarze mjr dr Wiktor Kaliciński i dr Józef Laskowski, którzy wykonali sekcję zwłok Marszałka i pracowali nad jego konserwacją i balsamowaniem (mumifikacją). Mózg poddano badaniu w Polskim Instytucie Badań Mózgu w Wilnie, po zakończeniu pierwszego etapu badań opublikowano monografię Mózg Józefa Piłsudskiego (1938).
Ogłoszona została żałoba narodowa. 17 maja została odprawiona msza żałobna celebrowana przez kard. Aleksandra Kakowskiego. Pogrzeb Józefa Piłsudskiego stał się wielką manifestacją jedności narodowej.
Ciało marszałka złożono w krypcie św. Leonarda na Wawelu. Na 22 grudnia 1935 ustalono zamknięcie trumny kryształowej z ciałem Piłsudskiego w trumnie metalowej celem późniejszego złożenia do krypty pod Wieżą Srebrnych Dzwonów. Przez pewien czas trwały spory pomiędzy władzami duchownymi a świeckimi dotyczące miejsca spoczynku Piłsudskiego. Ostatecznie, 22 czerwca 1937, na polecenie metropolity krakowskiego abpa Adama Stefana Sapiehy trumnę przeniesiono do krypty pod Wieżą Srebrnych Dzwonów.
12 maja 1936 serce Piłsudskiego zostało złożone w grobie jego matki na cmentarzu Na Rossie w Wilnie, a następnego dnia grobowiec został zamurowany. Nagrobek wieńczy płyta wykonana z granitu pochodzącego ze wsi Bronisławka w województwie wołyńskim. Płyta została obrobiona i oszlifowana przez Bolesława Sypniewskiego w warszawskim Zakładzie Rzeźbiarsko-Kamieniarskim Sypniewski, tam też wyryto inskrypcję: „Matka i serce syna”. W mauzoleum Matka i Serce Syna na czarnej granitowej płycie nagrobnej zgodnie z wolą Piłsudskiego wykuto cytaty z Wacława (u góry) i Beniowskiego (u dołu) Juliusza Słowackiego:
u góry:
Ty wiesz, że dumni nieszczęściem nie mogą
Za innych śladem iść tą samą drogą.
u dołu:
Kto mogąc wybrać, wybrał zamiast domu
Gniazdo na skałach orła, niechaj umie
Spać, gdy źrenice czerwone od gromu
I słychać jęk szatanów w sosen szumie.
Tak żyłem.
między nimi:
Matka i Serce Syna.
W czerwcu 1938 został rozstrzygnięty konkurs na projekt sarkofagu Marszałka Piłsudskiego, w wyniku którego został wybrany pomysł rzeźbiarza prof. Jana Szczepkowskiego.
Za życia Piłsudski rozważał, kto przejmie po nim rolę przywódcy. Nie widział jednak w swoim otoczeniu godnego następcy, obawiał się także zachowania najwyższych dowódców wojskowych po swoim odejściu. Zgodnie z tymi obawami po jego śmierci rozpoczęła się rywalizacja pomiędzy grupą wojskowych skupionych wokół generalnego inspektora Sił Zbrojnych Edwarda Rydza-Śmigłego a stronnictwem pałacowym, któremu przewodził prezydent RP Ignacy Mościcki. Żaden z nich nie posiadał jednak odpowiednich cech osobowościowych, ażeby zdominować scenę polityczną w takim stopniu, w jakim uczynił to Piłsudski.
Dorobek pisarski Józefa Piłsudskiego (w tym wszelkie przemówienia, odezwy, rozkazy, listy, wywiady itd.) został dwukrotnie zebrany przez Instytut Józefa Piłsudskiego Poświęcony Badaniu Najnowszej Historii Polski. Pierwszy raz (w postaci 8 tomów wydanych w latach 1930–1931, uzupełnionych trzema w latach 1930–1936) były to Pisma- Mowy – Rozkazy. W latach 1937–1938 tenże instytut wydał uzupełnione i krytycznie przejrzane Pisma zbiorowe Józefa Piłsudskiego. Ta ostatnia praca została wznowiona w postaci reprintu w 1989.