Kalevi Sorsa menehtyi tammikuun 16. päivänä 2004 sairastettuaan pitkään syöpää.
Kuolemaansa edeltäneenä vuonna Sorsa julkaisi vielä muistelmiensa toisen osan Kansankoti ja punamulta: politiikan kuvioita 1972-1976.
Kirjan julkaisemisen yhteydessä Sorsaa haastatellut Tarmo Ropponen kuvaili vanhaa valtiomiestä: "..sen hän kirjoitti jo vakavasti sairaana. Kynä ja ajatustenjuoksu olivat sen sijaan terävät loppuun saakka".
Pitkäaikaiselle pääministerille ja SDP:n entiselle puheenjohtajalle pidettiin valtiolliset hautajaiset 31.1.2004 Kallion kirkossa Helsingissä.
Kirkossa Helsingin piispa Eero Huovinen totesi, että Kalevi Sorsalle aate merkitsi ihmisten kunnioittamista. Tasavallan presidentti Tarja Halonen puolestaan arvioi, että Sorsan elämäntyössä korostuivat sekä yksilön että yhteiskunnan hyvä.
Sorsan kuoleman johdosta järjestettiin suruliputus eduskunnassa, valtioneuvoston linnassa, ulkoasiainministeriössä, opetusministeriössä, Suomen Pankissa, Helsingin Työväentalolla ja SDP:n puoluetoimistossa.
Kalevi Sorsa haudattiin Hietaniemen hautausmaalle. Hänen hautamuistomerkkinsä Elämänkaari veisti taiteilija Kimmo Pyykkö.