2005年1月29日，黄菊在达沃斯世界经济论坛上讲话（图源：AFP）
2007年6月2日，中共中央政治局常委、中国国务院前副总理黄菊病逝，终年69岁。他是中共废除领导职务终身制以后，第一位死于任上的中共中央政治局常委。当时的官方报道并没有说具体是什么病，有报道称黄菊患的是胰腺癌。
黄菊病逝三天之后，现任和已退休的中共中央政治局常委在北京八宝山革命公墓送别黄菊，其中就有中共中央前总书记江泽民。黄菊也是江泽民的老部下，因为在江泽民担任上海市委书记期间，黄菊一直是他的副手，担任上海市委副书记。
有消息称，2006年黄菊因为牵扯到上海市委原书记陈良宇案而被调查。不过由于当时他被诊断出患有胰腺癌，因此中共当局就对其减少了曝光度。最终黄菊未等到陈良宇宣判便已不治病逝。逝世之后，中共官方讣告仍给予其正面评价。
当时外界盛传黄菊将面临整肃，他在上海滩官场集体贪污案、腐败案、社保案等闹得沸沸扬扬之际去世，有人说他“死得其时”，不管有无问题，是否比陈良宇更严重，都不会再追究了。
2005年12月，黄菊赴上海参加洋山港开港庆典，回北京不久突然病重住院。2016年4月1日，他的机要秘书马弘在中国大陆媒体《新民晚报》撰文称，“我当时根本不相信这是真的。在上海时他还对我说，（2004年）到格尔木青藏铁路建设工地慰问干部职工时，在海拔3,800米的工地上他走到工人们当中，和工人们握手说话，并没感到有什么高原反应，对自己的身体状态很是满意。怎么说病就病了呢？”
值得一提的是，黄菊曾于2006年10月返回上海华东医院接受治疗4个多月。2016年6月5日，前中共上海市委副书记刘云耕在《新民晚报》撰文披露，那段时间，黄菊病情相对稳定，虽然感到疲惫衰弱，时有隐痛，但他仍不断操心工作，多次在上海西郊宾馆接待中外来宾，甚至往返北京参加会议。
2006年2月22日，香港《南华早报》报道，黄菊于2006年1月下旬后，因患上胰腺癌而入院治疗。时任中国全国政协发言人的吴建民证实黄菊住院，但并未说明其所患是何疾病。外界报道把胰腺炎误传为胰腺癌。在“失踪”期间，他偶有通过给某些活动“发贺信”。2006年6月5日，黄菊在中国科学院第十三次院士大会和中国工程院第八次院士大会上再次露面，但至11月在上海会见以任志刚为团长的香港银行公会访问团以后，黄菊再度没有公开露面。
2007年3月7日，他脸带病容出席两会上海代表团会议，这是他最近一次的公开露面。
2007年6月2日，黄菊在北京逝世，终年69岁。三天后，遗体在北京八宝山革命公墓火化。
