1962年，66歲的胡宗南因心髒不太正常被送進台北榮民醫院。2月14日淩晨3點左右，胡宗南停止了呼吸，醫生確診爲心髒病突發。

胡宗南在台逝世時，身後淒涼，毫無積蓄，是穿著舊衣服落葬的，蔣介石親臨靈堂吊唁，賜匾“功著旗常”。同年6月9日，胡宗南遺體葬于台北陽明山上的紗帽山麓，依其生前所願，墓廬依山面海而築，以便他的靈魂能夠望見遙遠的家鄉。

國民黨西北王胡宗南

退出軍界後的胡宗南，改任中央評議委員之類的閑職(本照片攝于1960年)

1954年7月15日，湯恩伯靈柩自殡儀館送往下葬，何應欽、陳良、胡宗南、蔣經國等爲其執绋

胡宗南去台後，曾一度賦閑，後任國民黨軍浙江沿海島嶼指揮官

1962年2月17日下午，蔣介石與宋美齡親臨殡儀館，致祭胡宗南

蔣介石、宋美齡在胡宗南葬禮上

胡宗南遺體于1962年2月17日下午大殓，由顧祝同、黃傑、蔣經國、彭孟緝四人將青天白日旗覆蓋在靈柩上

蔣介石在胡宗南葬禮上

蔣介石所賜的“功著旗常”匾

1968年澎湖地方在馬公林投公園樹立胡宗南銅像

1968年澎湖地方在馬公林投公園樹立胡宗南銅像

胡宗南銅像

1982年，台灣有關方面舉辦的胡宗南逝世20周年紀念會