冯·诺依曼的健康状况一直很好，可是由于工作繁忙，到1954年他开始感到十分疲劳。1955年的夏天，X射线检查出他患有癌症，但他还是不停的工作，病势扩展。后来他被安置在轮椅上，继续思考、演说及参加会议。长期而无情的疾病折磨着他，慢慢地终止了他所有的活动。1956年4月，他进入华盛顿的沃尔特·里德医院，1957年2月8日在医院逝世，享年53岁。