20年代后期，冯·诺依曼参与了希尔伯特的元数学计划，发表过几篇证明部分算术公理无矛盾性的论文。l927年的论文《关于希尔伯特证明论》最为引人注目，它的主题是讨论如何把数学从矛盾中解脱出来。文章强调由希尔伯特等提出和发展的这个问题十分复杂，当时还未得到满意的解答。它还指出阿克曼排除矛盾的证明并不能在古典分析中实现。为此，冯·诺依曼对某个子系统作了严格的有限性证明。这离希尔伯特企求的最终解答似乎不远了。这是恰在此时，1930年哥德尔证明了不完全性定理。定理断言：在包含初等算术(或集合论)的无矛盾的形式系统中，系统的无矛盾性在系统内是不可证明的。至此，冯·诺依曼只能中止这方面的研究。
冯·诺依曼还得到过有关集合论本身的专门结果。他在数学基础和集合论方面的兴趣一直延续到他生命的结束。