在距今约4500年的西平杨庄新石器文化遗址中发现有地面式房基、儿童瓮棺、窖穴、精致的石器和各种各样的陶器,说明这里已有房屋和村庄,产生了农业、畜牧业,制陶制石的手工业也比较发达。周灭商后,周武王分封诸侯,分其兄度据蔡。这里有蔡(今上蔡县)、吕(今新蔡)、沈(今平舆县及汝南县东部,正阳县北部)、江(今正阳县及确山县南部)、道(今确山县北部、汝南县西部和驿城区)、房(今遂平县)、柏(今西平县)、中(今泌阳县)等小封国。这些小封国先后被楚国吞并,战国七雄长期在这里相互攻伐。
公元前221年,秦统一六国。秦始皇废分封,设郡县,先属颍川郡(治所今禹州市)。后属陈郡(治所今淮阳县)、在秦灭六国,建立封建的统一王朝的战争中,丞相李斯(今上蔡人)起了重要作用。由于秦王朝的残暴统治,公元前209年爆发了汝南人陈胜领导的中国历史上第一次农民大起义,起义军攻占陈县(今淮阳县)后,建立“张楚”政权后陈胜被叛徒杀害,但秦王朝终于在农民起义的烈火中覆灭。