公元前11世纪周武王克纣后,封功臣子爵偃姓于此,定名舒国,今县境时属舒国。后又分立舒庸、舒蓼、舒鸠、舒龙、舒鲍、舒龚、等国,史称这一带地区为“群舒国”。春秋以后,诸侯争雄,周定王元年(前601)至周敬王十二年(前508)前后百余年,“群舒”先后被楚所灭。秦时属九江郡,汉高祖四年(前203),置舒县,属淮南国;翌年,别置龙舒县。刘邦封其侄刘信为羹颉侯,领舒、龙舒两县。汉明帝永平元年(58),许昌受封龙舒侯,领两县,遂改称龙舒侯国。唐开元二十三年(735),设舒城县,至清末,或属庐江郡,属庐州府。民国初年属安庆道,民国29年(1940)改属六安行政督察区。1949年1月22日,全县解放,属原六安专(地)区至今。