西汉元封元年(公元前110年），路博德攻下海南岛，设置珠崖郡（治今海南琼山）、儋耳郡。西汉末年，罢弃珠崖、儋耳二郡，对海南实行遥领统治。
以上是西汉时期对海南的管辖情况，从汉武帝元封元年置郡设县，至汉元帝初元三年罢弃，前后历时65年，海南岛是在中央王朝的直接管辖之下的。
三国时期，吴赤乌年间(238～251)在雷州半岛设立珠崖郡（治今广东徐闻），领徐闻、朱卢、珠官3县，属高州管辖，对海南岛实行“遥领”。
晋武帝太康元年（280），省珠崖郡，并入合浦郡。朱卢改为玳瑁。合浦郡领合浦、南平、荡昌、徐闻、玳瑁、珠官6县。属交州。不久废珠官县。
南朝，宋文帝元嘉八年（431）复立珠崖郡，治徐闻，不久又废。以珠官、朱卢属越州。
梁朝武帝大同（535～546）中，在废儋耳郡的地方设置崖州，统于广州。时儋耳归附俚僚首领冼夫人的有一千多峒，冼夫人请命于朝，故置崖州。《北史》和《隋书》均载“海南儋耳归附者千余峒”，是为“海南”一词的最早记载。
崖州设置，此事意义重大。从汉元帝罢撤珠崖郡之后，历代州郡治所均设在大陆，对海南地区只是“遥领”而已。至南朝梁时，始在海南本土设置崖州，有效地管辖海南岛全境。
侯景之乱时，冼夫人率兵击破高州刺史李迁仕，并与都督陈霸先联合，平定广东叛乱。冼夫人保境安民，被岭南人尊为“圣母”。陈朝建立后，冼夫人即率众归附陈朝。
隋初，岭南数郡共奉高凉（今广东阳江西）冼夫人为主，保境拒守。隋派使臣安抚岭南，杨广亦命陈叔宝致书冼夫人，劝其归隋。冼夫人以其孙率众迎接隋使，岭南诸州(包括海南岛)悉为隋地。至此，结束了永嘉之乱以来280余年南北分裂的局面，完成了隋文帝统一南北的大业。