元光六年（公元前129年），卫青为车骑将军，出上谷击匈奴，另有公孙贺为轻年将军，出云中；太中大夫公孙敖为骑将军，出代郡；卫尉李广为骁骑将军，出雁门，每人领军各万骑。公孙敖亡七千骑，李广大军几乎全灭，被匈奴俘虏，逃了回来，两人当斩，赎为庶人。公孙贺亦无功，独卫青杀至匈奴圣地龙城（匈奴祭扫天地祖先的地方），斩七百匈奴首级而归。这是西汉对匈奴第一次主动出击并得胜，于是匈奴再不是不可战胜的，此役后，卫青被封关内侯。
　　元朔元年秋（公元前128年），匈奴骑兵大举南下，先攻破辽西，杀死了辽西太守，又打败渔阳守将韩安国，劫掠百姓两千多人。汉武帝派李广镇守右北平（今辽宁省凌源西南），匈奴兵则避开李广，而从雁门关入塞，进攻汉朝北部边郡。卫青领军三万骑出雁门，李息出代郡。卫青斩首虏数千，匈奴大败。

元朔五年春（公元前124年），卫青率三万骑兵从高阙出发；苏建、李沮、公孙贺、李蔡都受卫青的节制，率兵从朔方出发；李息、张次公率兵由右北平出发。这次总兵力有十几万人。匈奴右贤王认为汉军离得很远，一时不可能来到，就放松了警惕。卫青率大军急行军六、七百里，趁着黑夜包围了右贤王的营帐。这时，右贤王正在帐中拥着美妾，畅饮美酒，已有八九分醉意了。忽听帐外杀声震天，火光遍野，右贤王惊慌失措，忙把美妾抱上马，带了几百壮骑，突出重围，向北逃去。汉军轻骑校尉郭成等领兵追赶数百里没有追上，却俘虏了右贤王的小王十余人，男女一万五千余人，牲畜有几百万头。汉军大获全胜，高奏凯歌，收兵回朝。汉武帝接到战报，喜出望外，派特使捧着印信，到军中拜卫青为大将军，加封食邑8700户，所有将领归他指挥。

卫青的三个儿子都还在襁褓之中，也被汉武帝封为列侯。卫青非常谦虚，坚决推辞说：“微臣有幸待罪军中，仰仗陛下的神灵，使得我军获得胜利，这全是将士们拚死奋战的功劳。陛下已加封了我的食邑，我的儿子年纪尚幼，毫无功劳，陛下却分割土地，封他们为侯。这样是不能鼓励将士奋力作战的。他们三人怎敢接受封赏。”汉武帝随后又封赏了随从卫青作战的公孙敖、韩说、公孙贺、李蔡、李朔、赵不虞、公孙戎奴、李沮、李息、豆如意等。

元朔六年（公元前123年）二月，汉武帝又命卫青攻打匈奴。公孙敖为中将军，公孙贺为左将军，赵信为前将军，苏建为右将军，李广为后将军，李沮为强弩将军，分领六路大军，统归大将军卫青指挥，浩浩荡荡，从定襄出发，北进数百里，歼灭匈奴军数千名。这次战役中，汉武时另一将星，卫青的外甥霍去病率800精骑首次参战，取得了歼敌两千余人的辉煌战果。战后全军返回定襄休整，一个月后再次出塞，斩获匈奴军一万多名。但是，右将军苏建和前将军赵信与匈奴打了一场遭遇战，汉军死伤惨重，苏建突围逃回，赵信本是匈奴降将，兵败后就又投降了匈奴。

在讨论如何处置苏建弃军而逃的罪过时，有人建议将他斩首以建立大将军的威信，有人认为苏建是尽力而战的，不应斩首。卫青认为自己身为皇亲国戚，没有必要建立威信；自己本有权力可以处决部将，却不敢擅杀。他要做一个人臣不敢专权的榜样，于是把苏建用囚车送回长安由皇帝处理。汉武帝赦免了苏建的死罪，令其交纳了赎金后贬为平民。
元狩二年（公元前121年）春，西汉对匈奴的第二次大战役开始，此役由霍去病指挥，结果使汉朝完全控制了河西地区，切断了匈奴与羌人的联系。

元狩四年（公元前119年）春，大将军卫青、骠骑将军霍去病各率5万骑兵，分两路深入漠北，寻歼匈奴主力。并组织步兵数十万、马数万匹以保障作战。单于闻讯，转移辎重，部署精兵于大漠北缘，迎击汉军。
　　汉武帝原拟以霍去病部由定襄（今内蒙古和林格尔西北）北进，闻单于东去，乃改令其出代（今河北蔚县东北），命卫青部出定襄。
　　卫青从定襄出塞不久，从俘虏口中得知匈奴单于驻牧的地点，立刻令前将军李广与右将军赵食其合兵一处由东路前进，以掩护自己的侧翼并攻击单于军的左侧背，自己则率主力直奔单于军的主力，准备从正面迎敌。他率部向北行进干余里，穿越浩翰的大沙漠。抵达漠北后，“见单于兵陈而待”，卫青当机立断，创造性地运用车骑协同的新战术，命令部队以武刚车“自环为营”，以防止匈奴骑兵的突然袭击，而令5000骑兵出击匈奴。伊稚斜单于乃以万骑迎战。两军激战一天，未见胜败。

临近日落之时，突然“大风起，沙砾击面，两军不相见”，卫青乘势派军从左右两翼迂回，将单于的阵营包围起来。伊稚斜单于“视汉兵多面士马尚强，战而匈奴不利”，遂趁夜幕降临，跨上一匹善于奔跑的精骑，率领数百壮骑杀出重围向西北方向逃去。战至深夜，汉匈双方伤亡大致相当。汉军左校点视俘虏，发现单于已在天黑之前突围脱逃，卫青立即派轻骑追击，自率大军随后跟进（汉军左校捕虏言单于未昏而去，汉军因发轻骑夜追之，大将军军因随其后）。匈奴军溃散。至天明，汉军追击200余里，俘斩敌军1.9万余名，但未见单于踪影。卫青乘胜向北挺进，攻入颜山(今杭爱山南面的一支)赵信城，缴获了匈奴屯集的大批粮食和军用物资。汉军在此驻留一日，然后放火烧毁赵信城及城内未能运走的余粮，回师南下。

到达漠南之后，卫青与李广、赵食其会合。李广、赵食其从东路前进后，因无向导或向导死亡（军亡导），半道迷路而未能参战。卫青派人查问迷路的情况，曾经威震敌胆、被匈奴称为“汉之飞将军”的李广对部下说：“广结发与匈奴大小七十余战，今幸从大将军出接单于兵，而大将军徙广部行回远，又迷失道，岂非天哉！且广年六十余矣，终不能复对刀笔之吏。”遂拔刀自则。李老将军的自杀，使此役的胜利大为失色。
霍去病率校尉李敢等出塞后，同右北平郡(治今内蒙古宁城西南)太守路博德部会师，穿过大漠，与匈奴左贤王部遭遇。汉军力战，夺左贤王指挥旗鼓。匈奴兵溃逃。霍去病率部穷追，转战漠北，直至狼居胥山（今蒙古人民共和国乌兰巴托东，一说今内蒙古克什克腾旗西北）等地，深入2000余里，歼7万余人而还。

卫青为人谦让仁和，敬重贤才，从不以势压人。汉武帝要众臣子遇见卫青时以臣下之礼拜见，唯有汲黯只作揖，卫青不以为意，还经常向汲黯讨教。
《史记·卫将军骠骑将军列传》：大将军青既益尊，姊为皇后，然黯与亢礼。人或说黯曰：“自天子欲群臣下大将军，大将军尊重益贵，君不可以不拜。”黯曰：“夫以大将军有揖客，反不重邪？”大将军闻，愈贤黯，数请问国家朝廷所疑，遇黯过於平生。
后来，汉武帝对霍去病恩宠日盛，霍去病的声望超过了他的舅舅卫青，过去奔走于大将军门下的许多故旧，都转到了霍去病门下。卫青门前顿显冷落，可他不以为然，认为这也是人之常情，心甘情愿地过着恬淡平静的生活。但是霍去病与舅舅卫青的关系亲厚，后来李敢因为怨恨卫青导致父亲李广的自杀而刺伤卫青，于是霍去病射杀李敢为舅舅报仇。

卫青率军与匈奴作战，屡立战功，所得封邑总共有一万六千三百户。虽然战功显赫，权倾朝野，但从不结党干预政事。更不养士，苏建曾经劝告卫青养士以得到好名声，卫青认为养士会让天子忌讳，而且作为臣子只需要奉法遵职就可以了，何必去养士呢？而骠骑将军霍去病也跟舅舅卫青抱有同一种看法。
《史记·卫将军骠骑将军列传》：太史公曰：苏建语余曰：“吾尝责大将军至尊重，而天下之贤大夫毋称焉，原将军观古名将所招选择贤者，勉之哉。大将军谢曰：“自魏其、武安之厚宾客，天子常切齿。彼亲附士大夫，招贤绌不肖者，人主之柄也。人臣奉法遵职而已，何与招士。”骠骑亦放此意，其为将如此。
元封五年（公元前106年），大司马大将军卫青去世，谥号为“烈”（有功安民曰烈，秉德尊业曰烈）。汉武帝命人在自己的茂陵东边为卫青修建了一座象庐山（匈奴境内的一座山）的坟墓，以象征卫青一生的赫赫战功。平阳公主死后，与卫青合葬，汉时夫妻合葬不同穴，时至今日，茂陵仍能见卫青墓与平阳墓。