在壶衍鞮以后的虚闾权渠单于以至五单于争立的时代（汉宣帝地节二年至甘露元年，公元前68—前53年），匈奴的天灾也很严重，外患也不见减轻，而内乱则发展到不可收拾的地步。结果是匈奴不得不称臣于西汉，成为西汉的藩属。
自武帝时卫青、霍去病大败匈奴之后，匈奴的天灾不断地见于史书。儿单于在位时（公元前105—前102年），匈奴曾下过一场大雪，畜产多冻死。十余年后，在狐鹿姑的末年（公元前89年），雨雪连降数月，畜产死，人民疫病，谷稼不熟。在壶衍鞮的末年（公元前71年），又因大雪，人民死者什三，畜产什五。不出四年，虚闾权渠即位的初年（公元前68年），匈奴又闹饥荒，人民、畜产死亡十之六七。《汉书·五行志》指出，西汉在武帝时代的战争消耗，“师出三十余年，天下户口减半”。匈奴自军臣单于死后以至壶衍鞮单于的六十年中，因战争与天灾所消耗的人口恐怕不止匈奴人口之半数。至于畜物的损失以及领土的缩小，也是很为明显的。而且，游牧部族主要是肉食，主要畜物是牛、羊、马。一次天灾使这些畜物大量损失，是不能在很短的时间内恢复过来的。不像耕种的人们，今年因天灾使五谷受影响，明年还可得到丰收。所以匈奴因天灾而损失畜物，对于民食的影响尤为严重。
内乱最甚的时期是五单于的争立。争立历史的演变，有一个漫长的过程。在壶衍鞮死后，其弟左贤王立为虚闾权渠单于，引起内部一连串的不和与动乱。《汉书·匈奴传》说：
虚闾权渠单于立，以右大将女为大阏氏，而黜前单于所幸颛渠阏氏。颛渠阏氏父左大且渠怨望。
又记：
虚闾权渠单于立九年死（宣帝神爵二年，公元前60年）。自始立而黜颛渠阏氏，颛渠阏氏即与右贤王私通。右贤王会龙城而去，颛渠阏氏语以单于病甚，且勿远。后数日，单于死。郝宿王刑未央使人召诸王，未至，颛渠阏氏与其弟左大且渠都隆奇谋，立右贤王屠耆堂为握衍朐鞮单于。握衍朐鞮单于者，代父为右贤王，乌维单于耳孙也……单于初立，凶恶，尽杀虚闾权渠时用事贵人刑未央等，而任用颛渠阏氏弟都隆奇，又尽免虚闾权渠子弟近亲，而自以其子弟代之。虚闾权渠单于子稽侯 既不得立，亡归妻父乌禅幕。乌禅幕者，本乌孙、康居间小国，数见侵暴，率其众数千人降匈奴，狐鹿姑单于以其弟子日逐王姊妻之，使长其众，居右地。日逐王先贤掸，其父左贤王当为单于，让狐鹿姑单于，狐鹿姑单于许立之。国人以故颇言日逐王当为单于。日逐王素与握衍朐鞮单于有隙，即率其众数万骑归汉。汉封日逐王为归德侯。
日逐王既投降于汉，握衍朐鞮单于更立其从兄薄胥堂为日逐王。过了一年，他又杀了日逐王先贤掸的两个弟弟。乌禅幕劝他不要这样做，他不听。乌禅幕之女婚虚闾权渠之子稽侯 。如上面所指出，稽侯 不得继虚闾权渠为单于，而为握衍朐鞮代立，乌禅幕对于握衍朐鞮已生怨恨。现在单于又不听他的话，杀先贤掸之弟，乌禅幕对单于更加不满。
握衍朐鞮的暴虐杀伐，排斥异己，使好多贵人对他都不敬服，而生反叛之心，形成另立单于的后果。《汉书·匈奴传》说：
其后左奥鞬王死，单于自立其小子为奥鞬王，留庭。奥鞬贵人共立故奥鞬王子为王，与俱东徙。单于遣右丞相将万骑往击之，失亡数千人，不胜。时单于已立二岁，暴虐杀伐，国中不附。及太子、左贤王数谗左地贵人，左地贵人皆怨。其明年，乌桓击匈奴东边姑夕王，颇得人民，单于怒。姑夕王恐，即与乌禅幕及左地贵人共立稽侯 为呼韩邪单于。
这也是五单于争立的序幕。稽侯 既立为呼韩邪单于，握衍朐鞮当然不能容忍。可是握衍朐鞮单于尚未调兵征伐，呼韩邪已发左地兵四五万人，向西去攻击握衍朐鞮单于。呼韩邪的军队至姑且水北，还没有正式与握衍朐鞮单于会战，握衍朐鞮单于的兵已经败走。握衍朐鞮于是使人去向其弟右贤王求救，说：“匈奴共攻我，若肯发兵助我乎？”从“匈奴共攻我”这句话，可以看出怨恨和攻击他的人之多。他的弟弟右贤王见国人对握衍朐鞮都已反叛，大概是觉得大势已去，就是帮助也无济于事，而且他对哥哥的行为也不满意。所以他对哥哥的使者说：“若不爱人，杀昆弟诸贵人。各自死若处，无来污我。”握衍朐鞮觉得众叛亲离，大势无可挽回，结果自杀而死。从他继立至自杀（宣帝神爵四年，公元前58年），只有三年。
握衍朐鞮单于自杀后，他的民众完全投降于呼韩邪单于。曾与其姐颛渠阏氏谋立握衍朐鞮单于的左大且渠都隆奇，便跑到了右贤王的地方。右贤王虽然不满其兄的行为而任其失败自杀，但也不见得赞成呼韩邪为单于。他收容了都隆奇，可能也收容了颛渠阏氏，这些人都是呼韩邪的敌人。这一行动，使呼韩邪单于对他很猜忌。呼韩邪认为，虽然他是目前唯一的单于，但是右贤王与其他一些贵人还不服他。
握衍朐鞮自杀之后，呼韩邪就来到单于庭，但并没有乘胜去攻击右贤王。此时，他一方面在民间找到其兄呼屠吾斯，立之为左谷蠡王，这就是后来的郅支单于；一方面在数月之后，又把他统率的大量军队遣回故地。同时，他又遣人去说服右贤王的贵人，希望他们把右贤王杀死。这当然就引起了右贤王的反抗。宣帝神爵四年冬，都隆奇与右贤王谋立握衍朐鞮的从兄日逐王薄胥堂为屠耆单于，并且发兵数万去攻击呼韩邪单于。这次战争的结果是呼韩邪失败，于是他不得不逃跑。
屠耆单于胜利归来，即以其长子都涂吾西为左谷蠡王，而以其少子姑瞀楼头为右谷蠡王。他们都留在单于王庭。呼韩邪虽然战败逃跑，但仍然设法召集部众，准备再攻屠耆。过了一年，匈奴的内乱更趋严重。除了呼韩邪单于与屠耆单于，又有数人自称“单于”，互相征伐，成为一个大混战的时代。《汉书·匈奴传》简述其情况如下：
明年（宣帝五凤元年，公元前57年）秋，屠耆单于使日逐王先贤掸兄右奥鞬王为乌藉都尉，各二万骑，屯东方以备呼韩邪单于。是时，西方呼揭王来与唯犁当户谋，共谗右贤王，言欲自立为乌藉单于。屠耆单于杀右贤王父子，后知其冤，复杀唯犁当户。于是呼揭王恐，遂畔去，自立为呼揭单于。
呼韩邪单于、屠耆单于之外，又加上一位呼揭单于，是三位单于。呼揭王立为单于之后，“右奥鞬王闻之，即自立为车犁单于”，这是第四位单于了。之后，“乌藉都尉亦自立为乌藉单于”，这又是一位单于。至此，共有了五位单于。呼揭、车犁、乌藉三位单于本来都是屠耆单于的部下，他们自立为单于，使屠耆单于的势力削弱，这是屠耆单于不能容忍的。于是，他亲自率兵东击车犁单于，并使都隆奇攻乌藉单于。车犁单于与乌藉单于皆失败，乃跑到西北与呼揭单于联合起来，共有四万兵。呼揭单于与乌藉单于均除去“单于”称号，而拥护车犁单于。结果是从五位单于减为三位单于，这就是呼韩邪单于、屠耆单于与车犁单于。
这个时候，在地域上呼韩邪在东边，车犁在西边，而屠耆居于中间。屠耆得知呼揭与乌藉去了“单于”称号，拥护车犁为单于，于是遣左大将、都尉带领四万骑屯驻在东边以防呼韩邪，自己带领四万骑向西南去攻击车犁单于。结果是车犁单于又败，向西北逃去。屠耆攻败车犁之后，遂引兵向西南，居留在 敦地。
呼韩邪乘屠耆忙于征伐之际，有充分的时间去准备部队。第二年（公元前56年），他乃遣其弟右谷蠡王等西击屠耆单于的屯兵。这次攻击，右谷蠡王胜利了，屠耆的部下损失了万余人。屠耆得到这个消息之后，亲自率六万骑去攻击呼韩邪。他行了一千里的路程，还没有到嗕姑地，就遇上呼韩邪的军队（约四万人）。二者会战，结果是屠耆大败自杀。都隆奇与屠耆的幼子右谷蠡王姑瞀楼头向南逃跑，投降西汉。同时，跑到西北的车犁单于也率众投降呼韩邪单于。
这么一来，呼韩邪这时成了唯一的单于。然而，此时匈奴的形势还是十分混乱。呼韩邪自己的左大将乌厉屈与父呼遫累乌厉温敦见匈奴这样混乱，也率其众数万人向西汉投降。西汉封乌厉屈为新城侯，乌厉温敦为义阳侯。
由五位单于只剩下一位后，呼韩邪似乎可以太平无事了。然而正在这个时候，李陵之子又立乌藉都尉为单于，但是不久被呼韩邪杀死。
呼韩邪杀了乌藉单于之后，重都于单于庭，不过众才数万人。这时又有另二人自称“单于”。一为屠耆单于从弟休旬王，在西边自立为闰振单于；一为呼韩邪的哥哥呼屠吾斯，在东边自立为郅支骨都侯单于。这样，匈奴又有了三位单于——呼韩邪单于、闰振单于与郅支单于。
过了两年，即宣帝五凤四年（公元前54年），闰振单于率其众东击郅支单于，郅支单于与之会战，结果是闰振单于被杀死，败兵降于郅支单于。郅支乘胜进攻他的弟弟呼韩邪单于，呼韩邪被攻败，郅支单于都于单于庭。
《汉书》记载匈奴这段历史，谓为“五单于之乱”，其实也可以说“七单于之乱”。最后剩了二位单于，一为呼韩邪单于，一为郅支单于。这是公元前54年的事情。呼韩邪失败后，逃到南边，后来降汉称臣。郅支单于虽然占领了单于庭，但见呼韩邪单于受西汉保护，难于攻破，于是逐渐向西北迁徙，最后到达康居。在元帝建昭三年（公元前36年），也就是他攻败呼韩邪的十八年后，被西汉甘延寿与陈汤杀死。呼韩邪单于降汉以前，本来是居近西汉边塞，与郅支的单于庭分别称为南、北匈奴，及至郅支西迁之后，呼韩邪又回到单于庭。所谓的南、北匈奴，在郅支单于还在西边而被杀死之前实际成为东、西匈奴。
在虚闾权渠以至五单于争立的时期，从表面上看起来，匈奴的外患好像没有内乱那么厉害，但其实也很严重。尤其是在这个时期里，匈奴在西域的势力从根本上被打垮。这种外患当然与内乱有关系，可以说二者是互为因果的。
除东方的乌桓外，北边的丁令尤为猖獗。匈奴攻乌孙失败后，丁令便乘机攻击匈奴的北边。到了虚闾权渠的时期，《汉书·匈奴传》指出，丁令“比三岁入盗匈奴”。一个久为匈奴所臣服的部族，现在却常常侵略匈奴，这说明匈奴北边防备的薄弱。
虚闾权渠即位后，西汉见匈奴已十分虚弱，不能为害，曾罢边塞的军队以休养人民。虚闾权渠本来也欲与西汉和亲，可是他中了政敌的计谋，又入寇西汉，结果失败。《汉书·匈奴传》说：
虚闾权渠单于立……是时匈奴不能为边寇，于是汉罢外城，以休百姓。单于闻之喜，召贵人谋，欲与汉和亲。左大且渠心害其事，曰：“前汉使来，兵随其后，今亦效汉发兵，先使使者入。”乃自请与呼卢訾王各将万骑南旁塞猎，相逢俱入。行未到，会三骑亡降汉，言匈奴欲为寇。于是天子诏发边骑屯要害处，使大将军军监治众等四人将五千骑，分三队，出塞各数百里，捕得虏各数十人而还。时匈奴亡其三骑，不敢入，即引去。
就在这一年，匈奴怕西汉攻击，曾发两万骑兵分住两个地方，以防备西汉。可是《汉书·匈奴传》又说：
其秋，匈奴前所得西嗕居左地者，其君长以下数千人皆驱畜产行，与瓯脱战，所战杀伤甚众，遂南降汉。
此外，如上面所指出，日逐王与乌厉屈及其父投降西汉，人数达十余万，所以宣帝五凤三年（公元前55年）要置西河、北地属国，以安处匈奴降者。
虚闾权渠在宣帝神爵二年（公元前60年），曾将十余万骑“旁塞猎”，其民题除渠堂亡降汉，把这个消息告诉西汉。西汉遣赵充国将二万余骑去迎击，但不久单于呕血死，因而罢兵。
匈奴西边的西域地方，自霍去病攻祁连山与浑邪王降汉之后，西汉已可以直接与西域诸国交通，联络乌孙，征伐楼兰与车师，使匈奴在西域的势力差不多完全丧失了。
虚闾权渠单于即位时，匈奴开始衰弱，被迫向西方迁徙，因而重新与汉争夺西域诸国。双方对交通要道车师的争夺尤为激烈。《汉书·西域传下》“车师后城长国”条说：“宣帝即位，遣五将将兵击匈奴，车师田者惊去，车师复通于汉。匈奴怒，召其太子军宿，欲以为质。军宿，焉耆外孙，不欲质匈奴，亡走焉耆。车师王更立子乌贵为太子。及乌贵立为王，与匈奴结婚姻，教匈奴遮汉道通乌孙者。”这是宣帝本始二年（公元前72年）的事情。同条又说：
地节二年（公元前68年，即虚闾权渠即位的那一年），汉遣侍郎郑吉、校尉司马憙将免刑罪人田渠犁，积谷，欲以攻车师。至秋收谷，吉、憙发城郭诸国兵万余人，自与所将田士千五百人共击车师，攻交河城，破之。王尚在其北石城中，未得，会军食尽，吉等且罢兵，归渠犁田。收秋毕，复发兵攻车师王于石城。王闻汉兵且至，北走匈奴求救，匈奴未为发兵。王来还，与贵人苏犹议欲降汉，恐不见信。苏犹教王击匈奴边国小蒲类，斩首，略其人民，以降吉。车师旁小金附国随汉军后盗车师，车师王复自请击破金附。
匈奴闻车师降汉，发兵攻车师，吉、憙引兵北逢之，匈奴不敢前。吉、憙即留一候与卒二十人留守王，吉等引兵归渠犁。车师王恐匈奴兵复至而见杀也，乃轻骑奔乌孙，吉即迎其妻子，置渠犁。东奏事，至酒泉，有诏还田渠犁及车师，益积谷以安西国，侵匈奴。吉还，传送车师王妻子诣长安，赏赐甚厚，每朝会四夷，常尊显以示之。于是吉始使吏卒三百人别田车师。得降者，言单于大臣皆曰：“车师地肥美，近匈奴，使汉得之，多田积谷，必害人国，不可不争也。”果遣骑来击田者，吉乃与校尉尽将渠犁田士千五百人往田，匈奴复益遣骑来，汉田卒少不能当，保车师城中。匈奴将即其城下，谓吉曰：“单于必争此地，不可田也。”围城数日乃解。后常数千骑往来害车师，吉上书言：“车师去渠犁千余里，间以河山，北近匈奴，汉兵在渠犁者势不能相救，愿益田卒。”
宣帝得了郑吉的奏疏后，曾与后将军赵充国等商议，以为匈奴已经很为衰弱，欲出兵击其右地，使匈奴不能再去扰乱西域。可是魏相却反对这种做法，《汉书·魏相传》载他上书谏曰：
臣闻之，救乱诛暴，谓之义兵，兵义者王；敌加于己，不得已而起者，谓之应兵，兵应者胜；争恨小故，不忍愤怒者，谓之忿兵，兵忿者败；利人土地货宝者，谓之贪兵，兵贪者破；恃国家之大，矜民人之众，欲见威于敌者，谓之骄兵，兵骄者灭。此五者，非但人事，乃天道也。间者匈奴尝有善意，所得汉民辄奉归之，未有犯于边境，虽争屯田车师，不足致意中。今闻诸将军欲兴兵入其地，臣愚不知此兵何名者也。今边郡困乏，父子共犬羊之裘，食草莱之实，常恐不能自存，难以动兵。“军旅之后，必有凶年”，言民以其愁苦之气，伤阴阳之和也。出兵虽胜，犹有后忧，恐灾害之变因此以生。今郡国守相多不实选，风俗尤薄，水旱不时。案今年计，子弟杀父兄、妻杀夫者，凡二百二十二人，臣愚以为此非小变也。今左右不忧此，乃欲发兵报纤介之忿于远夷，殆孔子谓“吾恐季孙之忧，不在颛臾而在萧墙之内”也。愿陛下与平昌侯、乐昌侯、平恩侯及有识者详议乃可。
宣帝听了魏相的话，不再遣兵去攻击匈奴右地。但因郑吉还被困在车师，于是诏遣长罗侯常惠将张掖、酒泉的骑兵出车师北千余里，目的并非攻击匈奴，而是要扬威耀武。果然，匈奴以为汉兵来攻，引兵而去，郑吉之围乃解，归渠犁。
《汉书·西域传》又说：
车师王之走乌孙也，乌孙留不遣，遣使上书，愿留车师王，备国有急，可从西道以击匈奴。汉许之。于是汉召故车师太子军宿在焉耆者，立以为王，尽徙车师国民令居渠犁，遂以车师故地与匈奴。车师王得近汉田官，与匈奴绝，亦安乐亲汉。后汉使侍郎殷广德责乌孙，求车师王乌贵，将诣阙，赐第与其妻子居。是岁，元康四年（公元前62年）也。
西汉要乌孙送车师王到汉，这里所说乌贵“将诣阙”，似应是遣车师王乌贵诣阙，以与其已在汉之妻子同居。
到了宣帝神爵二年（公元前60年），西汉又遣兵攻伐车师。攻破其残余部众后，分车师为车师前国、车师后国及山北六国，这就是东且弥、西且弥、前卑陆、后卑陆、前蒲类、后蒲类，共六国，合前、后车师成为八国。这就分散了车师的力量，免得它亲善匈奴对抗西汉。同时，又置戊己校尉屯田，居车师故地。
以上是在虚闾权渠时代，西汉与匈奴争取车师的经过。为什么西汉要这样争取车师？主要原因就是车师居西域北道的交通要冲。假使西汉不能控制车师，则西汉使者或军队之往西域者往往要绕南道而行，能通北道，则方便得多。
然而，西域北道所以能通，与上面所说的匈奴日逐王先贤掸率数万众降汉有关。先贤掸不满握衍朐鞮，因而率众降汉。西汉派郑吉去迎接日逐王，封为归德侯，郑吉为安远侯。日逐王既降，在他管辖下的僮仆都尉也因之而罢。匈奴在西域的势力可以说根本消灭，匈奴愈弱愈不敢近西域。
西汉在日逐王投降之后，“徙屯田，田于北胥鞬”，同时以郑吉为西域都护，并护南、北两道。都护的职责，就是“督察乌孙、康居诸外国动静，有变以闻，可安辑，安辑之；可击，击之”1 。这就是说，都护所控制的西域地域，不限于葱岭以东的西域诸国，而且伸展到葱岭以西的康居等一些国家。至此，匈奴的右臂完全被切断了。这也是呼韩邪不得不向西汉投降，郅支也不得不再向西北迁徙到葱岭以西的康居的重要原因。
在从虚闾权渠单于至五单于争立的时期中，冯奉世之平莎车与赵充国之定西羌，虽与匈奴没有直接的军事接触，然在间接上与匈奴并非没有关系，也可以说是一种“断匈奴右臂”的行动，是匈汉战争的组成部分。所以这里也略为叙述，作为附录。《汉书·冯奉世传》说：
先是时，汉数出使西域，多辱命不称，或贪污，为外国所苦。是时乌孙大有击匈奴之功（按，事在宣帝本始二年，即公元前72年），而西域诸国新辑，汉方善遇，欲以安之，选可使上国者。前将军（韩）增举奉世以卫候使持节送大宛诸国客。至伊修城，都尉宋将言莎车与旁国共攻杀汉所置莎车王万年，并杀汉使者奚充国。时匈奴又发兵攻车师城，不能下而去。莎车遣使扬言北道诸国已属匈奴矣，于是攻劫南道，与歃盟畔汉，从鄯善以西皆绝不通。
莎车王扬言“北道诸国已属匈奴”，这不仅说明他用匈奴以威吓诸国，而且表明他可能要与匈奴亲善。假使冯奉世没有攻灭莎车，可能莎车与南道诸国还要投降匈奴。匈奴虽已衰弱，但在西域还有余威，所以莎车王乃用匈奴来号召诸国。同传又说：
都护郑吉、校尉司马憙皆在北道诸国间。奉世与其副严昌计，以为不亟击之，则莎车日强，其势难制，必危西域。遂以节谕告诸国王，因发其兵，南北道合万五千人进击莎车，攻拔其城。莎车王自杀，传其首诣长安。诸国悉平，威振西域。奉世乃罢兵以闻。宣帝召见韩增，曰：“贺将军所举得其人。”奉世遂西至大宛。大宛闻其斩莎车王，敬之异于它使。得其名马象龙而还。
宣帝因为奉世平定莎车，使西汉威震西域，下议封奉世。为了这件事，大臣们意见有所不同，结果没有封他。同传又说：
丞相、将军皆曰：“《春秋》之义，大夫出疆，有可以安国家，则颛之可也。奉世功效尤著，宜加爵土之赏。”少府萧望之独以奉世奉使有指，而擅矫制违命，发诸国兵，虽有功效，不可以为后法。即封奉世，开后奉使者利，以奉世为比，争逐发兵，要功万里之外，为国家生事于夷狄。渐不可长，奉世不宜受封。
宣帝采纳了萧望之的提议，没有封冯奉世，而以他为光禄大夫、水衡都尉。冯奉世死后二年（公元前36年），陈汤、甘延寿矫制发兵攻杀郅支单于时，又有人提议要封甘延寿与陈汤，匡衡则以萧望之的理由反对，但是这次元帝却封他们为侯。于是杜钦上疏追讼冯奉世的前功，可是元帝以为这是先帝时的事，不复录，故没有追封。
班固在《汉书·西域传赞》中说：“孝武之世，图制匈奴，患其兼从西国，结党南羌。”那么，羌与匈奴的关系可以概见。严格地说，西羌是不列入西域诸国，而自成一个部族的。《后汉书》于《西域传》之外，另为西羌立传，大概就是这个意思。在虚闾权渠单于与宣帝的时候，先零羌反叛，西汉遣赵充国去攻击。《汉书·赵充国传》说：
元康三年（公元前63年），先零遂与诸羌种豪二百余人解仇交质盟诅。上闻之，以问充国，对曰：“羌人所以易制者，以其种自有豪，数相攻击，势不壹也。往三十余岁，西羌反时，亦先解仇合约攻令居，与汉相距，五六年乃定。至征和五年（公元前88年），先零豪封煎等通使匈奴，匈奴使人至小月氏，传告诸羌曰：‘汉贰师军众十余万人降匈奴。羌人为汉事苦。张掖、酒泉本我地，地肥美，可共击居之。’以此观匈奴欲与羌合，非一世也。间者匈奴困于西方，闻乌桓来保塞，恐兵复从东方起，数使使尉黎、危须诸国，设以子女貂裘，欲沮解之。其计不合。疑匈奴更遣使至羌中，道从沙阴地，出盐泽，过长阬，入穷水塞，南抵属国，与先零相直。臣恐羌变未止此，且复结联他种，宜及未然为之备。”后月余，羌侯狼何果遣使至匈奴借兵，欲击鄯善、敦煌，以绝汉道。
又说：
充国以为：“狼何，小月氏种，在阳关西南，势不能独造此计，疑匈奴使已至羌中，先零、 、开乃解仇作约。到秋马肥，变必起矣。宜遣使者行边兵豫为备，敕视诸羌，毋令解仇，以发觉其谋。”
这样看起来，西羌的叛变往往与匈奴有关系。西汉征伐西羌，不仅是削减西羌的势力，也是阻止匈奴势力的伸张。平定西羌，虽非直接与匈奴打仗，也是间接地削弱匈奴的势力。关于元康三年至神爵元年西汉平定西羌的经过，《汉书·赵充国传》说得很详细，不再抄录。《后汉书·西羌传》说：
至元康三年，先零乃与诸羌大共盟誓，将欲寇边。帝闻，复使安国将兵观之。安国至，召先零豪四十余人斩之，因放兵击其种，斩首千余级。于是诸羌怨怒，遂寇金城。乃遣赵充国与诸将兵六万人击破平之。
赵充国领兵击西羌时，年已七十。宣帝以为他年老不能领兵，他却坚持出击。赵充国在过去曾经领兵攻击过匈奴好多次，对于匈奴与西羌的结党有清楚的了解。
1 《汉书·西域传上》。
