单于舆即位时，其弟伊屠知牙师是右谷蠡王，照次序排列，伊屠知牙师应该升为左贤王，也就是单于的储副。但是单于舆欲传位于子，遂把伊屠知牙师杀死了。这是自呼韩邪单于以来几十年中所没有发生过的事情，说明匈奴内部又因争立发生问题。尸道皋单于舆既杀弟伊屠知牙师，他的侄儿比（乌珠留单于的儿子）对他很不满意，出怨言说：“以兄弟言之，右谷蠡王次当立；以子言之，我前单于长子，我当立。”他因怨恨而猜惧，很少到单于庭会见。单于对他也怀疑起来，彼此互相猜忌。单于乃遣两位骨都侯监领比所部的兵众。比在这个时候是右奥鞬日逐王，统治的地方在南边，与乌桓接近。
尸道皋单于舆在位二十八年，死于汉光武帝建武二十二年（公元46年）。他的儿子左贤王乌达鞮侯立为单于，不到一年又死了，弟左贤王蒲奴继立为单于。比因为不得立为单于，更为怨恨。正在这个时候，匈奴又有严重的天灾。《后汉书·南匈奴列传》说：“而匈奴中连年旱蝗，赤地数千里，草木尽枯，人畜饥疫，死耗太半。”这是从呼韩邪称臣，经过百年左右的休养生息，匈奴逐渐复兴以来最严重的天灾。蒲奴单于害怕汉朝乘机来攻击，于是遣使到渔阳请求和亲，汉朝亦遣中郎将李茂报命。同时，比也密遣汉人郭衡奉匈奴地图，于建武二十三年（公元47年）来见西河太守，表示愿意内附。比这种计谋被监领他的部兵的两位骨都侯知道，在五月会龙城的时候，他们告诉单于说：“奥鞬日逐夙来欲为不善，若不诛，且乱国。”他们的谈话被正在单于帐下的比的弟弟渐将王听到，马上跑去报告比，比害怕起来，集合他所领南边八部兵众四五万人，严阵以待，等两位骨都侯回来时伺机杀死他们。两位骨都侯回来时，发觉比的企图，于是轻骑跑回去报告单于。单于乃遣万余人征伐比，当骑兵接近比所领的军队时，见到比已有准备，人数又多于单于派来的兵队，便不战而退。
建武二十四年（公元48年），南边八部大人共同计议，立比为呼韩邪单于。为什么叫作“呼韩邪单于”呢？《后汉书·南匈奴列传》说：“以其大父尝依汉得安，故欲袭其号。”《后汉书·南匈奴列传》一开头就说比是 落尸逐鞮单于，有两个称号：一为他自己的称号，一为袭继他祖父的称号。比既自立为单于，乃率其部众到五原塞，上书光武帝，愿意永远为汉朝的藩蔽，以防备蒲奴单于所部。自此，匈奴遂永远分裂为南、北两部。《后汉书·光武帝纪下》“二十三年”条说：“是岁，匈奴奥鞬日逐王比率部曲遣使诣西河内附。”同处又云：“二十四年春正月乙亥……匈奴奥鞬日逐王比遣使款五原塞，求扞御北虏。”又云：“冬十月，匈奴奥鞬日逐王比自立为南单于，于是分为南、北匈奴。”又，《后汉书·耿弇列传》说：“及匈奴奥鞬日逐王比自立为呼韩邪单于，款塞称藩，愿扞御北虏。事下公卿。议者皆以为天下初定，中国空虚，夷狄情伪难知，不可许。（弇弟）国独曰：‘臣以为宜如孝宣故事受之，令东扞鲜卑，北拒匈奴，率厉四夷，完复边郡，使塞下无晏开之警，万世安宁之策也。’帝从其议，遂立比为南单于。由是乌桓、鲜卑保塞自守，北虏远遁，中国少事。”
匈奴历史上有过两次较大的分裂，都是由天灾、外患和内乱造成的。一次是在呼韩邪单于的时候，曾一度分为南、北匈奴。呼韩邪在南边，得到汉朝的卫护；郅支骨都侯单于在北边，不久又离开单于庭向西迁徙。郅支西迁后，呼韩邪北归单于庭，这时候的匈奴可以叫作东、西匈奴。公元36年，郅支骨都侯单于被汉朝攻灭，呼韩邪成为唯一的单于，匈奴结束分裂，又统一起来。第一次分裂前后约二十年时间，是一次短暂的分裂。再一次就是比被立为南单于后分裂为南、北匈奴，分裂的时间长，自此以后匈奴再也没有统一起来。自单于比以后，南匈奴皆称臣于汉朝。
单于比归附汉朝之后，遣使到汉朝贡献称臣，请求汉朝遣使者去监护。《后汉书·南匈奴列传》说：“南单于复遣使诣阙，奉藩称臣，献国珍宝，求使者监护，遣侍子，修旧约。”汉朝方面于建武二十六年（公元50年）“遣中郎将段郴、副校尉王郁使南单于，立其庭，去五原西部塞八十里”。“单于乃延迎使者。使者曰：‘单于当伏拜受诏。’单于顾望有顷，乃伏称臣。”1 段郴与王郁回到洛阳之后，光武帝又诏南单于入居云中，单于比遣使上书，献骆驼二头，文马十匹。不久，单于比又遣子入侍。《后汉书·南匈奴列传》说：“秋，南单于遣子入侍，奉奏诣阙。诏赐单于冠带、衣裳、黄金玺、盭 绶，安车羽盖，华藻驾驷，宝剑弓箭，黑节三，驸马二，黄金、锦绣、缯布万匹，絮万斤，乐器鼓车、桀戟甲兵，饮食什器。又转河东米糒二万五千斛，牛羊三万六千头，以赡给之。令中郎将置安集掾史将 刑五十人，持兵弩随单于所处，参辞讼，察动静。”
东汉王朝派员驻守南匈奴单于庭，监督政务，是匈汉关系的一个重要转折点。因为这不仅是监视单于的行动，并且参与匈奴的政务。所谓“参辞讼”，就是解决匈奴人民之间的争执，汉朝的中郎将掾史也得参加。《后汉书·南匈奴列传》说：“异姓有呼衍氏、须卜氏、丘林氏、兰氏四姓，为国中名族，常与单于婚姻。呼衍氏为左，兰氏、须卜氏为右，主断狱听讼，当决轻重，口白单于，无文书簿领焉。”汉朝官吏“参辞讼”，是汉朝干预单于固有权力的一种表现，南匈奴正式沦为东汉藩属。《后汉书·南匈奴列传》说：“单于岁尽辄遣奉奏，送侍子入朝，中郎将从事一人将领诣阙。汉遣谒者送前侍子还单于庭，交会道路。元正朝贺，拜祠陵庙毕，汉乃遣单于使，令谒者将送，赐 缯千匹，锦四端，金十斤，太官御食酱及橙、橘、龙眼、荔枝；赐单于母及诸阏氏、单于子及左右贤王、左右谷蠡王、骨都侯有功善者， 缯合万匹。岁以为常。”赐给南匈奴的礼物比前汉还多，目的也可以说是笼络他们，使其不致叛变，长久称臣，防备北匈奴的侵略，使汉朝的边境得到安宁。
单于比归附汉朝后，东汉开始结束光武以来的消极防御政策，向北匈奴发动军事和政治攻势。建武二十五年（公元49年），光武帝遣兵去攻击北匈奴，得到大胜利。《后汉书·南匈奴列传》说：“二十五年春，遣弟左贤王莫将兵万余人击北单于弟奥鞬左贤王，生获之；又破北单于帐下，并得其人合万余人，马七千匹、牛羊万头。北单于震怖，却地千里……北部奥鞬骨都侯与右骨都侯率众三万余人来归南单于。”北匈奴的逃跑，减少了南匈奴和汉朝边境的威胁，但北匈奴仍保持着相当强大的实力。
不久，南匈奴内部乱了起来。《后汉书·南匈奴列传》说：“（建武二十六年）夏，南单于所获北虏奥鞬左贤王将其众及南部五骨都侯合三万余人畔归，去北庭三百余里，共立奥鞬左贤王为单于。月余日，更相攻击，五骨都侯皆死，左贤王遂自杀，诸骨都侯子各拥兵相守”。又说：“冬，前畔五骨都侯子复将其众三千人归南部，北单于使骑追击，悉获其众。南单于遣兵拒之，逆战不利。”南匈奴因内部反叛，抵抗北匈奴的战争失利，损失很大。汉王朝不得不把他们迁到比较安全、水草较丰富的地方去，同时使南匈奴进一步受到控制。《后汉书·南匈奴列传》说：“于是复诏单于徙居西河美稷，因使中郎将段郴及副校尉王郁留西河拥护之，为设官府、从事、掾史。令西河长史岁将骑二千， 刑五百人，助中郎将卫护单于，冬屯夏罢。自后以为常，及悉复缘边八郡。”这与西汉宣帝时呼韩邪入朝称臣，返回时汉朝遣董忠与韩昌将兵护送回去，并留兵在单于庭护卫有所不同：第一，西汉遣兵护卫呼韩邪的时间不过数年，而东汉遣兵护卫南单于的时间较长；第二，西汉对呼韩邪的监督，没有东汉时对单于比的监督那么严密，因东汉除遣将领兵住单于庭外，还为之设官府、掾史助中郎将卫护单于。“匈奴中郎将”自此成为东汉一个常设的官职。《后汉书·百官志》说：“使匈奴中郎将一人，比二千石。本注曰：主护南单于。置从事二人，有事随事增之，掾随事为员。”
东汉控制南匈奴，大致依照匈奴传统官制，分地而治。《后汉书·南匈奴列传》说：“南单于既居西河，亦列置诸部王，助为扞戍。使韩氏骨都侯屯北地，右贤王屯朔方，当于骨都侯屯五原，呼衍骨都侯屯云中，郎氏骨都侯屯定襄，左南将军屯雁门，栗籍骨都侯屯代郡，皆领部众为郡县侦罗耳目。”南单于及其部王所屯居的地方都是汉朝的北部边境，相当于现代的察哈尔、绥远、宁夏一带。从此，匈奴与汉朝接触频繁，两大民族逐渐融合。第一，匈奴人与汉人杂居乃至互为婚姻，使民族互相混杂。晋代“五胡乱华”的胡人，有很多是这些人的子孙。第二，匈奴人迁居到这些地方之后，受汉族文化影响逐渐加深，有不少人舍弃游牧而从事耕种，使游牧生活逐渐变为定居生活。
自南匈奴单于比徙居西河之后，北匈奴单于把略来的一部分汉人归还汉朝，以表亲善之意。但他并未停止南下，不过主要目的在于攻击南匈奴，而尽量避免与汉朝军队直接冲突。《后汉书·南匈奴列传》说：“钞兵每到南部下，还过亭候，辄谢曰：‘自击亡虏奥鞬日逐耳，非敢犯汉人也。’”
北匈奴愿对汉朝亲善的表示，还可以光武帝建武二十七年（公元51年）请求和亲为例。北匈奴遣使请求和亲，汉朝在讨论的时候，公卿们意见颇为分歧，后来太子说：“南单于新附，北虏惧于见伐，故倾耳而听，争欲归义耳。今未能出兵，而反交通北虏，臣恐南单于将有二心，北虏降者且不复来矣。”光武帝觉得这个意见是对的，所以告诉武威太守勿受其使。这使北单于很为失望。但他并不因此停止对汉朝亲善的政策，过了一年，又遣使到汉朝京都贡献马及裘，同时提出：（一）请求和亲，（二）请赐音乐，（三）请求率西域诸国胡客同来朝献。汉朝公卿们意见仍是分歧，最后，司徒掾班彪上书，提出自己的意见，并预备了回答北匈奴单于的信给光武帝看。班彪的意见是，承认南匈奴单于的合法地位，与北匈奴相持，《后汉书·南匈奴列传》载其奏疏说：“羁縻之义，礼无不答。谓可颇加赏赐，略与所献相当，明加晓告以前世呼韩邪、郅支行事。”班彪为光武帝所拟答北匈奴单于书说：“单于不忘汉恩，追念先祖旧约，欲修和亲，以辅身安国，计议甚高，为单于嘉之。往者，匈奴数有乖乱，呼韩邪、郅支自相仇隙，并蒙孝宣皇帝垂恩救护，故各遣侍子称藩保塞。其后郅支忿戾，自绝皇泽，而呼韩附亲，忠孝弥著。及汉灭郅支，遂保国传嗣，子孙相继。今南单于携众南向，款塞归命。自以呼韩嫡长，次第当立……又以北单于比年贡献，欲修和亲，故拒而未许，将以成单于忠孝之义。汉秉威信，总率万国，日月所照，皆为臣妾。殊俗百蛮，义无亲疏，服顺者褒赏，畔逆者诛罚，善恶之效，呼韩、郅支是也……今赍杂缯五百匹，弓鞬 丸一，矢四发，遣遗单于。又赐献马左骨都侯、右谷 王杂缯各四百匹，斩马剑各一。单于前言先帝时所赐呼韩邪竽、瑟、空侯皆败，愿复裁（赐）。念单于国尚未安，方厉武节，以战攻为务，竽瑟之用不如良弓利剑，故未以赍。朕不家小物，于单于便宜所欲，遣驿以闻。”2
光武帝完全采纳了班彪的意见。东汉对于南匈奴与北匈奴的政策，类似西汉宣帝时对呼韩邪与郅支的政策，一方面庇护南匈奴，一方面又不绝北匈奴。相比较则更厚待南匈奴，正如西汉宣帝时“两单于俱遣使朝献，汉待呼韩邪使有加”。《后汉书·南匈奴列传》说：“（建武）二十九年，赐南单于羊数万头。三十一年，北匈奴复遣使如前，乃玺书报答，赐以 缯，不遣使者。”东汉南匈奴与西汉南匈奴有一不同点，就是西汉时呼韩邪单于经过数次大败之后，称臣于汉朝，他自己力量薄弱，请求汉朝庇护，以求得南匈奴的安定，没有力量攻打北匈奴。而郅支以呼韩邪有汉朝的卫护，也不敢南下侵袭，尤惧怕汉朝助呼韩邪北归，所以自己向西迁移，南、北匈奴没有再发兵互相争伐。但是，东汉南匈奴单于比自归附汉朝之后，自始至终都请求汉朝发兵帮助他攻击北单于，企图统一匈奴各部。他自称为单于之后不久，就遣其弟左贤王莫将兵北击北匈奴，北匈奴也就时时发兵攻伐南匈奴，双方不断战争。
在北匈奴请求的数项事中，值得注意的是北单于请赐音乐。史书没有记载南单于请赐乐器事。光武帝建武二十六年秋，南单于遣子入侍，汉朝除赐许多礼物外，还赐给乐器。建武二十八年，北匈奴复遣使请求和亲，并请赐音乐。汉朝以北单于“国尚未安，方厉武节，以战攻为务”，不赐给乐器。这是汉朝厚南匈奴而轻北匈奴的一种表示。
再一个值得注意的是，北匈奴请求率西域诸国胡客来朝献，汉朝以“西域属匈奴与属汉何异”的大道理加以拒绝。自南匈奴归附汉朝以后，西域诸国皆倾向于汉。北匈奴欲率西域诸国来朝献，一方面是要把自己当作西域诸国的领袖，一方面是要向汉朝显示其深得西域诸国归心，借以抬高自己的政治地位。也说明北匈奴尚具有与汉朝相抗的实力，进而巩固对西域诸国的控制，离间西域、乌桓等与东汉的关系。
在南匈奴单于比归附东汉以后，光武帝建武二十五年，辽西乌桓大人郝旦等也率众内属。《资治通鉴·汉纪三十六》“建武二十五年”条说：
是岁，辽西乌桓大人郝旦等率众内属，诏封乌桓渠帅为侯、王、君长者八十一人，使居塞内，布于缘边诸郡，令招来种人，给其衣食，遂为汉侦候，助击匈奴、鲜卑。时司徒掾班彪上言：“乌桓天性轻黠，好为寇贼，若久放纵而无总领者，必复掠居人，但委主降掾吏，恐非所能制。臣愚以为宜复置乌桓校尉，诚有益于附集，省国家之边虑。”帝从之，于是始复置校尉于上谷宁城，开营府，并领鲜卑，赏赐质子，岁时互市焉。
南匈奴单于比立于光武帝建武二十四年（公元48年），死于光武帝中元元年（公元56年），在位九年。
南匈奴单于比死，弟莫于光武帝中元元年立为丘浮尤靼单于。汉朝为了南单于的死葬与继立，遣使前去吊祭与镇慰，行使册封属国藩王的权力。《后汉书·南匈奴列传》说：“中郎将段郴将兵赴吊，祭以酒米，分兵卫护之。比弟左贤王莫立，帝遣使者赍玺书镇慰，拜授玺绶，遗冠帻，绛单衣三袭，童子佩刀、绲带各一，又赐缯 四千匹，令赏赐诸王、骨都侯已下。”这样的吊祭死者、镇慰立者，成为此后汉朝对于南匈奴单于死葬与继立的惯例。
从光武帝中元元年单于莫立至汉章帝章和二年（公元88年）单于宣死时期的匈奴历史，主要是东汉与南匈奴联合对付北匈奴的历史。
南匈奴归附东汉之后，始终要求东汉发兵助其攻伐北匈奴，由它来统一匈奴各部。东汉不愿发兵助南匈奴攻灭北匈奴，且与北匈奴通使互市，引起南匈奴部下某些人的不满，欲联北叛汉。北匈奴对东汉庇护南匈奴，阻碍它攻灭南匈奴进而统一整个匈奴也很不满意。怨恨积久日深，一旦有机会，它就不仅攻击南匈奴，而且也入寇东汉边境，成为东汉的一大患。东汉既不能容忍北匈奴借口攻击南匈奴而侵其边境，也不容许南、北匈奴复行统一。最初，三方面互有矛盾。《后汉书·南匈奴列传》说：
（永平）五年冬，北匈奴六七千骑入于五原塞，遂寇云中至原阳，南单于击却之，西河长史马襄赴救，虏乃引去……时北匈奴犹盛，数寇边，朝廷以为忧。会北单于欲合市，遣使求和亲，显宗冀其交通，不复为寇，乃许之。八年，遣越骑司马郑众北使报命，而南部须卜骨都侯等知汉与北虏交使，怀嫌怨欲畔，密因北使，会遣兵迎之。郑众出塞，疑有异，伺候果得须卜使人，乃上言宜更置大将，以防二虏交通。由是姑置度辽营，以中郎将吴棠行度辽将军事，副校尉来苗、左校尉闫章、右校尉张国将黎阳虎牙营士屯五原曼柏。又遣骑都尉秦彭将兵屯美稷。其年秋，北虏果遣二千骑候望朔方，作马革船，欲度迎南部畔者，以汉有备，乃引去。复数寇钞边郡，焚烧城邑，杀略甚众，河西城门昼闭。帝患之。
为什么南、北匈奴分裂之后，北匈奴还有这种力量入寇东汉边境，造成“河西城门昼闭”的严重形势呢？主要是他们拥有西域作为与国。
北匈奴当时的处境是，南有南匈奴和东汉，向南发展不可能；东边又为乌桓所败，北边是密布的森林，只有向西发展。所以他们视西域为生命线，向西发展，争取西域，特别积极。北匈奴役属了西域诸国后，就利用西域的人力、物力，势力又增强起来。在光武帝末年和明帝初年，北匈奴以西域的人力、物力为后盾，数寇东汉西部边境，才弄到河西城门白天也要关起来。
明帝即位时，东汉经过光武帝十余年的征伐异己，天下统一；再经过约二十年的休养生息，国力渐盛。面对北匈奴利用西域诸国人力、物力，不断入寇南匈奴和东汉边境的形势，明帝改变了光武帝对于北匈奴的消极防御政策和对于西域诸国的放任政策，采取积极争夺西域和东胡诸国，联合南匈奴攻击北匈奴的政策。明帝即位的第一年，东汉西边的少数民族烧当羌反叛，《后汉书·明帝纪》说：“秋九月，烧当羌寇陇西，败郡兵于允街。赦陇西囚徒，减罪一等，勿收今年租调。又所发天水三千人，亦复是岁更赋。遣谒者张鸿讨叛羌于允吾，鸿军大败，战殁。冬十一月，遣中郎将窦固监捕虏将军马武等二将军讨烧当羌。”《资治通鉴·汉纪三十六》“永平元年”条说：“秋，七月，马武等击烧当羌，大破之，余皆降散……辽东太守祭肜使偏何讨赤山乌桓，大破之，斩其魁帅。塞外震詟，西自武威，东尽玄菟，皆来内附，野无风尘，乃悉罢缘边屯兵。”
北匈奴也不甘示弱。《资治通鉴·汉纪三十七》“永平八年”条说：“越骑司马郑众使北匈奴，单于欲令众拜，众不为屈。单于围守，闭之不与水火；众拔刀自誓，单于恐而止，乃更发使，随众还京师。”又说：“北匈奴虽遣使入贡，而寇钞不息，边城昼闭。帝议遣使报其使者，郑众上疏谏曰：‘臣闻北单于所以要致汉使者，欲以离南单于之众，坚三十六国之心也；又当扬汉和亲，夸示邻敌，令西域欲归化者局足狐疑，怀土之人绝望中国耳。”
在北匈奴不断入侵东汉西部边境的形势下，明帝不得不加强武备去对付北匈奴。在当时的臣僚中，有不少是主张平定西域征伐匈奴的，耿秉就是持这种主张最力的一位。《后汉书·耿弇列传》说：“（秉）尤好将帅之略。以父任为郎，数上言兵事。常以中国虚费，边陲不宁，其患专在匈奴。以战去战，盛王之道。显宗既有志北伐，阴然其言。永平中，召诣省闼，问前后所上便宜方略，拜谒者仆射，遂见亲幸。每公卿会议，常引秉上殿，访以边事，多简帝心。”所谓“阴然其言”“多简帝心”，说明明帝是决意攻破匈奴的。但明帝即位初年，不愿突然改变光武帝的政策，对耿秉攻伐北匈奴之主张，也只能“阴然其言”，等到匈奴的侵略越来越甚的时候，才能公开去实行这种政策。《资治通鉴·汉纪三十七》“永平十五年”条记载，东汉继续奉行欲击匈奴则当首断匈奴左右臂的战略，以便四路出兵攻击北匈奴：
谒者仆射耿秉数上言请击匈奴，上以显亲侯窦固尝从其世父融在河西，明习边事，乃使秉、固与太仆祭肜、虎贲中郎将马廖、下传侯刘张、好时侯耿忠等共议之。耿秉曰：“昔者匈奴授引弓之类，并左衽之属，故不可得而制。孝武既得河西郡及居延、朔方，虏失其肥饶畜兵之地，羌、胡分离；唯有西域，俄复内属；故呼韩邪单于请事款塞，其势易乘也。今有南单于，形势相似；然西域尚未内属，北虏未有衅作。臣愚以为当先击白山，得伊吾，破车师，通使乌孙诸国以断其右臂；伊吾亦有匈奴南呼衍一部，破此，复为折其左角，然后匈奴可击也。”上善其言。议者或以为“今兵出白山，匈奴必并兵相助，又当分其东以离其众”。上从之。十二月，以秉为驸马都尉，固为奉车都尉；以骑都尉秦彭为秉副，耿忠为固副，皆置从事、司马，出屯凉州……
（十六年）春，二月，遣肜与度辽将军吴崇将河东、西河羌、胡及南单于兵万一千骑出高阙塞，窦固、耿忠率酒泉、敦煌、张掖甲卒及卢水羌、胡万二千骑出酒泉塞，耿秉、秦彭率武威、陇西、天水募士及羌、胡万骑出张掖居延塞，骑都尉来苗、护乌桓校尉文穆将太原、雁门、代郡、上谷、渔阳、右北平、定襄郡兵及乌桓、鲜卑万一千骑出平城塞，伐北匈奴。窦固、耿忠至天山，击呼衍王，斩首千余级；追至蒲类海，取伊吾卢地，置宜禾都尉，留吏士屯伊吾卢城。耿秉、秦彭击匈林王，绝幕六百余里，至三木楼山而还。来苗、文穆至匈河水上，虏皆奔走，无所获。祭肜与南匈奴左贤王信不相得，出高阙塞九百余里，得小山，信妄言以为涿邪山，不见虏而还……窦固独有功，加位特进。
这次分四路出兵攻击北匈奴，除窦固、耿忠所率军队胜利而还外，其余三路军队均一无所得。同年，北匈奴又大入寇云中，云中太守廉范以少数军队击退匈奴。《资治通鉴·汉纪三十七》“永平十六年”条说：“是岁，北匈奴大入云中，云中太守廉范拒之；吏以众少，欲移书傍郡求救，范不许。会日暮，范令军各交缚两炬，三头爇火，营中星列。虏谓汉兵救至，大惊，待旦将退。范令军中蓐食，晨，往赴之，斩首数百级，虏自相辚藉，死者千余人，由此不敢复向云中。”
明帝自永平十六年发兵攻击北匈奴无功后，十七与十八两年，匈奴与东汉的战争主要在于争取西域诸国。
永平十七年（公元74年），明帝又遣窦固与耿秉出玉门击西域，《后汉书·窦融列传》说：“明年，复出玉门击西域，诏耿秉及骑都尉刘张皆去符传以属国。固遂破白山，降车师。”无论在西汉或东汉，车师都是匈奴与汉朝争取西域的重点。东汉这一次攻击车师得到胜利，耿秉的从兄耿恭被派遣屯后王部金蒲城。耿恭在这个地方除防备匈奴外，还通使乌孙，使其遣子入侍。《后汉书·耿弇列传》说：“恭至部，移檄乌孙，示汉威德，大昆弥已下皆欢喜，遣使献名马，及奉宣帝时所赐公主博具，愿遣子入侍。恭乃发使赍金帛，迎其侍子。”
东汉击破车师，又使耿恭屯金蒲城，已使匈奴怨恨。耿恭又联结乌孙，消灭匈奴在西边的势力，匈奴当然不甘心，所以不久就发兵反攻车师。《后汉书·耿弇列传》说：
明年（永平十八年）三月，北单于遣左鹿蠡王二万骑击车师。恭遣司马将兵三百人救之，道逢匈奴骑多，皆为所殁。匈奴遂破杀后王安得，而攻金蒲城。恭乘城搏战，以毒药傅矢。传语匈奴曰：“汉家箭神，其中疮者必有异。”因发强弩射之。虏中矢者，视创皆沸，遂大惊。会天暴风雨，随雨击之，杀伤甚众。匈奴震怖，相谓曰：“汉兵神，真可畏也！”遂解去。恭以疏勒城傍有涧水可固，五月，乃引兵据之。七月，匈奴复来攻恭，恭募先登数千人直驰之，胡骑散走，匈奴遂于城下拥绝涧水。恭于城中穿井十五丈不得水，吏士渴乏，笮马粪汁而饮之。恭仰叹曰：“闻昔贰师将军拔佩刀刺山，飞泉涌出；今汉德神明，岂有穷哉。”乃整衣服向井再拜，为吏士祷。有顷，水泉奔出，众皆称万岁。乃令吏士扬水以示虏。虏出不意，以为神明，遂引去。
这里所说的“疏勒城”，非葱岭以东西域西边的疏勒城，而是车师的疏勒城。《资治通鉴》注云：“此疏勒城在车师后部，非疏勒国城也。据《西域传》，疏勒国去长史所居五千里，后部去长史所居五百里，耿恭自后部金蒲城移据疏勒城，其后范羌又自前部交河城从山北至疏勒迎恭。审观本末，则非疏勒国城明矣。”
这个时候，后部的耿恭固为匈奴所攻，屯在前部柳中城的关宠也被匈奴围困，西域都护陈睦亦因匈奴的鼓励而被焉耆、龟兹杀害，车师复反叛，与匈奴共同攻击耿恭，耿恭处境异常困难。《后汉书·耿弇列传》说：
时焉耆、龟兹攻殁都护陈睦，北虏亦围关宠于柳中。会显宗崩，求兵不至，车师复畔，与匈奴共攻恭。恭厉士众击走之。后王夫人先世汉人，常私以虏情告恭，又给以粮饷。数月，食尽穷困，乃煮铠弩，食其筋革。恭与士推诚同死生，故皆无二心，而稍稍死亡，余数十人。单于知恭已困，欲必降之。复遣使招恭曰：“若降者，当封为白屋王，妻以女子。”恭乃诱其使上城，手击杀之，炙诸城上。虏官属望见，号哭而去。单于大怒，更益兵围恭，不能下。
西域戊己校尉关宠被围困时，曾上书请救兵。时章帝甫即位（永平十八年明帝死，章帝继立），把这件事交给公卿们议论，从而发生了一场争论。《资治通鉴·汉纪三十八》“建初元年”条载：“校书郎杨终上疏曰：‘间者北征匈奴，西开三十六国，百姓频年服役，转输烦费，愁困之民中以感动天地，陛下宜留念省察！’帝下其章，第五伦亦同终议。”虽有不同意见，最后仍是派兵去救他们出来。《后汉书·耿弇列传》说：
初，关宠上书求救，时肃宗新即位，乃诏公卿会议。司空第五伦以为不宜救。司徒鲍昱议曰：“今使人于危难之地，急而弃之，外则纵蛮夷之暴，内则伤死难之臣。诚令权时后无边事可也，匈奴如复犯塞为寇，陛下将何以使将？又二部兵人裁各数十，匈奴围之，历旬不下，是其寡弱尽力之效也。可令敦煌、酒泉太守各将精骑二千，多其幡帜，倍道兼行，以赴其急。匈奴疲极之兵，必不敢当，四十日间，足还入塞。”帝然之。乃遣征西将军耿秉屯酒泉，行太守事，遣秦彭与谒者王蒙、皇甫援发张掖、酒泉、敦煌三郡及鄯善兵，合七千余人，建初元年正月，会柳中击车师，攻交河城，斩首三千八百级，获生口三千余人，驼驴马牛羊三万七千头。北虏惊走，车师复降。
又说：
会关宠已殁，蒙等闻之，便欲引兵还。先是，恭遣军吏范羌至敦煌迎兵士寒服，羌因随王蒙军俱出塞。羌固请迎恭，诸将不敢前，乃分兵二千人与羌，从山北迎恭，遇大雪丈余，军仅能至，城中夜闻兵马声，以为虏来，大惊。羌乃遥呼曰：“我范羌也。汉遣军迎校尉耳。”城中皆称万岁。开门，共相持涕泣。明日，遂相随俱归。虏兵追之，且战且行。吏士素饥困，发疏勒时尚有二十六人，随路死没，三月至玉门，唯余十三人。衣屦穿决，形容枯槁。中郎将郑众为恭已下洗沐易衣冠。
从北匈奴单于遣左谷蠡王领二万骑去击车师、围攻耿恭，到他所余的十三位吏士到达玉门关，时间有整整一年之久，即从明帝永平十八年三月至章帝建初元年三月。
章帝即位后，杨终和第五伦等反对进一步与匈奴争夺西域，章帝倾向于同意他们的意见，朝廷对匈奴与西域的政策稍趋于消极。自耿恭退出疏勒城以后，后车师遂为匈奴势力侵入。前车师自王蒙等所领的救兵引还之后，也为匈奴势力侵入。这样，天山以北的东汉势力固已消失，就是天山以南的西域交通要道南道，也因焉耆、龟兹的反叛而难以保持。
班超这个时候正在西域西边的疏勒国都城，由于中央朝廷对西域的政策趋于消极，遂诏班超返回中央。班超不得已，在章帝建初元年（公元76年）由疏勒经于阗返回。但是，疏勒人不愿班超离开，于阗人也极力挽留，班超自己本来就不愿意离开西域，这么一来，他就决定留下来。班超继续留居西域，就使东汉在西域南道的势力得以保持，并且还能使东汉势力逐渐地伸展到北道，再从北道的西边伸张到北道的东边。后来，倔强的焉耆被班超攻破，西域再度受到东汉的控制。
1 《后汉书·南匈奴列传》。
2 《后汉书·南匈奴列传》。
