呼韩邪单于为郅支单于攻败，郅支单于都于单于庭后，就向南边跑。正在这个时候，呼韩邪的贵人左伊秩訾王为他计谋，以为最好是向西汉称臣，求西汉的帮助，以安定匈奴。呼韩邪将左伊秩訾王的意见交大臣们讨论，大臣们都反对这样做。《汉书·匈奴传》载他们的理由说：“匈奴之俗，本上气力而下服役，以马上战斗为国，故有威名于百蛮。战死，壮士所有也。今兄弟争国，不在兄则在弟，虽死犹有威名，子孙常长诸国。汉虽强，犹不能兼并匈奴，奈何乱先古之制，臣事于汉，卑辱先单于，为诸国所笑，虽如是而安，何以复长百蛮！”左伊秩訾王说：“不然。强弱有时，今汉方盛，乌孙城郭诸国皆为臣妾。自且鞮侯单于以来，匈奴日削，不能取复，虽屈强于此，未尝一日安也。今事汉则安存，不事则危亡，计何以过此！”为了这件事，诸大臣经过很久的反复讨论，互相问难，结果呼韩邪采纳了左伊秩訾王的提议，决定向西汉称臣。
在乌维单于时代，也就是卫青与霍去病大败匈奴之后，乌维曾佯言要到西汉朝见，武帝信以为真，还在长安筑官邸，预备乌维来时居住，结果并无其事。到了狐鹿姑时代，还以很骄慢的言辞致书于武帝，武帝还得遣使报送其使者。以“百蛮大国”的匈奴，要其来朝称臣不是一件容易的事情。然而，到了呼韩邪时代，匈奴的确已是今非昔比。呼韩邪自称单于之后，经历过两次失败，连由他从民间提拔起来的哥哥都自称单于，并攻败他。他对于郅支单于的痛恨必定很深。
虽说降汉是“乱先古之制”，但是呼韩邪为了自己与其部众的安全，就不得不向汉称臣。为此目的，他先率众靠拢西汉的边塞。同时，又遣其子右贤王铢娄渠堂入侍。郅支单于见呼韩邪遣子入侍，也遣其子右大将驹于利受入侍。这说明，他们都希望得到西汉的支援。武帝时曾希望匈奴遣子入侍，现在则成为现实。呼韩邪固然是因被郅支攻败而要西汉庇护，自然没有力量再去攻伐郅支；郅支也因呼韩邪有了西汉的庇护，不敢再去攻伐呼韩邪。结果是在这个时候，匈奴有了南、北之分，两相对峙。
匈奴单于的争立，以及单于及其臣下向汉投降，从西汉方面看来，是对匈战争的一次决定性胜利，因此郊告天地，天下欢庆。《汉书·宣帝纪》载：
（五凤三年）三月，行幸河东，祠后土。诏曰：“往者匈奴数为边寇，百姓被其害。朕承至尊，未能绥定匈奴。虚闾权渠单于请求和亲，病死，右贤王屠耆堂代立。骨肉大臣立虚闾权渠单于子为呼韩邪单于，击杀屠耆堂。诸王并自立，分为五单于，更相攻击，死者以万数，畜产大耗什八九，人民饥饿，相燔烧以求食，因大乖乱。单于阏氏子孙昆弟及呼遫累单于、名王、右伊秩訾、且渠、当户以下将众五万余人来降归义。单于称臣，使弟奉珍朝贺正月，北边晏然，靡有兵革之事。”
呼韩邪单于于宣帝甘露二年（公元前52年）到五原塞，表示愿意投降，并于次年（甘露三年）正月到长安朝见。为了呼韩邪朝见的礼仪问题，西汉的公卿们有过一场热闹的讨论。《汉书·萧望之传》说：
丞相（黄）霸、御史大夫（于）定国议曰：“圣王之制，施德行礼，先京师而后诸夏，先诸夏而后夷狄。《诗》云：‘率礼不越，遂视既发；相士烈烈，海外有截。’陛下圣德充塞天地，光被四表，匈奴单于乡风慕化，奉珍朝贺，自古未之有也。其礼仪宜如诸侯王，位次在下。”
《汉书·宣帝纪》“甘露二年”条也载黄霸、于定国的议论曰：“单于非正朔所加，王者所客也，礼仪宜如诸侯王，称臣昧死再拜，位次诸侯王下。”但是，萧望之却不同意这种说法。《汉书·萧望之传》说：
望之以为：“单于非正朔所加，故称敌国，宜待以不臣之礼，位在诸侯王上，外夷稽首称藩，中国让而不臣，此则羁縻之谊，谦亨之福也。《书》曰‘戎狄荒服’，言其未服，荒忽亡常。如使匈奴后嗣卒有鸟窜鼠伏，阙于朝享，不为畔臣。信让行乎蛮貉，福祚流于亡穷，万世之长策也。”
自战国末年以至武帝时期，匈奴常常侵略中原，中原政府要以美女珍品去笼络，而它照样常常入寇。现在匈奴能称臣入朝，这真是所谓“自古未之有也”。所谓雄才大略的武帝所希望而不能实现的事情，在宣帝时却实现了。宣帝不愿使呼韩邪因朝见礼仪的问题产生反感，所以采纳了萧望之的提议，下诏说：“盖闻五帝三王教化所不施，不及以政。今匈奴单于称北藩，朝正朔，朕之不逮，德不能弘覆。其以客礼待之，令单于位在诸侯王上，赞谒称臣而不名。”1
呼韩邪来朝见的途中，西汉遣车骑都尉韩昌去迎接。单于在来长安的途中经过七郡，每郡都发二千骑，为陈道上，表示欢迎。甘露三年正月，单于在甘泉宫朝见天子。《汉书·匈奴传》说：“单于正月朝天子于甘泉宫，汉宠以殊礼，位在诸侯王上，赞谒称臣而不名。赐以冠带衣裳，黄金玺盭绶，玉具剑，佩刀，弓一张，矢四发， 戟十，安车一乘，鞍勒一具，马十五匹，黄金二十斤，钱二十万，衣被七十七袭，锦绣绮縠杂帛八千匹，絮六千斤。礼毕，使使者道单于先行，宿长平。”《汉书·宣帝纪》“甘露三年”条说：“上自甘泉宿池阳宫。上登长平阪，诏单于毋谒。其左右当户之群皆列观，蛮夷君长王侯迎者数万人，夹道陈。上登渭桥，咸称万岁。单于就邸。置酒建章宫，飨赐单于，观以珍宝。”
呼韩邪这次到西汉入朝称臣，在长安住了一个多月。他回去之前，请求西汉准他居留在光禄塞下，以便有急事时可以防守受降城。西汉答应了他的要求，同时遣长乐卫尉高昌侯董忠与车骑都尉韩昌带领一万六千骑兵，并发边郡士马一千，送单于出朔方鸡鹿塞。
董忠等本来是送呼韩邪单于回国，但是宣帝又命他们留在呼韩邪所住的地方，说是保卫他，并帮助他诛伐不服从他的人们，然而事实上等于派人去监视他，免得他反叛作乱。
呼韩邪单于自被郅支单于击败之后，当然是很困窘，所以在他回去之后，西汉曾先后转边谷米糒三万四千斛，作为他与其臣民的粮食。在呼韩邪朝见那一年，郅支单于为表示亲善之意，也遣使到西汉奉献，西汉对他也厚给礼物。过了一年，郅支单于与呼韩邪单于又遣使朝献，西汉也照样给与他们好多礼物。但是对呼韩邪单于就特别加以优待，这当然是因他肯称臣的缘故。
呼韩邪这次称臣入朝，在长安受到隆重的欢迎，并得到厚遇，必定给他以很深的印象。所以再过一年，即宣帝黄龙元年（公元前49年），呼韩邪为了表示忠诚，同时也可以说是为想多得一些西汉礼物，遂第二次朝见。这一次的朝见礼仪同上次一样，可是汉朝所给的礼物却比前次为多。《汉书·匈奴传》说：“礼赐如初，加衣百一十袭，锦帛九千匹，絮八千斤。”
因为前次护送呼韩邪回去的军队还屯在单于所住的地方，宣帝这一次就没有再发骑兵去护送。宣帝也就在这一年死了，子元帝即位。呼韩邪上书说，他的民众困乏，粮食不够，元帝乃诏云中、五原郡再转谷二万斛供给他们。
元帝初年，郅支单于要求其侍子回去，西汉派谷吉相送。郅支杀了谷吉，西汉设法去调查谷吉的音信，却无法知道。后有匈奴降者，说谷吉是在瓯脱被杀，而瓯脱则归呼韩邪管辖。后来呼韩邪派使者到西汉时，西汉对谷吉事问得很急，同时对于呼韩邪也有所责备。呼韩邪以为西汉可能因此事讨伐他，心里十分不安。于是，西汉为使他解除疑虑，遣车骑都尉韩昌与光禄大夫张猛送呼韩邪的儿子入侍，问明谷吉被杀之事，因赦其罪，令勿自疑。
这个时候，郅支单于已经离开漠北单于庭，向西迁徙。呼韩邪的大臣多劝他北归。韩昌与张猛到呼韩邪所住的地方后，《汉书·匈奴传》说：“见单于民众益盛，塞下禽兽尽，单于足以自卫，不畏郅支。闻其大臣多劝单于北归者，恐北去后难约束，昌、猛即与为盟约曰：‘自今以来，汉与匈奴合为一家，世世毋得相诈相攻。有窃盗者，相报，行其诛，偿其物；有寇，发兵相助。汉与匈奴敢先背约者，受天不祥。令其世世子孙尽如盟。’”盟约的仪式是：“昌、猛与单于及大臣俱登匈奴诺水东山，刑白马，单于以径路刀金留犁挠酒，以老上单于所破月氏王头为饮器者共饮血盟。”
韩昌、张猛必定以为，他们这样做是西汉外交上的一个胜利，可是回国之后，却受到公卿的责备。《汉书·匈奴传》说：“昌、猛还奏事，公卿议者以为：‘单于保塞为藩，虽欲北去，犹不能为危害。昌、猛擅以汉国世世子孙与夷狄诅盟，令单于得以恶言上告于天，羞国家，伤威重，不可得行。宜遣使往告祠天，与解盟。昌、猛奉使无状，罪至不道。’”元帝觉得，韩昌与张猛已同匈奴结了盟约，再去解约，必引起匈奴的误会与反感，所以决定不解盟约。对韩昌、张猛也不深为追究，仅薄责其过，准其赎罪。
此后，呼韩邪单于遂率众回到漠北的单于庭。匈奴其他各处的人民也慢慢地归附他。匈奴在他的统治下，慢慢地安定下来。
呼韩邪单于在元帝即位后数年内北归。他北归之后，匈奴得以休养生息，史书也没有记载有天灾。他既向西汉称臣，西汉也认为他不会再南下侵略。另外，他既在西汉的庇护之下，不仅西汉不会征伐他，可能东边的乌桓、北边的丁令也因此不会扰乱。西边的西域既在西汉的控制之下，也不会有敌人来攻伐，因此慢慢地兴盛起来。郅支见他慢慢兴盛，又有西汉的庇护，觉得要征服他是不容易的，因而放弃了东归的企图，更向西迁徙。
元帝建昭三年（公元前36年），郅支单于被甘延寿与陈汤攻杀。呼韩邪单于闻得这个消息，产生了一种很矛盾的感觉，一方面很欢喜，另一方面又很畏惧。欢喜的是政敌被消灭，他成为匈奴唯一的单于。郅支虽然远跑到康居，但郅支存在一天，东归攻伐呼韩邪的可能性总是有的，现在这种可能性没有了，他可以高枕而卧了。畏惧的是，跑到康居的郅支，因为不向西汉称臣并且杀死使者谷吉，西汉还可以攻杀他，那么呼韩邪对于西汉怎能不畏惧？何况，有人说谷吉是死在呼韩邪所管制的瓯脱，西汉还为此事责备过他。
为这种心理所驱使，呼韩邪单于曾向西汉提议三件事。第一，他愿意替西汉防卫从上谷以西至敦煌的边塞，请求西汉边塞撤防，“以休天子人民”2 。第二是到西汉来朝见元帝。第三是请求西汉女子为阏氏以自亲。元帝把这些交给公卿们讨论，讨论的结果是，答应后二者，而不答应前者。现在把这三件事分开来说明。
本来公卿们讨论这几个问题时，一般都赞成呼韩邪的第一个提议，但有一人反对，这就是侯应。侯应当时是郎中，对于边事很熟悉，他反对这种做法。《汉书·匈奴传》载他对元帝说：
周、秦以来，匈奴暴桀，寇侵边境，汉兴，尤被其害。臣闻北边塞至辽东，外有阴山，东西千余里，草木茂盛，多禽兽，本冒顿单于依阻其中，治作弓矢，来出为寇，是其苑囿也。至孝武世，出师征伐，斥夺此地，攘之于幕北。建塞徼，起亭隧，筑外城，设屯戍，以守之，然后边境得用少安。幕北地平，少草木，多大沙，匈奴来寇，少所蔽隐，从塞以南，径深山谷，往来差难。边长老言匈奴失阴山之后，过之未尝不哭也。如罢备塞戍卒，示夷狄之大利，不可一也。今圣德广被，天覆匈奴，匈奴得蒙全活之恩，稽首来臣。夫夷狄之情，困则卑顺，强则骄逆，天性然也。前以罢外城，省亭隧，今裁足以候望通烽火而已。古者安不忘危，不可复罢，二也。中国有礼义之教，刑罚之诛，愚民犹尚犯禁，又况单于，能必其众不犯约哉！三也。自中国尚建关梁以制诸侯，所以绝臣下之觊欲也。设塞徼，置屯戍，非独为匈奴而已，亦为诸属国降民，本故匈奴之人，恐其思旧逃亡，四也。近西羌保塞，与汉人交通，吏民贪利，侵盗其畜产妻子，以此怨恨，起而背畔，世世不绝。今罢乘塞，则生嫚易分争之渐，五也。往者从军多没不还者，子孙贫困，一旦亡出，从其亲戚，六也。又边人奴婢愁苦，欲亡者多，曰：“闻匈奴中乐，无奈候望急何！”然时有亡出塞者，七也。盗贼桀黠，群辈犯法，如其窘急，亡走北出，则不可制，八也。起塞以来，百有余年，非皆以土垣也，或因山岩石，木柴僵落，谿谷水门，稍稍平之，卒徙筑治，功费久远，不可胜计。臣恐议者不深虑其终始，欲以壹切省繇戍，十年之外，百岁之内，卒有它变，障塞破坏，亭隧灭绝，当更发屯缮治，累世之功，不可卒复，九也。如罢戍卒，省候望，单于自以保塞守御，必深德汉，请求无已。小失其意，则不可测。开夷狄之隙，亏中国之固，十也。非所以永持至安，威制百蛮之长策也。
这是侯应反对罢边的十个理由。后来人作同样的主张时，往往提起侯应的理由。元帝赞同侯应的说法，所以诏令勿议罢边塞。
但同时，西汉又怕呼韩邪单于产生误会，于是乃遣车骑将军许嘉亲去告诉单于说：
单于上书愿罢北边吏士屯戍，子孙世世保塞。单于乡慕礼义，所以为民计者甚厚，此长久之策也，朕甚嘉之。中国四方皆有关梁障塞，非独以备塞外也，亦以防中国奸邪放纵，出为寇害，故明法度以专众心也。敬谕单于之意，朕无疑焉。为单于怪其不罢，故使大司马车骑将军嘉晓单于。3
大致上，呼韩邪这一次请求罢边也许没有恶意，而是因为郅支被杀之后心里畏惧，而要讨好西汉，正像他请求入朝与愿婿汉女一样。但是，西汉为了防患于未然，不准其所请。西汉既用很温和的言辞去告诉呼韩邪，呼韩邪的回答也很谦虚。他谢曰：“愚不知大计，天子幸使大臣告语，甚厚！”
呼韩邪的第二个请求是入朝皇帝，西汉答应了他的请求。呼韩邪的请求书中是这样说的：“常愿谒见天子，诚以郅支在西方，恐其与乌孙俱来击臣，以故未得至汉。今郅支已伏诛，愿入朝见。”西汉答应后，他在竟宁元年（公元前33年）第三次朝见。元帝接见他的礼仪与宣帝时一样，但是这次所给他的礼物，比宣帝时第二次朝见所赐的礼物多了一倍。这就是说，比起他第一次朝见时所给的就更多了。
在他这次朝见时，除娶汉女为阏氏外，还有一件事是值得我们叙述的，就是当初劝他向汉称臣的左伊秩訾王，曾因受呼韩邪所疑而降汉，这次两人在长安会了面。《汉书·匈奴传》说：“初，左伊秩訾为呼韩邪画计归汉，竟以安定。其后或谗伊秩訾自伐其功，常鞅鞅，呼韩邪疑之。左伊秩訾惧诛，将其众千余人降汉，汉以为关内侯，食邑三百户，令佩其王印绶。”
若照韩昌、张猛与呼韩邪所订的盟约来说，左伊秩訾率众降汉，呼韩邪可以要求西汉将他遣归匈奴。大概是由于呼韩邪不便提出，所以西汉就留下他了。呼韩邪与左伊秩訾王会面时，曾对他说：“王为我计甚厚，令匈奴至今安宁，王之力也，德岂可忘！我失王意，使王去不复顾留，皆我过也。今欲白天子，请王归庭。”左伊秩訾王说：“单于赖天命，自归于汉，得以安宁，单于神灵，天子之佑也，我安得力！既已降汉，又复归匈奴，是两心也。愿为单于侍使于汉，不敢听命。”4 呼韩邪虽然极力劝他回去，他始终没有回去。
呼韩邪单于请求的第三件事，是“愿婿汉氏以自亲”。关于这件事，《汉书·匈奴传》说：“元帝以后宫良家子王嫱字昭君赐单于。单于欢喜……”《汉书·元帝纪》也说：“赐单于待诏掖庭王嫱为阏氏。”《后汉书·南匈奴列传》记此事较详，云：“初，元帝时，以良家子选入掖庭。时呼韩邪来朝，帝敕以宫女五人赐之。昭君入宫数岁，不得见御，积悲怨，乃请掖庭令求行。呼韩邪临辞大会，帝召五女以示之。昭君丰容靓饰，光明汉宫，顾景裴回，竦动左右。帝见大惊，意欲留之，而难于失信，遂与匈奴。”
除了以上记载，《琴操》中也有一段记载：
昭君，齐国王穰女。端正闲丽，未尝窥门户。穰以其有异于人，求之者皆不与。年十七，献之元帝。元帝以地远不之幸，以备后宫。积五六年，帝每游后宫，常怨不出。后单于遣使朝贡，帝宴之，尽召后宫。昭君盛饰而至，帝问欲以一女赐单于，能者往。昭君乃越席请行。时单于使在旁，惊恨不及。昭君至匈奴，单于大悦，以为汉与我厚，纵酒作乐。遣使报汉，白璧一双， 马十匹，胡地珍宝之物。昭君恨帝始不见遇，乃作怨思之歌。
这与《后汉书·南匈奴列传》所载有了很多不同之处，而且有些地方很有疑问。《后汉书》只说昭君为“良家子”，《琴操》则说她是“齐国王穰女”；《后汉书》说是匈奴单于来朝见时，请求汉女为阏氏，《琴操》却说是匈奴使者朝贡时，西汉皇帝把昭君赐给单于的；《后汉书》说她“请掖庭令求行”，《琴操》说她在元帝宴匈奴使者时，请求愿为匈奴单于阏氏。应该指出，汉代皇帝选择女子入掖庭，是带有强迫性的。齐国王穰把爱女献给元帝，不见得是可靠的记载。又说昭君在宴会匈奴使者时越席请往，也不像是那个时代汉族女子的举动。
自汉高祖与匈奴和亲以来，西汉女子嫁给单于的已有好几个，可是两千余年来，只有昭君成为文辞诗歌中常见的名字，甚至有与事实不相符的“昭君和番”的小说流行坊间，有其戏剧性原因。《西京杂记》说：
元帝后宫既多，不得常见，乃使画工图其形，案图召幸之。诸宫人皆赂画工，多者十万，少者亦不减五万。独王嫱自恃容貌，不肯与。工人乃丑图之，遂不得见。后匈奴入朝，求美人为阏氏，于是上案图以昭君行。及去召见，貌为后宫第一，善应对，举止闲雅。帝悔之，而名籍已定，方重信于外国，故不复更人。乃穷案其事，画工皆弃市。
关于王昭君到匈奴以后的情况，《汉书·匈奴传》说：“王昭君号宁胡阏氏，生一男伊屠智牙师，为右日逐王。”昭君嫁给呼韩邪的第三年，即成帝建始二年（公元前31年），呼韩邪死了。《后汉书·南匈奴列传》说：“及呼韩邪死，其前阏氏子代立，欲妻之，昭君上书求归，成帝敕令从胡俗，遂复为后单于阏氏焉。”呼韩邪死后，复株累若鞮单于继立。他娶了昭君后，昭君又生了两个女儿。《汉书·匈奴传》说：“复株累单于复妻王昭君，生二女，长女云为须卜居次，小女为当于居次。”
王昭君究竟有几个儿子？若照上面所引《汉书·匈奴传》来看，她与呼韩邪所生的是一个儿子，而与复株累若鞮单于所生的是两个女儿。但《后汉书·南匈奴列传》却说她生过两个儿子。《后汉书·南匈奴列传》指出，一个儿子名“知牙师”，这大概就是《汉书·匈奴传》所说的“伊屠智牙师”，后为右谷蠡王者，而《汉书·匈奴传》则说这位儿子后为右日逐王。《后汉书·南匈奴列传》又指出，这位儿子后来因为继立事而被杀，唯对另一位儿子却没有说及。由此推测，可能《后汉书》的二子说是错误的，《汉书》的一子说是对的。至于她的两个女儿，其中一位嫁给匈奴后来的用事大臣右骨都侯须卜当。《汉书·匈奴传》说，这位女儿为伊墨居次云，应当就是上面所说的“长女云为须卜居次”。次女当于居次的丈夫如何，没有记载。
据说，昭君死后葬在左丰州西六十里，就是现在的归化附近。后世写王昭君的诗歌中所说的“青冢”，就是昭君墓。《太平寰宇记》卷三十八“金河县”条说：“青冢在县西北，汉王昭君葬于此，其上草色常青，故曰青冢。”
1 《汉书·萧望之传》。
2 《汉书·匈奴传下》。
3 《汉书·匈奴传下》。
4 以上均见《汉书·匈奴传下》。
