却说匈奴逃往漠北之后，专事休养人马练习骑射，久未犯边。但不时遣使者到汉请求和亲。后来贵臣来汉，忽得一病死于长安，武帝命路充国佩二千石印绶往送其丧，厚加赠遗值数千金。路充国到匈奴后，单于说贵臣是被杀死的，乃扣留路充国不让他去。当日被匈奴扣留者前后十余人，汉扣留匈奴使者彼此相当。
忽报路充国自匈奴归来诣阙求见。当下召入问明情形。充国行过礼后，方将匈奴事实约略上陈。
原来匈奴儿单于在位三年病死，有子尚幼不能嗣位，国人立他季父右贤王呴犁湖为单于。才及一年呴犁湖又死，弟弟且鞮侯继立。且鞮侯恐汉朝发兵进攻，乃自说道：“汉天子是我丈人，我乃儿子怎敢敌汉？”说着即将汉使路充国等一律释回，并使人护送且奉书求和。武帝闻言甚喜，也尽释所留匈奴使者，遣中郎将苏武持节送归，并以财币厚赠单于答其善意。
苏武字子卿，即前平陵侯苏建之子。苏建自与赵信征胡战败，赎为庶人，后复为代郡太守，病卒任所。苏武兄弟三人，自少皆以父荫为郎，后兄苏嘉为奉车都尉，弟苏贤为骑都尉，而苏武为栘中厩监。时李广之孙李陵为建章监，与苏武同为侍中，二人交好甚密。苏武此次受命出使吉凶难卜，特与母妻亲友诀别，李陵闻知也来送别，并作诗三首赠行。
苏武与副使中郎将张胜、属吏常惠及士卒百余人离了长安一路北去，到得匈奴入见单于，传达武帝言语，送还匈奴使者，并将财币送与且疑侯单于。单于本无意与汉和好，只因初次即位人心未定、又因汉使不肯投降，留在国中无益于事，不如放还，借此为缓兵之计。今见武帝赠以厚礼愈加骄傲，正欲遣人发送苏武归国，谁知忽然发生事故。
原来卫律素与李延年交好，李延年荐于武帝，武帝遣其出使匈奴。适值李延年犯罪被囚，卫律不敢回国便降匈奴。单于一得卫律格外宠任，封他为丁灵王。其部下虞常从卫律出使，不愿降胡，密与缑王商议，二人计议许久，苦于未得机会。此次苏武到来，虞常前在中国时与副使张胜相识，便与张胜密说道：“闻汉天子甚怨卫律，我能为汉杀之，吾母与弟在汉望得天子赏赐。张胜立即允许，并以财物赠与虞常。虞常自去预备。
一个多月后，单于出外打猎，只有阏氏和单于子弟在。虞常等七十余人起事前，一人趁夜逃跑，揭发了他们的计划。单于子弟与他们交战，缑王战死，虞常受擒。且鞮侯闻变驰归，令卫律严讯此案。张胜详告苏武，苏武愕然道：“事已至此怎能免累？我若对簿虏庭岂非辱国？不如早图自尽罢！”说罢拔出佩刀便欲自杀。张胜、常惠连忙上前拦阻，苏武被众人劝住不得动手，心里早决计安排一死。张胜等心中惴惴各怀鬼胎，但望虞常不将此事供出，便可保全无事。
谁知虞常被卫律严刑拷打痛苦难忍，只得据实供出。卫律将供词告知单于，单于召集贵臣议杀汉使。左伊秩訾劝阻道：“彼若谋害单于，也不过罪及死刑，今尚不至此，不如赦他一死迫令投降。”单于便召汉使并其从人到来听命。苏武闻召昂然前往；张胜、常惠也气愤地跟随而来。