匈奴的始祖是夏后氏的后代，叫淳维。在唐尧、虞舜以前，有山戎、猃狁、荤粥等部落生活在北蛮，随着牧畜而迁徙。他们以马、牛、羊作为主要畜养家畜，与其他部落不同的是他们还畜养骆驼、驴子、马骡、驴骡。他们寻找水草丰富的地方放牧谋生，不断迁移。没有固定的城池、住所，也不从事农业，但是也各有各的地盘。没有文字书籍，用语言作为约束。小孩子就能骑马，拉弓射鸟、鼠，稍微长大一点，就能射杀狐狸、兔子当食物。男人们的力量都能弯弓、披甲骑马。他们的习俗是：平时无事就放牧、打猎维持生活；遇到紧急情况，就全民皆兵，去侵掠别人，这是他们的天性。他们所使用的长兵器是弓、箭，短兵器是马刀、矛。作战时，敌退我进，敌进我退，不以逃跑为羞耻。只要是有利可图，就会不顾礼节。从君王以下，人人都吃牲畜的肉，穿牲畜的皮，披着有毛毡。年轻力壮的，吃好的食物，老年人却吃剩下的，看重年轻力壮的人，轻视年老力衰的人。父亲死了，儿子可以娶后母做妻子；兄弟中有一人死了，其他的兄弟就把死者的妻子娶过来做自己的妻子。他们的习俗是每个人都有名，不必避讳，却没有姓和字。
夏朝衰微后，公刘失去了掌管农事的官职，在西戎地区，移风易俗，在豳地建造城邑，三百多年后，戎狄攻击大王亶父，亶父逃亡到岐山之下，豳地的人都跟着宜父到了那里，建造城邑，建立了周国。一百多年以后，周围的西伯侯姬昌讨伐了畎夷氏。十几年后，周武王讨伐商纣，营建洛邑，后又迁都酆京、镐京，把戎狄驱逐到泾水、洛水以北，让他们按时向周朝进贡，叫做“荒服。”二百多年后，周朝衰微，周穆王讨伐犬戎，俘获四只白狼和四只白鹿。从此以后，“荒服”就不到周朝朝贡来了。当时周朝就制定了《甫刑》的法律。周穆王以后二百多年，周幽王为了宠姬褒姒的缘故，和申候结了仇。申候一怒之下，勾结犬戎，联手把周幽王杀死在骊山下。于是占取周朝的焦获，同时占领泾水和渭水附近的地区，侵犯华夏地区。秦襄公挽救了周王朝，于是周平王离开酆，镐，向东迁都到洛邑。这时，秦襄公讨伐戎人一直到岐山，被封为诸侯。这以后六十五年，山戎越过燕国来攻打齐国，和齐厘公在齐国交战。这以后四十四年，山戎又攻打燕国，燕国向齐国求救，齐桓公北伐山戎，山戎战败逃走。以后二十多年，戎狄到洛邑来攻打周襄王，襄王逃到郑国的汜邑。起先，周襄王想讨伐郑国，特地娶了戎狄的女子做王后，想联合戎狄的军队进攻郑国。后来罢黜了狄后，狄后因此记恨周襄王，襄王的后母叫惠后，有个儿子名叫子带，惠后想立子带为王。于是，惠后和狄后、子带和戎狄里应外合，戎狄因此得以人城，打败并赶跑了周襄王，立子带做天子。有部分戎狄人留在陆浑，其他人向东扩张到卫国、侵掠蹂躏中原。中原各国对他们恨之入骨，所以诗人作诗说：“抗击戎狄”“驱逐猃狁，到达太原”“出动战车，到北方筑城。”周襄王被迫在外停留四年，派遣使者向晋国求救。晋文公刚即位，想要建立霸业，便征讨判军，赶走戎狄．诛杀子带，接回周襄王，让他住在洛邑。
这时，秦和晋都是强国。晋文公讨伐的戎狄，居住在河西固水和洛水一带，称为赤狄、白狄，秦缪公得到由余，西戎八国都归顺了秦国。所以从陇地以西有绵诸、绲戎、狄，各支戎族，岐山、梁山、泾水、漆水以北行义渠、大荔、乌氏、朐衍各支戎族。同时，晋国的北边有林胡、楼烦，燕国的北边有东胡、山戎。各自分散居住在溪谷一带，都有自己的君长。各地的戎族加起来有一百多个，但是都不能统一。
一百多年以后，晋悼公派魏绛去和戎狄讲和，戎狄的君长派人晋见晋君。又过了一百多年，赵囊子越过了句注山，攻破和兼并代国，进逼胡、貉。后来又和韩、魏一起消灭了智伯，分占晋国。这时赵国拥有代、句注山以北的土地，魏国拥有河西、上郡的土地，和戎人交界。后来，义渠中的戎人修筑城墙自卫，但秦国渐渐地蚕食他们的领土。到秦惠王时，秦便攻下了义渠国的二十五城。秦惠王进攻魏国，魏国把西河和上郡的领土全部献给了秦国。秦昭王时，义渠戎王和秦国宣太后私通，生了两个孩子。宣太后在甘泉宫用计杀死了义渠戎王，接着发兵攻破义渠。这时，秦国拥有陇西、北地、上郡这些领土，便修筑长城来抵御胡人。而赵武灵王也改变习俗，穿戴胡人的服饰，学习骑马射箭，在北边打败了林胡、楼烦。修筑长城，从代地沿阴山延伸，一直到高阙都修筑了关塞。又设置了云中郡、雁门郡、代郡，后来燕国有一位很贤能的将军叫秦开，在胡人那里去当人质，胡人非常信任他。他回到燕国以后，便率军去袭击东胡，把他们赶走，东胡退却一千多里。和荆轲一起去行刺秦王政的人叫秦舞阳，就是秦开的孙子。燕国也从造阳到襄平修筑了长城，设置上谷，渔阳，有北平、辽西、辽东各郡来抵御胡人。这时，具备了冠带和礼俗却互相攻战的大国有七个，其中三个靠近匈奴。后来李牧当赵国的将军，匈奴不敢入侵赵国边境。秦灭六国以后，秦始皇派遣蒙恬率领十万大军北击匈奴，悉数收复河套一带的失地。沿着黄河修筑关塞。临近黄河一共建了四十四个县城，迁徙囚徙住到那里。并且修筑了直通长安的大道，从九原到云阳，利用山岭、险崖、溪谷等可修筑的地力修筑堡垒。从临洮起，到辽东郡共一万多里，并且占有黄河北日山和北假一带。
当时，东胡和月氏都很强盛。匈奴单于名叫头曼，头曼因为敌不过秦国，就向北方迁徙。十几年以后，蒙恬死了，原来侍奉秦的诸侯国都背叛秦国，中原动荡不安，那些被秦国流放戍边的犯人都纷纷离开了，因此匈奴感觉有机可乘，又慢慢地渡过黄河南徙，和中原原来的关塞接界。
头曼单于立过太子，太子名叫冒顿。后来头曼宠爱的阏氏又生了个小儿子。头曼打算废掉冒顿，改立他的小儿子做太子，便让冒顿到月氏国去当人质。冒顿到月氏后，头曼便急攻月氏。月氏想杀冒顿，冒顿偷了一匹良马，骑着它逃回匈奴。头曼认为他很勇敢，便命令他率领万名骑兵。冒顿发明了一种响箭，同时训练他的部下骑马射箭，下令说：“凡是响箭射什么，人家就跟着发射，否则，就砍头。”他用响箭射猎鸟兽，有人不射击响箭所发射的目标，冒顿就把他杀了。不久，冒顿用响箭射自己的良马，左有的人有不敢跟着射的，冒顿立刻把他们砍了。过了些时候，冒顿又以响箭射杀自己的爱妻，左有的人都感到很害怕，不敢跟着射，冒顿又将这些人杀了。又过了一段时间，冒顿出去打猎，用响箭射杀单于的良马，左有的人都跟着射。因此冒顿知道他身边的人可供他利用了。就跟着他的父亲头曼单于去打猎，用响箭射头曼，他的左右也都随着响箭射去，杀了头曼单于，又杀尽了他的后母、弟弟，以及不听从他的大臣。冒顿自己做了单于。
当时东胡很强盛，冒顿做了单于后，东胡听说冒顿杀了父亲，自己做了单于，便派遣使者对冒顿说，想要得到头曼在世时的千里马。冒顿征询大臣的意见，大臣们都说：“千里马是匈奴的宝马，不要给他们。”冒顿说：“东胡和我们是邻国，怎么能为了匹马破坏两国的关系呢？”于是把千里马送给东胡。过了一段时间，东胡认为冒顿怕他，又派遣使者对冒顿说，想要得到单于的一位爱妃。冒顿又问左右大臣的意见，左右大臣都愤怒地说：“东胡人太没有道理了，竟然索要大王的爱妃，请您出兵攻打他们。”冒顿说：“东胡和我们是邻国，怎么能为了个女人破坏两国的关系呢？”于是把自己的爱妃送给了东胡。东胡王越发骄傲起来，向西侵占土地。在东胡和匈奴之间，有一千多平方公里荒地。只有双方各自在边界上修建的堡垒。东胡派遣使者对冒顿说：“匈奴和我们边界堡垒以外的那一片空地，你们匈奴不能去，我想要得到它。”冒顿问大臣们的意见，大臣们有的说：“那是一片荒弃的空地，给他们也行，不给也行。”冒顿于是大发雷霆，说：“土地是国家的根本，怎么可以给他们！”便把那些主张把空地给东胡的大臣都杀了。冒顿骑上战马，发布命令，凡是不去攻打东胡的都要被杀头。便向东袭击东胡。东胡当初轻视冒顿，没有防备。所以冒顿率军一发起进攻就把东胡打得大败，消灭了东胡王，掳掠东胡的人口和牲畜。冒顿回来以后，向西攻击，赶走了月氏，向南吞并了楼烦和白羊河南王，完全收复了被秦王派蒙恬所夺取的匈奴土地，和汉朝以原河南关塞为界，一直到朝那、肤施、进而又侵略燕、代的领土。当时刘邦和项羽相持不下，中原境内因为战乱而疲惫不堪，因此，冒顿趁机使自己的势力强大起来，有三十多万精锐部队。从淳维到头曼，有一千多年，匈奴的势力时大时小，经常分别离散，时代久远，他们流传的世系已无法确定。但是到了冒顿时，匈奴达到鼎盛时期，使北部的少数民族都服从他的统治，同时在南方与中原王朝为敌。此后他们的世系、传国情形和官号都有详细记载。
匈奴设置有左右贤王、左右谷、左右大将、左右大都尉、左右大当户、左右骨都候。匈奴把“贤”称做“屠耆”，所以常由太子做左屠耆王。从左右贤王以下到当户，大的拥有骑兵万人，小的也有几千人，共有二十四位首领，称做“万骑”。大臣都世袭官职。呼衍氏、兰氏，后来有须卜氏，这三姓是他们的显贵望族。左方王将率军居住在东方，一直到上郡以东地区、东接秽貉、朝鲜；有方王将率军居住在西方，一直到上郡以西地区，和月氏、氏、羌接壤；单于的国都，面对代郡、云中郡。他们各自都有自己管辖地盘，寻找水草丰盛的地方迁移。左右贤王、左右谷王最大。由左右骨都侯辅政。那二十四位首领也各自设置了千长、百长、什长、裨小王、相封、都尉、当户、且渠这些官职。
每年正月，君长们在单于的住地举行小型的聚会，春祭。五月，在茏城举行盛大的集会，祭祀他们的祖先、天地、鬼神。到了秋季，马儿肥了，就在蹄林举行大规模集会，统计人口和牲畜的数目。匈奴的法律规定：只要是有意杀人的，即使只拔刀出鞘一尺，也要被处死刑，犯偷盗罪的，没收家属、财产：罪刑轻的处以“轧”刑，重的要被处死。坐牢的期限最多不超过十日，全国的囚犯也不过几个人。单于一清早就要走出他的营房，去敬拜初升的太阳，晚上则敬拜月亮。他的座位经常是在左，面向北方。他们尊崇戌日己日，他们的葬丧习惯、有棺椁、金银、衣裘，却没有坟堆墓树和丧服制度，单于死了，他的近臣和妃妾陪葬的，多达几十人，或上百人。常常根据星象月象决定军事计划，月圆就去攻打敌人，月亮亏了就退兵。在攻战时，斩杀了一个敌人，长官就赏他一大杯洒，所掠夺的战利品也归他，俘虏了敌人，可以带回去做奴婢。所以他们参加作战，人人都追逐利益，擅长布疑兵来引诱包围敌人，所以他们见到敌人，人人逐利，像鸟雀一样从四面八方聚集起来；要是战败了，就土崩瓦解，四散奔逃。作战时能把同胞的尸体搬回来，可以获得死者的全部财产。
后来，冒顿在北方又征服了浑瘐、屈射、丁零、鬲昆、薪犁这些国家。因此匈奴的贵族大臣非常佩服，认为冒顿单于贤能。
这时，汉朝刚刚统一中原各国，派韩王信到代国去，建部马邑城。匈奴大规模地围攻马邑，韩王信投降了匈奴。匈奴获得了韩王信，便率军南进，越过句注，进攻太原，直到晋刚城下。汉高帝亲自率军抗击匈奴。这时恰好是冬天，气候寒冷，雨雪交加，每十个士兵就有两三个冻掉手指的，于是冒顿就假装战败逃走，引诱汉军。汉军追击冒顿，冒顿将他的精锐藏起来，只暴露一些老弱残兵。于是汉朝全军出动，其中大部分是步兵，共三十二万人，向北追赶匈奴。高帝先到平城，步兵还没有完全赶到，冒顿派出四十万精锐骑兵，把高帝围困在白登。前后七天。白登城内外的汉军无法互相救助，匈奴的骑兵，在西边的骑白马，东边的骑青马，北边的骑乌骊马，南边的都是骑骅马。高帝就派遣使者暗中送给阏氏丰厚的礼物，阏氏就对冒顿说：“双方的君王不应当围困对方，现在就算是获得了汉朝的土地，单于终究也不能搬到中原去。况且汉王也有神灵相助，请单于仔细考虑。”冒顿本来和韩王信的部将王黄、赵利约好时间会师，但王黄和赵利的军队又没来，因此单于怀疑他们二人和汉军有密谋，也就听了阏氏的话，解开了包围圈一角。于是高帝命令士兵们张弓搭箭，向外冲出，终于和大军会合，而冒顿率军离去。汉朝也率军撤离，高祖就派刘敬去和匈奴谈和亲的事。
此后韩王信在匈奴任将，同赵利、王黄等人经常违背盟约，侵犯劫掠代，云中等地。没过多久，陈稀反叛，又和韩信合谋攻占代地。汉朝派樊哙去抗击，又收复了代、雁门、云中这些郡县，但不出塞外。这时匈奴因为有很多汉将来投降，所以冒顿常常到代地来往侵犯劫掠。汉朝对此感到很忧虑，就派刘敬奉送皇族的女儿冒充公主去做单于的阏氏，每年都奉送些丝棉、绢绸，酒、米、食物给匈奴，和匈奴相约结为兄弟，实行和亲，冒顿才收敛自己的侵略行为。后来燕王卢绾反叛，率领他的党羽几千人投降匈奴，往来侵扰在上谷郡以东地区。
高祖去世后，孝惠帝、吕太后执政时，因为汉朝刚刚安定不久，匈奴甚是嚣张。冒顿竟然写信给吕太后，在信中胡言乱语。吕后想派兵去攻打，将帅们都说：“凭高帝那样贤明英武，尚且被匈奴困在平城。”吕后只好作罢，还是跟匈奴和亲。
孝文帝刚即位，又要和匈奴和亲。孝文帝三年五月，匈奴右贤王进入河套以南地区，侵犯和劫掠上郡保卫汉塞的蛮夷，杀掠人民。因此命令丞相灌婴出兵车和骑兵共八万五千，到达高奴，攻打右贤王。右贤王逃出塞外，文帝亲临太原。当时济北王反叛，文帝返回京师，暂停对匈奴的军事打击。
第二年，单于派人送信给汉朝，说：“上天所立匈奴大单于恭敬地问候皇帝平安。前些时候皇帝所说和亲的事情，和书信中的意思相符，双方都很高兴。汉朝边界的官吏侵犯和侮辱了右贤王，右贤王没有向我报告，就听信了后义卢侯难氏等人的计谋，和汉朝的官吏对抗，断绝了两国君王的盟约，离间了兄弟间的亲密关系。皇帝两次派使者送信来质疑此事，我派遣使者带着书信前往汉朝去报告详情，汉朝扣留了他们，同时汉朝不再派使者出使匈奴，汉朝因此与我们不和，我们作为邻国也不归附。现在因为我们的小官破坏了盟约的缘故，我惩罚了有贤王，派他到西边去攻打月氏。托上天保佑，我们的官吏和兵卒都很精良，马匹也很强壮，因而消灭了月氏，斩尽了顽抗的兵卒，使他们完全降服。还平定了楼兰、乌孙、呼揭以及它们附近的二十六个小国，都将他们划归匈奴统辖。各游牧民此后都合为一家。北方已经安定，我希望停止战争，休养兵卒，喂饱马匹，消除误会，恢复过去的盟约，来安定边界的人民，继承匈奴自古以来与中原大国的友好关系，让年少的得以成长，年老的安心生活，世世代代平安快乐。不知皇帝意下如何。所以派遣郎中系雩浅呈上书信来请求，敬献骆驼一匹、骑马二匹、驾车的马八匹。皇帝如果不希望匈奴靠近汉朝的边塞，那么我姑且命令匈奴的官吏人民，到远离汉朝边界的地方去居住。使者到后，请马上让他们回来。”匈奴的使者六月中来以薪望这地方，单于的书信一送到朝廷，汉朝的君臣们忙于商议是战是和，哪一样有利。公卿大臣都说：“单于刚打败月氏不久，正士气高涨，我们不能去攻打他。况且获得了匈奴的土地，大多是盐碱地，不适合耕种、居住。和亲对汉朝很有利。”汉朝就答应了匈奴单于的请求。
孝文皇帝前六年，汉朝致信匈奴说：“皇帝敬问匈奴大单于平安。您派郎中系雩浅送给我的信中说：‘右贤王未经单于同意，听信了后义卢侯难氏等人的唆使，绝断了两国国君的盟约，离间了兄弟般的亲密关系，汉朝不再亲善我们，我们也不归附汉。现在因为我们的小官破坏了盟约，我惩罚了右贤王，派他到西边去攻打月氏，已攻取月氏。希望停止战争，休养兵卒，喂饱马匹，解除误会，恢复过去的盟约，安定边界的人民，让年少的能够成长，年老的能够安定地生活，世世代代平安快乐。’我对此非常赞赏，这是古代圣明君王的心意。汉朝和匈奴相约定成为兄弟国，用来赠送单于的礼物一向非常优厚。背弃盟约、离间兄弟般的亲密关系，多是由你们匈奴挑起。但右贤王的事件已经发生在大赦免之前，请单于不要过分地责备。单于如果能按书信上所说的去做，就请明白地告诉大小官吏，让他们不要背弃盟约，守信用，我们愿意和匈奴恢复友好关系。使者说单于亲自率军攻打一些国家，立了大功，鞍马劳顿，很是辛苦。现特把天子亲自所穿戴用的绣夹绮衣、绣夹长襦、锦夹袍各一件、比余一件，黄金镶饰的腰带一件、黄金打造的胥纰一件、彩绸十匹、锦缎三十匹、赤缯各四十匹，特派中大夫意、谒者令肩赠给单于。”
后来没过多久，冒顿去世，他的儿子稽粥继位，称为老上单于。
老上稽粥单于刚继位，孝文皇帝又派遣宗室女公主去做单于阏氏，派宦官燕国人中行说辅佐公主。中行说本不想去，汉朝强迫他去。他说：“一定要我去，我一定会威胁汉的统治。”中行说一到匈奴，就投靠了单于，单于非常信任他，对他宠爱有加。
起初匈奴喜爱汉朝的丝绸、食物，中行说说：“匈奴的人口抵不上汉朝的一郡，但之所以强大，是因为衣食和汉人不同，没有什么要倚赖汉朝。如果单于改变了习俗，喜爱汉朝的东西，汉朝只要拿出十分之二的东西，那么匈奴就彻底沦为汉的附属国了。请你把所获得的汉朝丝绸缝制成衣裤，穿着他骑马在草丛中驰骋，即刻就会裂开破损，以此告诉匈奴人丝绸没有毡裘坚固完美；把来自汉朝的食物全扔掉，以此告诉匈奴人汉朝的食物没有乳酪甜美可口。”中行说又教单于的左右侍从分类记载事物的方法，以便统计他们的人口和牲畜并征税。
汉朝送信给单于时，记载书信所用的木札是一尺一寸见方，信开头说：“皇帝敬问匈奴人单于平安”，紧接着写所送的东西以及要说的话等等。中行说唆使单于送给汉朝的信，用一尺二寸见方的木札，印章和信封的形式都要比汉朝的宽、大、长，信的开头傲慢地说：“天地所生、日月所置匈奴大单于敬问汉皇帝平安”，接着也叙述一些所送的东西和话语等等。
汉朝的使者有人说：“匈奴的风俗轻视老年人。”中行说责难汉朝的使者说：“按汉朝的习俗，凡是被派去戍边的人，当他们出发时，他们的父老双亲不也都把好吃的、好穿的给要出征的孩子吗？”汉使者说：“这话不错。”中行说又说：“匈奴人把打战看成大事，那些年老体弱的不能参加战斗，所以把肥美的食物供给壮健的人，这是为了更好地保护自己，这样父子间才能长久地得到保护，凭什么说匈奴轻视老年人呢？”汉朝的使者说：“匈奴的父母子女都同在一毡帐里休息，父亲死了，儿子就娶他的后母做老婆；兄弟死了，活着的兄弟娶他的妻子做妻子。没有帽子束带的服饰和朝廷的礼节。”中行说说：“匈奴的习俗是人吃牲畜的肉，喝它们的乳，穿它们的皮。牲畜吃草喝水，随时在迁移。所以情况紧急时，就人人学习骑马射箭。平时就喜欢快活无事。他们没有太多礼仪束缚，这便于他们迁徙。君臣之间的礼节也很简单，一国的政治就像一个人的生活一般。自己的父亲兄弟死了，就娶他们妻子做妻子，是不愿自己的种族没有后代。所以匈奴的伦理虽乱，却一定要立他们的本族子孙。现在，中国在表面上，当子弟的虽然不娶父兄的妻子，没有深厚的亲情，互相杀害，甚至改朝换代，都是由于这一缘故造成的。况且礼义的弊端，使上下的人互相怨恨，同时极力追求宫室的华美以至穷奢极侈。使人身心俱疲，精力、财力丧失贻尽。努力耕田种桑以获得衣食，修筑城郭以保卫自己。所以人民在紧急情况出现时不熟悉作战的技艺，和平时就疲于生产。唉！你们这些住在土石房屋中的汉人，不要再多费口舌，喋喋不休，你们就是戴冠束带，又有什么了不起呢？”
从此以后，汉朝的使者一想要辩论。中行说便说：“汉朝的使者不要多言多语，只记住汉朝送给匈奴的绸绢丝绵、精米曲酒、保证它们的数量和质量就行了，说这么多有什么用呢？如果你们所给的货物数量够，品质又好，也就算了；如果数量不够，质量粗劣，那么等到秋熟时，我们就只有用铁骑去践踏你们的庄稼了。”他还日夜教单于率军在要害地区等候。
汉孝文皇帝十四年，匈奴单于率领十四万骑兵挺进朝那、萧关，杀害了北地都尉孙印，劫掠了大量的牲畜财产，进而打到彭阳。单于又派兵焚烧回中宫，他们巡逻的骑兵还到了雍州的甘泉宫。于是文帝任命中尉周舍、郎中令张武为将军，出动兵车千辆，骑兵十万，驻扎在长安附近，以防备匈奴的侵袭。同时任命昌侯卢卿担任上郡将军，宁侯魏邀担任北地将军，隆虑侯周灶担任陇西将军，东阳侯张相如为大将军，成侯董赤为前将军，大规模地出动兵车、骑兵前去攻打匈奴。单于留在边塞内一个多月才离开。汉军把匈奴赶出边塞就回来了，没有斩杀匈奴。匈奴日益骄傲，每年都侵入汉朝的边塞，大量屠杀无辜百姓，劫掠了很多牲畜财产。云中郡、辽东郡损失最惨重，乃至每郡被杀的都有一万多人。汉朝对此很忧虑，就派遣使者送信给匈奴请求和亲，单于也派当户来报谢，再议和亲。
孝文帝后二年，汉朝派遣使者送信给匈奴说：“皇帝敬问匈奴大单于平安。你派当户且居雕塑渠难、郎中韩辽送给我的两匹马已经到了，我诚恳地接受。先帝规定：长城以北、为弯弓射箭的国家，受单于管辖；长城以内，戴冠束带的人家，我要加以统治。要让千万人安心地耕种、织布、射猎以求得衣食。父子相守，君臣相安，杜绝暴虐叛逆的事发生。现在听说有邪恶不正的人，为了贪图利益，竟背信弃义。破坏盟约，不顾千万人的死活，离间两国君王的友好关系。但这些事情已成为过去。你来信说：‘我们两国已经订了和亲的盟约，双方的郡王都很乐意，停战、养兵、喂马，希望人民代代都繁荣快乐，友好安定的局面重新开始。’我非常赞成您的主张。圣明的君王使自己的道德言行天天进步，政弦更帐，使老年人获得安养，年幼的得以成长，男人都能使一家老小安安稳稳地过日子，度过快乐的一生。我和单于都是遵循这一道理，顺应天意，体恤人民，希望世代相传、以至无穷，天下的人无不享受这样的福利。汉朝和匈奴是势均力敌的两个邻邦，匈奴地处北方，气候寒冷，萧杀的阴气来得很早。所以我命令官吏每年送一定数目的林蘖、金帛、丝絮以及其他的物品给单于。现在天下太平，万民和乐，我和单于做了百姓的父母。我回忆从前的往事，不过是为了些不起眼的小事和不值一提的财物，还有就是听信不正确的计策，离间了我们兄弟般的友谊。我听说天不只是某个人的天，地也不只是某个人的地。我和单于都应抛弃以前的小误会，大家都遵行正道，尽释前仇，以维持长久的关系，让两国的人民，像同一个家庭中的儿女子弟。善良的人民以及水中的鱼鳖、空中的飞鸟、陆地上跑动的兽类和爬行的虫类，无不向往追求平安有利的生活，避开危险灾害。所以只要来归顺的，就不加阻止，这是上天的道理。都不再提以前所发生的事，我赦免从前那些逃往匈奴的人的罪过，单于也不要追究章尼等人。我听说古代帝王，一言九鼎，从不背弃诺言。单于记住一点，天下安定太平，和亲以后，汉朝绝对不会背弃盟约，望单于仔细考虑。”
单于和汉朝已订和亲的盟约。汉文帝就诒令御史说：“匈奴大单于送信给我，说和亲的盟约已定，收留逃亡的人不足以增加民众扩张土地，今后匈奴绝不准人塞，汉人也不准出塞侵犯匈奴，如果有人敢违和约，定斩不饶，这样才可以长久保持亲密的关系，以后没有人为的灾祸，对双方都行利。朕已经批准了这一件事，将其布告天下，让大家都明白知道。”
四年初，老上稽粥单于去世，他的儿子军臣继位为单于。军臣成为单于后，孝文帝又和匈奴签订了和亲的盟约，中行说又侍奉军臣单于。
军臣单于继位四年后，匈奴又违背和亲的盟约，派遣三万骑兵，大规模地入侵上郡、云中郡，杀了很多人，掠夺了很多财物才离去。于是汉朝派遣三位将军率军驻扎在北地郡，代国的军队驻扎在句注，赵国把军队驻扎在飞狐口，各地和匈奴交界的地方也都设兵把守，以防备胡人的侵犯。又设置了三位将军，率军驻在长安四边的细柳、渭北的棘门、灞上三个地方来防备胡人。胡人的骑兵侵入了代国句注的边界，烽火传到甘泉，长安。几个月以后，汉军到达边界，匈奴撤军，汉军也就停止作战。一年以后，孝文帝驾崩，孝景帝继位，因而赵王遂就私通匈奴。吴、楚两国造反时，匈奴想和赵国合谋入侵汉朝的边界。后来汉军围攻赵国，把赵国打败，匈奴也就停止入侵的行动。从此以后，孝景帝又和匈奴订立和亲的盟约，互通关市，赠给匈奴财物，把公主嫁给单于作妻子，和从前所订立的盟约没什么两样。从孝景帝继位到逝世这一段期间，匈奴虽然有时在边界作小规模的劫掠，但没有大规模的入侵。
汉武帝登位，申明盟约，厚待匈奴且互通关市，赠送给他们丰富的财物。匈奴从单于以下的人都亲近汉朝，往来于长城下。
汉朝派马邑人聂翁壹故意冒犯禁令，私自拿物品出边境和匈奴交易，说愿意做内应帮单于攻取马邑城，单于深信不疑，而且贪图马邑城的财物，就率领十万骑兵入侵武州的边境。汉朝以御史大夫韩安国为护军将军，等待单于。在马邑城的附近埋伏了三十几万军队，单于进兵到离马邑城一百多里的地力，看见野外布满了牲畜，却无人牧养，心中感到奇怪，就攻打汉朝来窥探敌人所建的亭楼。这时雁门郡的尉史正好出来巡视边塞，见到敌寇，就坚守这座亭楼，他知道汉军的计谋，单于捉到尉史，想将他杀死，尉史就向单于告密说汉朝已设置伏兵。单于震惊地说：“我本来对这一件事就心存疑虑。”就率军撤回。出了边塞，单于说：“我捕获了尉史，这是天意。天让你告诉我。”把尉史当做“天王”。汉朝本来约好单于率军进入马邑城，然后再率军加以攻击。因为单于事先警觉起来，所以汉军毫无所得。汉朝将军王恢的部队本来要越过代国去攻打胡人的辎重，听说单于已经走了，而且匈奴人多势众，害怕敌不过匈奴，就未发兵。朝廷认为本是王恢设计诱攻单于的，却临阵脱逃，就将王恢处死。从此以后，匈奴断绝了和亲盟约，进攻直通要道的边塞，时常劫掠汉朝的边界，次数无法计算。但是匈奴贪利，还是喜欢互通关市，喜爱汉朝的财物，汉朝也还和他们互通关市，不加禁止。
马邑军事行动结束后的第五年的秋天，汉朝派遣四位将军各自率领骑兵一万人，在关市附近攻击胡人。将军卫青从上谷郡出发，到茏城，捕获了胡人的精锐士兵七百人。公孙贺从云中郡出发，没有什么收获。公孙敖从代郡出发，被胡人打败，损失士卒七十多人。李广出了雁门郡，被胡人打败，李广被匈奴活捉，后来逃回汉朝。汉朝拘捕了敖、广二人，敖、广被贬为平民。这一年冬天，匈奴屡次侵入边界劫掠，渔阳郡首当其冲，受祸尤深。汉朝派将军韩安国驻扎在池阳郡以防备胡人的侵犯。第二年的秋天，匈奴两万骑兵入侵汉朝，杀了辽西郡的太守，虏掠两千多人。胡人又入侵渔阳郡，打败了太守的一千多部下，围攻将军韩安国，安国当时的一千多名骑兵也将要损失殆尽，恰好燕国的救兵赶到，匈奴才离去。匈奴又入侵雁门关，杀掠了一千多人。因此汉朝派将军卫青率领二万骑兵出了雁门郡，李息出了代郡，抗击胡人。汉军捕获了胡人几千人。第二年，卫青又出了云中郡以西直到陇西，在黄河以南攻打了胡人的楼烦、白羊王，捕获了几千名敌人、一百多万头牛羊。因此汉朝就占领了河南的地方，修筑朔方城，又修建了原先秦朝时蒙恬所设置的要塞，凭借黄河巩固关防。汉朝也放弃了上谷郡一些较偏僻的县造阳地方给胡人。这一年是汉朝的元朔二年。
第三年冬天，匈奴的军臣单于去世。军臣单于的弟弟左谷矗伊稚斜自己登位做了单于，又打败了军臣单于的太子于单。于单逃亡投降了汉朝，汉朝封于单为涉安侯，过几个月就死了。
伊稚斜于登位的那年夏天，匈奴的几万骑兵入侵代郡，杀害太守恭友，劫掠一千多人。秋天，匈奴又入侵雁门，杀掠了一千多人。第二年，匈奴又入侵代郡、定襄、上郡，每次都出动三万骑兵，杀掠数千人。匈奴打贤王怨恨汉朝夺去了河南的地区，修筑了朔方城，就屡次入侵边境，以及进入河南，侵略骚扰朔方，杀掠很多官民。
第三年的春天，汉朝任命卫青做大将军，统率六位将军十万多人，出朔方高阙塞攻打胡人。右贤王认为汉军不能到来，喝醉了酒，汉军出塞六七百里，在夜里围攻右贤王。右贤王大吃一惊，就逃走，那些精锐的骑兵也随之而逃。汉朝捕获了右贤王所管辖的部众男妇一万五千人，裨小王十多人。这一年的秋天，匈奴一万骑兵入侵代郡，杀害都尉朱英，劫掠了一千多人。
第四年春天，汉朝又派遣大将军卫青率领六位将军十几万士兵，再度出定襄几百里的地方去攻打匈奴，前后共斩杀匈奴一万九千余人，汉朝也损失了两位将军及三千多骑兵。右将军苏建只身逃回，拣了条命。而前将军翕侯赵信因作战失败，投降了匈奴。赵信原是胡人的小王，投降汉朝后被封为翕侯，因为前将军和右将军两军合并，又离开大军独自行进，结果碰上单于大军，全军覆没。单于捕获翕侯，就封他为白次王，把自己的姐姐嫁给他，和他合谋对付汉朝。信教单于更向北边移动，渡过沙漠，引诱汉军，使汉军精疲力尽后才得以攻打它，远离汉朝的边塞。单于听从他的计谋。
次年，胡人一万多骑兵入侵上谷，杀害了好几百人。
第二年的春天，汉朝派骠骑将军霍去病率领一万多骑兵出了陇西，越过焉支山一千多里去攻打匈奴，斩获一万八千多胡人，获得了休屠夫祭天的金人像。夏天，骠骑将军又和合骑侯的几万骑兵出了离陇西、北地两千里的地方，攻打匈奴。汉军经过居延，向祁连山发起进攻，斩获了胡人三万多人，包括裨小王以下七十多人。这时匈奴入侵代郡、雁门，杀掠了几百人。汉朝派博望侯和李广率军出了右北平，攻打匈奴的左贤王，左贤王围攻李广，李广的兵卒约四千人，损失殆尽，所杀的胡人也超过自己的数目。恰好博望侯的军队前来援救，李广才得以脱身。汉军伤亡了几千人，合骑侯误了骠骑将军所订的日期，论罪和博望侯都应当被处死，赎罪后被贬为平民。
秋天，单于对浑邪王、休屠王居住西方被汉朝斩杀几万人这事，感到很愤怒，想召回他们然后把他们杀掉。浑邪王和休屠王感到很恐惧，商议投降汉朝，汉朝派骠骑将军前去迎接。浑邪王杀了休屠王，兼并他的兵众投降汉朝，共四万多人，对外宣称有十万人。汉朝得到了浑邪王以后，陇西、北地、河西一带的胡寇便减少了。便迁徙关中贫民到从匈奴夺来的河南、新奉去充实边疆，同时减少戍守北地以西的一半兵卒。第二年，匈奴以数万骑兵入侵右北平、定襄等郡，杀掠了一千多人才离去。
第二年的春天，汉朝君臣共商此事，一致认为：“翕侯信替单于出谋划策，要匈奴住在大漠以北，认为汉朝的军队不能到达那里。”便喂饱了马匹，出动十万骑兵，加上自带衣服和马匹随军出发的共十四万人，还不包括粮食和辎重在内。命令大将军卫青、骠骑将军霍去病各领一半部队，大将军出了定襄，骠骑将军出了代郡，都约好渡过大漠去攻打匈奴。单于听到这消息，就把辎重迁移到远方，率领精锐军队在漠北迎战，和汉朝的大将军交战一天，恰好天黑了，刮起大风，汉军派出左右两翼的军队包围了单于。单于自料打不赢汉军，于是独自和几百名健壮的骑兵冲破汉军的包围，向西北逃走。汉军趁夜追击，没有追到。汉军在追击匈奴途中斩获了一万九千多匈奴人，北抵阗颜山赵信城才回师。
单于逃走的时候，他的军队往往和汉军混杂在一起，同时追单于。单于长时间不能和他的大部队会合，他的右谷王以为单于已经死了，就自立为单于。真单于再度聚集起他的兵众，右谷蠡王就去掉单于的称号，又复为右谷蠡王。
汉朝的骠骑将军出了代地两千多里，和左贤王作战。汉军共斩获七万多胡人，左贤王和部将都逃走了。骠骑将军在狼居胥山祭天，在姑衍祭地，到了翰海才回师。
此后，匈奴逃往远方，而漠南就没有单于的王庭。汉朝势力越过黄河，从朔方以西到令居县，到处疏通沟渠，开垦田地，有官吏和兵卒五六万人，渐渐向北蚕食，国境接近匈奴旧驻地以北。
起初，汉朝的两位将军大举出兵围攻单于，所杀的敌人有八九万，汉朝牺牲了几万士兵，损失了十几万马。匈奴虽然疲惫，远远逃去，但是汉朝的马匹也很少，无法再进行追击匈奴。匈奴采用赵信的计谋，派遣使者到汉朝，说尽好话请求订立和亲的盟约。天子把这个请求交给臣下讨论，有人主张和亲，有人主张命令他们称臣。丞相的长吏任敞说：“匈奴刚刚战败，处境艰困，应当让他们做外臣，到边界朝见。”汉朝派遣任敞出使到单于那儿去，单于听了任敞的计划，大发雷霆，扣留使臣不放。起先汉朝也留下了一些来投降的匈奴使者，单于也扣留了相当数目的汉朝使者。汉朝正在聚集军队，恰好骠骑将军霍去病死了，因此汉朝很久没有北击匈奴。
几年后，伊稚斜单于继位十三年后死了，他的儿子乌维继位作了单于，这一年是汉朝的元鼎三年。乌维单于登位，汉朝的天子才出巡郡县。后来汉朝正讨伐两越，不出击匈奴，匈奴也不入侵汉朝边界。乌维单于登位三年，汉朝已经消灭了南越，便派遣从前太仆公孙狄率领一万五千骑兵，出了九原郡两千多里，抵达浮苴井才回军，连匈奴的影子都没见到。汉朝又派遣从前的从骤侯赵破蚁统率一万骑兵出了令居县几千里，也没有遇见一个匈奴。
这时天子巡视边境，到朔方，统率十八万骑兵以显示军威，并且派郭吉向单于示威。郭吉到达匈奴以后，匈奴主管接待外宾的官员问他此来的任务，郭吉彬彬有礼，言语很客气，说：“我要当面和单于谈。”单于接见了郭吉。郭吉说：“南越王的头已被悬挂在汉朝的北阙。现在单于如果能够前来和汉朝作战，天子已经亲自率领军队在边界等着；单于如果不能的话，就应该向汉朝南面称臣，为什么只是逃走到远方，躲在漠北又冷又苦、没有水草的地方？这样做是没有作为的。”话刚说完，单于就非常生气，立刻杀了那位引见郭吉的主管官员。把郭吉扣留下来，放逐到北海去。同时单于也始终不愿入侵汉朝的边界，休兵养马，练习射猎，屡次派遣使者到汉朝，说些动听的话向汉朝请求和亲。
汉朝派王乌等人去窥探匈奴的虚实。匈奴的法令规定：汉朝的使者如果不除去旄节和用墨自涂其脸的，就不能进入毡帐。王乌是北地人，熟悉胡人的习俗，就除去他的旄节，用墨涂脸，因此能进入毡帐。单于很喜爱他，就说好话哄骗他，假装答应为了王乌，要派太子到汉朝去当人质，以求和亲。
汉朝派杨信出使匈奴，这时，汉朝在东方攻下了秽貉、朝鲜，在那里设置于几个郡，同时在西方设置了酒泉郡以隔绝胡人和羌人的通路。汉朝又向西和月氏、大夏沟通，把公主嫁给乌孙王，以分化匈奴在西方的援国。又在北方更加增垦田地到胘雷，设置关塞，匈奴始终不提一言，这一年，翕侯信死，汉朝的大臣们认为匈奴已经衰弱，可以使他臣服。杨信的性格刚强正直、不易屈服，他因为一向不是显贵贵臣，单于不愿亲近他，单于要在毡帐里召见他，因为他不肯除去旄节，单于就坐在毡帐外接见杨信。杨信见了单于以后，就劝他说：“假使您打算和亲，就把太子送到汉朝当人质。”单于说：“这不是从前的盟约，从前的盟约是汉朝常常把公主嫁过来。而且送给我们一定数目的绵絮、食物，匈奴也不去扰乱边境。现在却要改变做法，要我的太子去当人质，这是根本不可能的事。”匈奴的习俗是：看见汉朝的使者不是皇帝宠幸宦官，而是儒生，想来游说的，驳倒他的辩辞；如果是少年，便认为他是想要行刺，就折杀对方的气势。每当汉朝的使者到了匈奴。匈奴就采取相应手段对付汉朝使者。汉朝扣留了匈奴的使者。匈奴也扣留了汉朝的使者，一定要对等才肯罢休。
杨信回来以后，汉朝派王乌出使匈奴，单于又用甜言蜜语奉承他。想向汉多要些财物，就骗王乌说；“我想进汉朝去觐见天子，和他当面相约结为兄弟。”王乌回去向汉朝报告，汉朝为单于在长安建筑了宫邸。匈奴说：“要不是汉朝的贵人当使者，我不会说出真心话的。”匈奴派他的贵人出使到汉朝，生病了，汉朝派人送药给他服用，想治好他的病，他不幸死去。汉朝派路充国佩带着三千石官员的印绶出使匈奴，以护送这位匈奴贵人的灵柩，并且赠送价值几千元的厚礼，对匈奴说：“这是汉朝的贵人。”单于认为汉朝杀了他的尊贵使者，就把路充国留在匈奴当人质。单于所说的那些话只是欺骗王乌罢了，根本没有丝毫诚意到汉朝来，更不想让太子当人质，因此匈奴常常派骑兵侵犯边境。汉朝就任命郭昌为拔胡将军，和浞嘶野侯屯驻朔方以东，防备胡人。路充国被扣留在匈奴三年，单于死了。
乌维单于在位十年而死，他的儿子乌师庐登位为单于。他年纪小，号称儿单于，这一年是元封六年。从此以后，单于更加肆无忌惮向西北发动侵略攻势，左路大军直抵云中，右路大军直抵酒泉、敦煌。
儿单于继位，汉朝派两位使者，一位去慰问单于，一位去慰问左贤王，想挑拨匈奴君臣关系。使者进入匈奴，匈奴把他们全部送到单于那儿去。单于很生气，就把汉朝的使者全部留下来。汉朝被扣留在匈奴的使者前后有十几批，匈奴的使者到汉朝来的，汉朝因此也扣留匈奴派来的使臣。
这一年，汉朝派贰帅将军李广利西攻大宛，而且命令因杆将军敖筑受降城。冬天，匈奴的领地闹雪灾，很多牲畜被冻死了。儿单于年纪小，喜欢攻杀作战，国人多感不安。左大部尉想要杀单于，派人暗中告知汉朝说：“我想要杀单于，投降汉朝，汉朝离我们太远，汉若派军队来接应我，我就发动政变。”起初，汉朝听到这话，就修筑受降城，但仍然以为距离匈奴太远所以做罢。
第二年的春天，汉朝派浞野侯赵破奴率领两万多骑兵出了朔方西北两千多里，约好时间到浚稽山然后还师。浞野侯到了约好的时间就回师，左大都尉要杀匈奴的单于被发觉了，单于把他诛杀，出动左方的军队攻打浞野侯。浞野侯在行进间捕获和斩杀了匈奴几千人。回师途中，赵破奴的部队离开受降城还不到四百里，匈奴八万骑兵包围了他们。浞野侯在夜里私自出去找水，匈奴暗中搜捕，活捉了浞野侯，于是急攻汉军。浞野侯的军中，郭纵担任护军，维王担任渠师，两人商议说：“现在军中的校尉因主帅被俘都担心会被胡廷诛杀，不如劝他们投降匈奴。”于是他们率众投降匈奴。匈奴儿单于非常高兴，于是派骑兵攻打受降城，没有攻克，就入侵边塞劫掠一番，然后离去。次年，单于想要亲自攻打受降城，还没有抵达，就得病而死。
儿单于在位三年就死了，他的儿子年纪太小，匈奴就拥立他的叔父乌维单于的弟弟右贤王啕犁湖登位为单于。这一年是太初三年。
啕犁湖单于登位，汉朝派光禄徐白为出了五原塞数百里，远的地方甚至一千多里，修筑城堡进到庐朐，同时派游击将军韩说、长平侯卫驻扎在这一带，派强弩都尉路博德在居延泽亡建筑城鄣列亭。
秋天，匈奴大规模地入侵定襄、云中，杀掠了几千人，打败了好几位二千石的官员才撤兵，返回途中又摧毁了光禄所建造的城鄣列亭。又派右贤王入侵酒泉、张掖两郡，掳掠了几千人。恰好遇到汉将任文的救兵截击匈奴，匈奴又失去了全部的虏获而离去。这一年，贰师将军攻破大宛国，斩了大宛王然后还师。匈奴想去截击他，却不能到。冬天，想攻打受降城，碰巧单于病死。
啕犁湖单于在位一年就死了。匈奴拥立他的弟弟左大都尉且鞮侯继位为单于。
汉朝讨伐了大宛国以后，威震四方。天子想要趁势围困胡人，就下诏书说：“高皇帝留给朕平城的忧虑，高后时，单于来信极为无礼，有狼子野心。从前齐襄公报了九世的仇，《春秋》大大地称誉他。”这一年是太初四年。
且鞮侯单于登位以后，释放了所有不愿投降的汉朝使者，路充国等人得以回来。单于刚刚继位，怕汉朝袭击他，便自己宣称：“我是小孩子，怎么敢和汉天子相比！汉天子是我的长辈。”汉朝派遣中郎将苏武携带丰富的币帛礼物赠送给单于。单于更加骄傲，甚是无礼，不是汉朝所期望的那样子。次年，浞野侯破奴从匈奴逃回汉朝。
第二年，汉朝派贰师将军李广利率领三万骑兵出了酒泉，在天山攻击匈奴的右贤王，斩获一万多胡人回来。匈奴大举围攻贰师将军，贰师将军几乎无法脱身，汉朝的士兵死伤大半。汉朝又派因杆将军敖出西河，和强弩都尉在涿涂山会合，无功而返。又派骑都尉李陵率领步兵和骑兵共五千人，到了离居延北方一千多里的地方，遭遇单于，双方交战，李陵的军队杀伤匈奴一万多人。李陵眼看兵尽粮绝，想脱身回去，匈奴包围李陵，李陵投降了匈奴，他的军队几乎全军覆没，得以生还的只有四百人。单于很尊重李陵，把自己的女儿嫁给他。
两年后，汉朝又派贰师将军率领六万骑兵和十万步兵出朔方，强弩都尉路博德率领一万多人和贰师会台。游击将军韩说率领步兵和骑兵三万人出五原，因杆将军敖率领一万骑兵和三万步兵出雁门。匈奴听说消息，就把他们的家人和繁重的东西全部运到余吾水以北的地方去，同时单于率领十万骑兵在水南等候汉军，要和贰师将军作战。贰师就引兵回师，和单于连战十多天。贰师将军听说他的家族因巫蛊之罪被诛灭，于是率领他的兵众投降匈奴。汉军能够回到汉朝的，一千人中只有一两人罢了。游击将军韩说没有什么虏获。因杆将军敖和左贤王作战不利，引兵而还。这一年，汉朝的军队出击匈奴的，无法谈功劳的大小，因为战功抵偿不了失败。天子下诏书要拘捕太医令随但，因为他透露了贰师将军的家族被朝廷诛灭的事，致使李广利投降了匈奴。
