在汉高祖刘邦统一中原的时候，北方匈奴的冒顿单于也统一了草原，并且开始了南侵。公元前201年，韩王信﹙不是韩信﹚勾结匈奴在大同叛乱。刘邦亲率32万大军迎击匈奴并取得了初胜，但他的胜利只是冒顿单于的诱敌之计。果然，冒进的刘邦被匈奴包围在白登山，幸好陈平向冒顿单于的妻子用计才得以脱险。

“白登之围”后，汉朝开始采用委曲求全的“和亲”政策来笼络匈奴，并且每年送给匈奴大批棉絮、丝绸、粮食等来换取边境安宁。到了汉武帝时期，国力恢复的汉朝决定不再向匈奴采取和软的态度，准备向匈奴实施军事打击。 公元前133年农历六月，汉武帝派遣商人聂壹前往匈奴，假装将北方的马邑献给匈奴，诱使单于前来马邑。并且命护军将军韩安国、骁骑将军李广、轻车将军公孙贺率主力部队埋伏在马邑附近的山谷中。将屯将军王恢与材官将军李息率3万多人出代郡，准备从侧翼袭击匈奴的辎重并断其退路，一举歼灭匈奴主力。

聂壹以出塞经商为名，见到了匈奴的军臣单于。聂壹欺骗单于说，他手下有几百个人，可以斩杀马邑县令，举城而降，牲畜财物尽可以归于匈奴，但匈奴应当派大军前来接应，以防汉兵。军臣单于贪图财物，亲率10万大军进入武州塞﹙今山西省左云县﹚，并派遣使者随聂壹入马邑，等斩杀县令后进兵。聂壹随后返回马邑与县令密谋，杀死一名囚犯，割下首级悬挂在城门之上，伪装成县令的头颅来欺骗匈奴使者。

军臣单于得到报告后，立即率领大军前往马邑。大军来到距马邑余里的地方，发现沿途有牲畜，却无人放牧，引起了军臣单于的怀疑。匈奴于是攻下了一个边防小亭，俘获了汉雁门尉史。在威胁下，尉史将汉军的计谋全部说出。军臣单于听后大惊之后又大喜，说：“我得到尉史不上汉天子的当，真是上天所赐。”于是封尉史为“天王”，下令立即撤军。王恢和李息率领的3万大军已出代郡，准备袭击匈奴的辎重，在得知匈奴退兵后，非常吃惊。王恢自觉自己的军队打不过匈奴大军，只好退还。韩安国和李广等人率领大军在马邑附近埋伏了几天也没见着动静，于是改变原先的作战方案，率军主动出击，但匈奴大军已经撤回了草原。 “马邑之围”之后，匈奴为了报复汉朝，在边境四处出击边郡，汉朝与匈奴的战争就此开始了。但是这一计划竟因一个怕死的小官而流产，实在是令人可惜。聂壹的后人为了避祸而改姓张，他有一个后人就是三国时的张辽，张辽在随曹操攻打乌桓时曾遇到匈奴大军，张辽奋力拼杀，斩杀匈奴单于，也算是了祖宗之愿。