马邑在现在的山西省朔州市。“马邑之谋”是当地一个叫聂壹的土豪献给王恢的计谋。王恢在和韩安国的第二次辩论中，适时将其抛出，最终促使汉武帝下定了对匈奴动武的决心。元光二年(公元前133年)六月，正值仲夏时节，汉武帝部署了对匈奴作战的计划，派出了“五大将军”：御史大夫韩安国为护军将军，卫尉李广为骁骑将军，太仆公孙贺为轻车将军，大行令王恢为将屯将军，太中大夫李息为材官将军。具体部署如下：韩安国、李广和公孙贺三虎将率汉朝的主力部队呈品字形埋伏在马邑附近的山谷里，主要任务是等匈奴大兵进入山谷后，发动致命一击;王恢和李息率军埋伏在马邑之外，主要任务是“关门”，斩断匈奴大兵的后路，来个瓮中捉鳖。
负责请君入瓮的，正是献计人聂壹。聂壹按照王恢的部署，扮成经商的大老板来到匈奴，并在夹缝中找到机会，向匈奴的军臣单于毛遂自荐。军臣单于对聂壹很感兴趣，于是召见了他。双方一见面，寒暄一番后，聂壹直奔主题，说，我有一件很贵重的礼物要送给您——我可以把马邑县的县令、县丞杀死，将整座马邑城献给大王。事成之后，大王只需分一份财产给我，并允许我在那里自由经商就行了。军臣单于求之不得，立即与聂壹成交，里应外合。
接下来，好戏上演了。聂壹快马加鞭地赶回马邑，砍了两个死囚的头，然后挂在城头上，请匈奴的使者来观看。匈奴使者经过一番现场勘查后，马上向军臣单于报告：聂壹杀死了县令和县丞。
听了使者的话，军臣单于二话不说，马上开始“外合”。他征调各地匈奴精兵于麾前，然后亲自率领大队人马向马邑一路狂奔而来。当匈奴大军到达汉朝边界的武州(今山西省左云县南)，距离马邑只有一百多里路时，军臣单于突然叫部队停下来，因为他发现了一个奇怪的现象：牛儿还在山坡吃草，放牛的却不知道哪儿去了。四处的山冈上明明有成群结队的牛羊，但却没有一个人影。这里太安静了，安静得简直让人压抑。这和他们以前来打家劫舍时百姓四处逃跑、牛羊八方逃窜的热闹场面大相径庭啊。
军臣单于心生疑窦后，马上掉转马头，直扑雁门郡。结果可想而知，军臣单于打了汉军一个措手不及，雁门郡不费吹灰之力便被他们拿下了。
雁门郡尉史面对军臣单于的严刑逼供，供出了马邑之谋。军臣单于惊恐之余马上撤了军，边撤边对尉史说道：“吾得尉史，乃天也!”(《史记·韩长孺列传》)。意思就是我能够得到汉朝的尉史，这是冥冥之中的天意啊。为了感谢尉史识时务的招供，军臣单于还将他封为天王。与尉史卖国求荣的“上天”相比，王恢却不幸入了地狱。军臣单于在率军火速撤军时，唯一能阻止他们的人便是王恢。
其实，匈奴的一举一动都在负责“关门”的王恢眼里。当看到军臣单于向马邑步步靠近时，他心里头那个美，但是，当匈奴大军在武州突然转身往回走时，王恢不由得僵住了。这时他面临一个选择：打还是不打。打击匈奴是他梦寐以求的事，是他苦心谋划、苦心经营多年的心愿。此时，匈奴近在咫尺，他怎么会不想冲上去和他们真刀真枪地干一场呢?然而，眼下他只有三万兵力，这时和匈奴硬拼，无疑是拿鸡蛋碰石头，自取灭亡。
打，于公来说，可以给汉武帝一个交代，不管怎么样，自己是尽心尽力了。于私来说，能完成自己的一己之私欲，圆自己的爱国梦。不打，于公来说，可以保全三万汉朝将士的生命，可以减少国家的损失。于私来说，可以全身而退，不背落败的责任。王恢在打与不打之中，最终选择了不打，放任匈奴大军与自己擦身而过。结果，等其他几路大军闻风而动，想要追击时，匈奴早已逃得无影无踪了。就这样，马邑之谋草草收场，汉军偷鸡不成反蚀把米。消息传到汉武帝那里，龙颜大怒。这次花了这么大的人力、物力、财力、精力，最后竟然无功而返，对排除万难，一心想要平定匈奴的汉武帝来说，简直是奇耻大辱。
愤怒的汉武帝马上进行了问责，王恢自然首当其冲。他是这次“马邑之谋”的主谋，又是唯一可以阻止匈奴退军的人，但他却眼睁睁地看着匈奴人洋洋洒洒而去。弄成这般局面，他不负责谁负责?对此，王恢辩解道：“始约虏入马邑城，兵与单于接，而臣击其辎重，可得利。今单于闻，不至而还，臣以三万人众不敌，只取辱耳。臣固知还而斩，然得完陛下士三万人。”(《史记·韩长孺列传》)这段话包含两个关键词。
第一个关键词：小不忍则乱大谋。是的，我当时是有机会阻止匈奴退军，是可以袭击他们的辎重，是可以冒险一搏，但结果会是什么样的呢?三万士兵势必会陷入匈奴十几万大军的包围当中，势必会成为匈奴发泄的对象。如果是这样，只怕我们三万人非但不能阻止匈奴，反而会落得个全军覆灭的悲惨下场。第二个关键词：舍生取义，杀身成仁。我知道我这样空手而归，肯定是死罪一条，但如果牺牲我一个人，而保全了三万将士的性命，我无怨无悔。对此，汉武帝丝毫没有被感动，耻辱和愤怒早已盛满了他的心，他根本听不进这些辩解之言了。他大手一挥，王恢立马被打进了死牢，最终自杀谢罪。