公元228年，诸葛亮认为魏国内部大乱，自己举行第二次北伐的机会到了，因为老将赵云还健在，并且一直嚷着要随军北伐，但考虑到赵云年纪已经大了，所以让赵云，邓芝做为疑军去占领箕谷，然后他自己带十万蜀军正面进攻祁山。在任命谁为先锋的问题上，诸葛亮却非要任命自己的学生，被称为“马氏王常”之一的马幼常马谡为先锋。

刘备这个人领兵打仗本事未必大，但他识人用人的本事却非常厉害，刘备在世时，对马谡就没有好印象，所以经常提醒诸葛亮，马谡属于是那种夸夸其谈的人，理论上讲的头头是道，但实践方面未必行，况且性格浮燥，指挥作战恐怕有失。诸葛亮作为马谡的老师，对他却是非常信任，所以一直没听进去。

魏国方面派出了名将张郃在街亭阻挡马谡，马谡擅作主张，不听副将王平劝告把部队驻扎在山上，却不派人守住山下城邑，张郃一看他这样安排，马上派人去断绝了蜀军取水的道路。并发动进攻大败马谡，蜀军士兵四散而逃，投降者不计其数。只有王平等少数将领冲出重围。诸葛亮带领军队出了祁山，却因为街亭作战失败没找到立据的地方，也只好带领大将撤退。

与此同时，赵云的那一路疑军，也遭到了曹军大将的抵抗，最终也失败而归，但因为赵云的威名远扬在外，加上赵云亲自带人垫后，所以曹军根本不敢追击，最后赵云这一路兵马完整归来。诸葛亮回军后，将马谡连同与之一起在街亭作战的张休、李盛等全部处斩。马谡死后，诸葛亮亲自前往吊丧，为他痛哭流涕，安抚他的子女，如同平素一样恩待他们。马谡死时年仅三十九岁。

《三国志·诸葛亮传》确实说了诸葛亮"还于汉中，戮谡以谢众"。《王平传》也说："丞相亮既诛马谡及将军张林、李盛。"可是，《马谡传》却是说："谡下狱物故，亮为之流涕。""物故"是死亡的委婉说法。可见，马谡是被判了死刑，死刑没有执行，马谡自己就在狱中"物故"，没等诸葛亮挥泪去斩，就自己死去了。

《马谡传》裴松之注引《襄阳记》说的又是："谡临终与亮书曰：-明公视谡犹子，谡视明公犹父，愿深惟殛鲧兴禹之义，使平生之交不亏于此，谡虽死无恨于黄壤也-"值得注意的是，马谡是写信给诸葛亮，并不是当面对诸葛亮说话，可见，马谡下狱后没有见到诸葛亮，诸葛亮也没有到监狱看马谡。如果两人能够见面，就没有必要写信了，那样的话，口头之言也就不一定流传下来。京剧《失空斩》中诸葛亮挥泪斩马谡那生动场面也不大可能有了。

有意思的是，《向朗传》说："朗素与马谡善，谡逃亡，朗知情不举，亮恨之，免官还成都。"这说明，街亭败后，马谡并未主动向诸葛亮请罪，而是畏罪潜逃，向朗知情不报，犯了包庇罪，被诸葛亮免去官职。并不是小说《三国演义》说的那样，"自缚跪于帐前"。应该是让人家给捉回来的。

因为蜀军是同时分几路进攻，兵力分散的厉害，所以当魏军回击时，诸葛亮一时间无法调集大军来回援，无奈下就上演了那一出所谓的“空城计”。罗贯中在小说中先是让诸葛亮斩马谡，显现诸葛亮一心为国，不留私情的作为。又硬生生编了一个根本不存在的“空城计”放在诸葛亮身上，显示其聪明才智，老罗是真够疼爱孔明同学的。

同时需要说明的是，《三国志》作者陈寿的父亲也因马谡受了牵连，受了髡刑。《晋书·陈寿传》说"寿父为马谡参军，谡为诸葛亮所诛，寿父亦坐被髡"。