因为魏征遭到了唐太宗李世民的猜忌,因此才被砸了墓碑。魏征在陪着唐太宗李世民一路打天下之后,因为深受李世民的器重,所以将魏征的画像放入了凌烟阁,成为凌烟阁二十四功臣。同时,李世民还为衡山公主与魏征的长子定下婚约。
不过,这一切在魏征死后因为遭到了李世民的猜忌后,李世民当时因为愤怒从而解除了衡山公主和魏征长子的婚约,并且还将魏征坟前的碑石都推倒了。而这一切的缘由则是在魏征在世之时,当时的李世民询问魏征宰相的人选,而魏征则是推荐了杜正伦和侯君集,并且认为两人有才,所以才极力推荐这二人。不过,后来因为杜正伦因泄密被贬,而侯君集因则是因为鼓动太子谋反被诛,再加上朝臣的故意煽动,从而令李世民对魏征有了猜忌。并且当时的朝臣认为魏征虽然已经故去,但是不排除他和这两人是一伙的。
因此,李世民在感觉自己被骗后,因为愤怒从而推倒了魏征的碑石。也因为这两人是李承乾的人,所以李世民便也认为魏征是李承乾的人。原本让人深受器重的大臣,竟然会背叛他,这叫李世民如何不恼火。不过,更恼火的则是李世民的黑历史被魏征扒了出来。李世民当时夺位的时候,其实是不怎么光彩的,毕竟是经历了玄武门之变后才得来的官位。再加上当时的史官是专门记录皇家历史的,而皇帝怎能有污点呢!因此,在魏征将唐太宗李世民的黑历史告诉了史官后,李世民就不是那么信任魏征了。而李世民在亲自出战高句丽后,虽然占领了高句丽,但是却并没有实现统一。因此,这时候的李世民才想到了魏征,同时也对自己以前的行为有了忏悔之意。后来,李世民便重新修建了魏征的墓碑。