李克用知道后大怒，七月出兵讨存孝，王熔先是遣兵救援邢州，被李克用在平山打败了，壬申（初六），李克用进击镇州。王熔十分惧怕，临阵易帜，“乞盟，进币五十万，归粮二十万，请出兵助讨存孝”（《新唐书》）。李克用许可了王熔的请求。
李克用在栾城整训军队，会合王熔军队总共三万人在邢州东南的任县驻扎，李存信则在邢州龙冈县的琉璃陂驻扎。
九月，李存孝夜犯李存信营，虏奉诚军使孙考老，存信军大乱。李克用亲自率兵前往，掘沟堑以围城。李存孝出兵冲击，晋军无法筑成沟堑。
河东牙将袁奉韬派人对李存孝说：“您所畏惧的只是晋王。晋王待沟堑筑成，一定会留兵围城自己退去，他手下诸将都不是您的对手，筑好了沟堑又有什么用？”
李存孝同意，于是任由晋军筑沟堑。沟堑筑成后，深沟高垒，无法靠近，李存孝非常被动。城中粮尽。
乾宁元年（公元八百九十四年）三月，存孝登上城楼，哭着对城下的李克用说道：“儿蒙王的大恩，位至将相，难道愿意舍父子的关系而投仇敌？这是由于存信诬陷的缘故。希望能活着见王，说一句话就死。”
李克用很感伤，派刘夫人入城慰谕。刘夫人带着李存孝回来，他磕头请罪道：“儿于晋有功而无过，所以至此，是存信的缘故！”
李克用呵斥道：“你写给朱全忠、王熔的信，大肆毁谤我，这也是李存信逼你干的吗？！”
于是将他押回太原，以车裂之刑处死。其实李克用本不想杀他，希望诸将为他求情，就此顺势免了他的罪，谁知诸将都妒忌他，没一个为他求情。
李克用为此深恨诸将，但却没有谴责过李存信。李克用惋惜存孝，为之十多天不理政事，兵势也逐渐转弱，而朱温的势力则开始变得越来越强大。
李存孝死后，李克用每次和诸将赌博，谈到李存孝都流泪不止。乾宁元年十月，昭义节度使康君立前赴晋阳拜见李克用。已未（三十日），李克用会聚属下各位将领尽情饮酒，喝到兴头上，李克用谈起李存孝，泪水不停地往下流。
康君立平时和李存信亲近友好，不慎一句话触怒了李克用，李克用拔出剑来就向康君立砍去，把他囚禁在马步司，不久将他毒杀。
自古以来，在大同、朔州一带，流传着十三太保李存孝的传说。
当年，在代州的一个小村庄里，村中立起一座将军的石碑。
传说，这尊石像是天上的星宿下凡，凡是得到石将军青睐的人，都会得到好运。
有一天，村中一位姓何的姑娘采花归来，她看到这尊石像，随手一抛，花篮居然不偏不倚好套在了石将军的颈上。
没想到，这何姑娘回到家中，就有了身孕。在那个时代，未婚先孕是要被人鄙视的。
尽管何小姐再三解释都是无济于事，只能将这个孩子生了下来。亲朋好友渐渐远离，何小姐带着一个孩子，母子二人孤苦伶仃地生活着。
等到孩子四岁那年，何小姐带着孩子，来到那石将军的面前，让孩子拜祭他的父亲。
没想到，当孩子知道他的父亲竟然是这么一尊石像时，竟然发起狠来，一拳将石像打了一个粉碎。
何小姐见状，不由勃然大怒，当的是又气又急。她逼小孩跪下向父亲请罪，并且让孩子将地上的石头拣了起来重新一块一块地安了回去，并给孩子取名叫做“安静思”（安进石的谐音），以此为记。
小安静思的生活过得非常清苦，母子二人相依为命。在他十岁的一天，小安静思正在山坡上放羊。