当初，御史中丞李文与张汤有矛盾，张汤所要好的吏鲁谒居暗中指使人告发李文奸事，案子到了张汤手里，判了死罪。张汤心知是鲁谒居干的，汉武帝刘彻问：“李文的案子是怎么被发现的？”张汤假装吃惊地说：“可能是李文的熟人怨恨他吧。”鲁谒居得病，张汤亲自给他按脚。赵王一向怨恨张汤，上书告发：“张汤是大臣，去给小吏按脚，可能有大奸。”案子交给廷尉。鲁谒居病死了，事情牵连到他弟弟。鲁谒居弟弟被关押在导官，张汤也借口审问其他犯人来到导官，见到了鲁谒居弟弟，想要暗中操作，而表面装作不知道。鲁谒居弟弟没明白，怨恨张汤，让人上书，告发张汤与鲁谒居合谋告发李文。案子交给减宣，减宣曾经与张汤有矛盾，得到这个案子后，追查到底，还没上奏。正好赶上有人盗挖了孝文园埋的钱，丞相庄青翟上朝，与张汤约好一起承认错误，到了汉武帝刘彻面前，（庄青翟认错了），张汤没认错。于是刘彻让御史审问丞相庄青翟，张汤想要让报告上出现“丞相提前知道”，丞相庄青翟很担心。丞相长史朱买臣、王朝、边通，都是原来的九卿、二千石，都是张汤上来之前的事。张汤多次行使丞相的权利，知道三个长史以前尊贵，故意欺辱他们，当下属对待，三长史都怨恨，想要死。于是都与丞相谋划，派吏抓捕审问商人田信等，说：“张汤要上奏什么事，商人都事先知道，囤积货物来卖钱，然后与张汤分钱。”事情传到了刘彻那里，刘彻问张汤：“我想要做的事，商人都事先知道，增加囤积货物，这好像是有人把我的计划通知了他们。”张汤不承认，又假装吃惊说：“应该是有人吧。”减宣又上奏鲁谒居等案子。刘彻认为张汤当面欺骗自己，派赵禹狠狠批评张汤，张汤于是上书谢罪，又说：“陷害我的人，是三长史。”于是自杀。张汤死后，家产价值不超过五百金。兄弟儿子们想要厚葬张汤，张汤母亲说：“张汤是天子大臣，被诬陷而死，厚葬干什么！”用牛车拉着，有棺无椁。刘彻听闻，就全部杀了三长史。庄青翟自杀。