有一个故事，很能说明张汤的为人。他幼时，做长安丞的父亲外出，嘱咐他好好看家。父亲回来，看见家里的肉被老鼠偷跑非常生气，打了张汤一顿。没等眼泪擦干，张汤穷挖鼠洞，捉到老鼠，如同审犯人一样对老鼠审判、动刑。父亲吃惊地看着他，觉得儿子的言谈举止好像一个资深狱吏，就让他学习律令文学。此次治理巫蛊案专杀有功，汉武帝欣喜地发现张汤正是自己理想中的人才，提拔他做了太中大夫。
欲实行严酷的专制统治，法律的建设是一个重要方面。汉武帝对专制有倾吐不尽的情愫，他懂得只要剥夺大部分人的自由和快乐，就能保障自己专杀任意、酒宴歌舞。酷吏和苛法，素来都是专治统治的双子星座。在这方面，他的父亲汉景帝，为他提供了榜样。
汉初约法省刑，是鉴于暴秦之弊。历来被人骂作狠毒妇人的吕后，倒是按部就班地执行了这个方针，甚至还有所发展，像除三族罪、妖言令等，都是轻刑之举。以仁慈、节俭著称的汉文帝，虽然重申除孥率律等，但不久就族诛了新垣平。汉景帝不但冤杀了晁错，而且将其父母妻子皆弃市。相比之下，吕后对她的政敌倒是太仁慈了。