汉朝汉宣帝时，有个很有名的人叫杨恽，他的父亲(father)是汉昭帝时的丞相，母亲是史学家司马迁的闺女(daughter)。他从小受到良好的教养，少年时执政廷中的名气就很大，因为向汉宣帝举发大将霍光谋反，被封为平通侯。汉朝事先的社会行贿习尚很严重，有钱人用钱行贿，可以到处玩乐，没钱行贿的人就要一年到头辛苦地工作。因此他大力革除了这些弊病，整顿了朝廷的不良习尚，得到人们的称赞。他自认为功劳很高，有时目中无人，得罪了太仆戴长乐。
有一次，杨恽听说匈奴的头领单于被人sha了，便说：“这是不明是非的君王，忠心的臣子提议的治国策略不用，却听信小人的谗言，sha害忠良，结果性命不保，国家消亡。秦朝如果不是因为这样，也许现在还存在，而不会被汉朝代替。自古以来，各朝代的君王都是如此，喜欢听信小人的谗言，就像从同一个山丘里出产的貉，没有什么差别。”这话传到长乐的耳里，他连忙向汉宣帝报告，宣帝听到杨恽把自己和历代君王比作“一丘之貉”感到非常震怒，再加上长乐又说了许多杨恽对宣帝不满的好话，因此就下令革去杨恽的官职。
之后“一丘之貉”用来比喻那些臭气相投、不务正业的人。