汉朝时有一个名人叫杨惮，他的父亲是汉昭帝时的丞相杨敞，母亲是人史学家司马迁的女儿。他自幼便受到良好的教养，未成年时就成了当朝的名人。
汉宣帝时大将霍光谋反，杨惮最先向宣帝报告。事后被封平通侯，当时在朝庭中做郎官的人，贿赂之风极炽，有钱的人可用钱行贿，经常在外玩乐；无钱行贿的人，甚至一年中也没有一天休息。杨惮作中山郎后，便把这些弊病全部革除，满朝官员都称赞他的廉洁。但他因少年得志，又有功劳，便产生了骄傲自满，结果与太仆长荣（长荣是宣帝旧友，最得信任）发生意见。
有一次，杨惮听见匈奴降汉的人说匈奴的领袖单于被人杀了，杨惮便说：“遇到一个这样不好的君王，他的大臣给他拟好治国的策略而不用，使自己自白送了命，就像我国秦朝时的君王一样，专门信任小人，杀害忠贞的大臣，结果国亡了。如果当年秦朝不如此，可能到现在国家还存在。从古到今的君王都是信任小人的，真像同一山丘出产的貉一样，毫无差别呀！”就这样，杨惮被免职了。自古君王勇于改过，不信馋言者能有几人，杨惮仅被勉职，已是不幸申之大幸了。唉！
“前汉书”：“杨惮传”的原文是“古与今，如一丘之貂。”丘，土阜也，四边高，中央低的土堆；貉，音鹤，俗称树貉，状似狐小，毛黄褐色，深厚而温滑，可做皮袍。后来的人将这两句话引申成“一丘之貂”一句成语，来此喻同类没有差别，像在同一个山丘里生长的貂一样，形体都是相同的。
这成语在应用时，都是用来形容反面的事物，即使是形容否定的事物；含有不屑一谈和讥诮的口吻。例如说有一群人专门造谣生事，无事生非，故意与人为难，他们中间没有一个是好人，就可说：这批东西都是“一丘之貉”，那有一个是好人呢！