在中新世开始的时候，一些已经到达了欧亚大陆，因为那时不同的鼬科动物生活在北美和欧亚大陆。在上新世末至更新世初的漫长过渡期间，以及在传统上公认的四大冰期中的第一个和第一个间冰期中，大约在那个时候，导致白鼬和山地黄鼠狼的进化谱系分离了。
黄鼠狼起源于新大陆北美。第一批具有黄鼠狼科特征的食肉哺乳动物，于中新世早期出现在北美，距今约2800万至3000万年。在整个中新世时期，这些动物都是森林捕食者，可能有点像貂。在中新世开始的时候，一些已经到达了欧亚大陆，因为那时不同的鼬科动物生活在北美和欧亚大陆。显然属于鼬属的最古老的哺乳动物化石来自欧亚大陆东部，可以追溯到中新世晚期，并且一个独立的鼬类谱系非常类似于大约同时出现在北美的第一批鼬类。
北美和欧亚大陆之间的大范围来回运动为在未来1500万到2000万年里在鼬科中出现活跃的进化辐射创造了条件。到上新世早期(500万年前)，至少已经出现三个独立的真正的鼬科动物。在整个上新世，北美和欧亚大陆都开始出现大面积的开阔稀树草原，因为气候在接近冰期时变冷，草进化并逐渐取代了森林。草原上很快就出现了早期的田鼠和旅鼠，然后是黄鼠狼的祖先。
已经存在的类似貂的鼬科动物发现变得足够小的优势，从而为能够进入田鼠、老鼠和旅鼠的洞穴，这些捕食者开拓了新的生态位。与祖先黄鼠狼最相似的生物可能是现代白鼬或亚洲山地黄鼠狼(阿尔泰黄鼠狼)。大约400万年前，一种白鼬祖先上新世出现在欧亚大陆。在上新世末至更新世初的漫长过渡期间，以及在传统上公认的四大冰期中的第一个和第一个间冰期中，大约在那个时候，导致白鼬和山地黄鼠狼的进化谱系分离了。
现代白鼬只能追溯到大约60万年前开始的第三次大冰期，化石在欧洲沉积物中常见，可追溯到最后一次大冰期。大约50万年前，貂通过白令陆桥返回其祖先的家园，进入北美，现在占据了美国和加拿大约1300万平方公里的土地。最早形式的普通黄鼠狼是在大约260万年前出现在欧亚大陆，直到跨美洲间冰期。在晚更新世，在最后一次冰川作用期间，黄鼠狼也穿过了白令桥，回到了北美。
它现在占地约750万平方公里，大部分在加拿大。在更新世的寒冷时期，黄鼠狼发现自己已经适应了生活在雪下，在那里找到了食物和躲避寒冷的地方。它们已经进化出合适的形状，可以在表面柔软的雪中挖掘，潜入更深的雪层，并沿着下面地面上啮齿动物建造的洞穴前进，就像它们今天所做的那样。大多数大范围的白鼬和黄鼠狼，以及长尾白鼬，仍然位于冬季严寒、积雪时间长的气候带内。
