公元前121年，汉武帝派遣霍去病北击匈奴，一路越过焉支山一千余里，俘获了浑邪王子，缴获了休屠王的祭天金人。

浑邪王被打得损失惨重，匈奴单于决定杀掉浑邪王。但浑邪王说服了休屠王，一起率领部族投降汉朝。

走到半路上休屠王感觉其部损失不大，估计单于不会杀他，又反悔了。浑邪王杀掉了休屠王，带领两个部族一起投降了汉朝。

汉武帝在宫中宴游时，决定阅马助兴，人群中看到一个体形魁伟、容貌威严的年轻人，召过来一问是休屠王的王子，立即封他做马监。

休屠王被杀之后，母子三人一起随浑邪王降汉，被安置在黄门署养马。由于曾缴获休屠王的祭天金人，汉武帝赐姓为金，名金日磾（jin mi di）。

金日磾受到汉武帝的赏识，无功却一路升官，从马监到侍中、驸马都尉、光禄大夫，成为汉武帝的近臣。宫中侍候在皇帝身边，外出则随侍车驾，虽然金日磾十分受宠，但为人一直小心谨慎。

金日磾的儿子弄儿也被汉武帝宠爱，常在皇帝身边玩耍，有一次弄儿从后面围住汉武帝的脖子，金日磾非常生气的瞪着他。弄儿一边跑一边哭着说：爹爹发怒了。

汉武帝对金日磾说：干嘛生弄儿的气！在皇帝的庇护下，弄儿长大后行为越来越大胆，和宫女戏闹时被金日磾看见，非常讨厌弄儿的淫乱，当场杀死了弄儿。汉武帝得知后十分难过，却也敬重金日磾的为人。

马何罗与江充交好，巫蛊之祸后汉武帝得知太子死的冤，归咎于江充，将其宗族、朋党全部诛杀。马何罗的弟弟马通更也曾奋力追杀太子，担心被清算，于是计划谋反。

汉武帝驾临林光宫，马何罗、马通杀了使者发兵谋反，马何罗持利刃冲入汉武帝的卧室，却被金日磾抱住，大喊“马何罗造反！”侍卫赶到后制服了马何罗，金日磾以忠心护驾闻名。

金日磾呆在汉武帝身边，几十年小心谨慎，不敢用正眼看皇帝，赏赐的宫女也从来不敢碰。汉武帝要把他的女儿纳入后宫，金日磾也不肯。

汉武帝病重时，让四位顾命大臣辅佐太子刘弗陵，霍光将大将军之位谦让给金日磾，但金日磾以“外国人”自谦，于是做了霍光的副手，霍光把女儿嫁给金日磾的另一个儿子金赏。

金日磾病重时，霍光奏明汉昭帝封金日磾为侯。金日磾去世后子孙七世为皇帝内侍，直到西汉灭亡之际，还在为汉朝服务。

金日磾的后代在王莽时遭到迫害，一部分逃到山东文登改金姓为丛，是丛姓的起源之一。

金日磾作为一个匈奴王子，能够扎根在敌对的西汉王朝，与他几十年的小心谨慎脱不开干系。因为父亲被杀和俘虏身份的关系，得宠太快又遭到满朝文武的妒忌，金日磾的谨慎大大超出了一般人的程度。

霍光素来以谨慎著称，但也只是自己谨慎，霍光死后三年被灭族。而金日磾以俘虏身份成为汉朝的股肱之臣，家族历七世之荣，全仰仗金日磾数十年的小心谨慎。

霍光被灭族时，金赏上书休掉了妻子霍光之女，免于受到牵连，可以说求生欲极强了。