王祥是典故“卧冰求鲤”的主人公，他从东汉末年建安年间一直活到西晋武帝司马炎太康年间，和晋宣帝司马懿三弟安平王司马孚一样经历三个朝代。
王祥继母朱夫人经常无故殴打王祥，还曾经想要在饭菜中下毒将其毒死。朱夫人之子王览经常保护王祥，饭菜必先品尝，朱夫人害怕把自己的亲儿子王览也给毒死，这才住手。
魏高贵乡公曹髦时，王祥由当时的实际执政者大将军司马昭推荐进入朝廷，司马昭的心腹贾充指使成济、成倅兄弟弑杀曹髦后，王祥与陈泰一样十分伤心，因此当时许多人暗地里称赞他，魏元帝曹奂咸熙年间(公元264年到公元265年)，王祥已经官至太尉，与郑冲、苟顗等人一样位列三公，晋武帝司马炎建立西晋后，做到了太保。
王祥的好朋友吕虔曾经送给王祥一把佩刀，说这把佩刀只有三公才能佩戴，王祥临终之前把这把配刀送给了异母弟王览，说：“你的后代必然能光耀我们琅琊临沂王氏家族的门楣的，你百年之后要把这把佩刀传给你的儿子王裁!”，后王览也这么做了。
西晋永嘉元年即公元307年，王裁之子王导为琅琊王司马睿的谋士，当时匈奴人刘渊已经在左国城建立汉国，并且令其部下打下了西晋的平阳，汲桑和石勒又入寇西晋邺城，害死镇守邺城的新蔡王司马腾和山阳公刘秋，石勒侵略鄄城、兖州、冀州、常山、攻破幽州，杀死幽州牧、博陵公王浚，西晋王朝岌岌可危。
于是王导建议琅琊王司马睿应该向朝廷申请到建邺城，也就是今天的江苏省省会南京市镇守，琅琊王司马睿听取了王导的建议，上书给当时西晋王朝实际上的执政者，镇守在许昌的东海王司马越，请求南下镇守建邺城，东海王司马越同意了琅琊王司马睿的请求，拜其为都督扬州江南诸军事，琅琊王司马睿便带上他的母亲琅琊太妃夏侯光姬，与弟弟西阳王司马羕，自己的儿子司马绍和司马裒，以及谋士王导等人南下到了建邺城。
后东都洛阳和西京长安先后被刘曜、刘粲、石勒、石虎、王弥等攻破，中州沦陷于匈奴和羯胡之手，怀帝和愍帝先后被汉国皇帝刘聪杀死在平阳，于是当时还在北方抵抗的西晋残余势力，如并州刺史刘琨、冀州刺史邵续、幽州刺史段匹磾、青州刺史曹嶷、凉州刺史张轨、鲜卑大都督、辽东郡公慕容廆等联名写劝进表，以并州刺史刘琨的司马温峤为代表，送表到建邺城请求琅琊王司马睿登基为帝，琅琊王司马睿先进封为晋王，以自己的一个儿子司马裒世袭琅琊王之位。
可是江东地区的士族自从西晋灭吴后就没臣服司马家族过，琅琊王司马睿刚做了晋王后，归命侯孙皓的儿子孙璠就起兵叛乱，虽然很快被荆州刺史陶侃等人领兵镇压下去，但是江东士族还是不愿意来建邺城见晋王司马睿的。于是又要王导出面去收买江东士族中有名望的顾荣、纪瞻、贺循等人，让他们到建邺城觐见司马睿，江东士族才逐渐归心，司马睿得以成功登基为晋元帝，将“建邺城”改名为“建康城”。
于是当时形成了“王与马共天下局面”这也是晋元帝司马睿起用刘隗和刁协等人抑制士族门阀而导致王敦之乱原因之一。当年永嘉南渡时，荆州刺史周顗和谯国桓氏家族首领桓彝等人一起逃跑到了建康城，桓彝看到琅琊王司马睿根本不得人心，力量很薄弱，觉得司马家族很可能会连最后这半壁江山也守不住，可是当桓彝见到了扬州刺史王导后，就悄悄的对周顗说，王导是当世的管仲、张良、荀彧，有他在，晋朝就不会灭亡!结果也是这样的，晋朝国祚能够延续下来，王导绝对第一功臣，更何况他还击退了南下到了谯城，准备入侵东晋王朝的羯族人石勒。后琅琊王氏家族人才辈出，比如王导的侄子王羲之，以及王羲之的三个儿子王献之、王徽之和王凝之等，而这些，当年那位“卧冰求鲤”的西晋太保王祥在把佩刀传给异母弟王览时候就想到了啊!
