入朝，既至，武帝善遇之，俄使旋镇。咸宁初，征拜尚书令，加侍中。性严整，以法御下，视尚书若参佐，尚书郎若掾属。瓘学问深博，明习文艺，与尚书郎敦煌索靖俱善草书，时人号为“一台二妙”。汉末张芝亦善草书，论者谓瓘得伯英筋，靖得伯英肉。太康初，迁司空，侍中、令如故。为政清简，甚得朝野声誉。武帝敕瓘第四子宣尚繁昌公主。瓘自以诸生之胄，婚对微素，抗表固辞，不许。又领太子少傅，加千兵百骑鼓吹之府。以日蚀，瓘与太尉汝南王亮、司徒魏舒俱逊位，帝不听。
瓘以魏立九品，是权时之制，非经通之道，宜复古乡举里选。与太尉亮等上疏曰：“昔圣王崇贤，举善而教，用使朝廷德让，野无邪行。诚以闾伍之政，足以相检，询事考言，必得其善，人知名不可虚求，故还修其身。是以崇贤而俗益穆，黜恶而行弥笃。斯则乡举里选者，先王之令典也。自兹以降，此法陵迟。魏氏承颠覆之运，起丧乱之后，人士流移，考详无地，故立九品之制，粗且为一时选用之本耳。其始造也，乡邑清议，不拘爵位，褒贬所加，足为劝励，犹有乡论余风。中间渐染，遂计资定品，使天下观望，唯以居位为贵，人弃德而忽道业，争多少于锥刀之末，伤损风俗，其弊不细。今九域同规，大化方始，臣等以为宜皆荡除末法，一拟古制，以土断，定自公卿以下，皆以所居为正，无复悬客远属异土者。如此，则同乡邻伍，皆为邑里，郡县之宰，即以居长，尽除中正九品之制，使举善进才，各由乡论。然则下敬其上，人安其教，俗与政俱清，化与法并济。人知善否之教，不在交游，即华竞自息，各求于己矣。今除九品，则宜准古制，使朝臣共相举任，于出才之路既博，且可以厉进贤之公心，核在位之明暗，诚令典也。”武帝善之，而卒不能改。
惠帝之为太子也，朝臣咸谓纯质，不能亲政事。瓘每欲陈启废之，而未敢发。后会宴陵云台，瓘托醉，因跪帝床前曰：“臣欲有所启。”帝曰：“公所言何耶？”瓘欲言而止者三，因以手抚床曰：“此座可惜！”帝意乃悟，因谬曰：“公真大醉耶？”瓘于此不复有言。贾后由是怨瓘。
宣尚公主，数有酒色之过。杨骏素与瓘不平，骏复欲自专权重，宣若离婚，瓘必逊位，于是遂与黄门等毁之，讽帝夺宣公主。瓘惭惧，告老逊立。乃下诏曰：“司空瓘年未致仕，而逊让历年，欲及神志未衰，以果本情，至真之风，实感吾心。今听其所执，进位太保，以公就第。给亲兵百人，置长史、司马、从事中郎掾属；及大车、官骑、麾盖、鼓吹诸威仪，一如旧典。给厨田十顷、园五十亩、钱百万、绢五百匹；床帐簟褥，主者务令优备，以称吾崇贤之意焉。”有司又奏收宣付廷尉，免瓘位，诏不许。帝后知黄门虚构，欲还复主，而宣疾亡。
惠帝即位，复瓘千兵。及杨骏诛，以瓘录尚书事，加绿綟绶，剑履上殿，入朝不趋，给骑司马，与汝南王亮共辅朝政。亮奏遣诸王还籓，与朝臣廷议，无敢应者，唯瓘赞其事，楚王玮由是憾焉。贾后素怨瓘，且忌其方直，不得骋己淫虐；又闻瓘与玮有隙，遂谤瓘与亮欲为伊霍之事，启帝作手诏，使玮免瓘等官。黄门赍诏授玮，玮性轻险，欲聘私怨，夜使清河王遐收瓘。左右疑遐矫诏，咸谏曰：“礼律刑名，台辅大臣，未有此比，且请距之。须自表得报，就戮未晚也。”瓘不从，遂与子恆、岳、裔及孙等九人同被害，时年七十二。恆二子璪、玠，时在医家得免。
初，杜预闻瓘杀邓艾，言于众曰：“伯玉其不免乎！身为名士，位居总帅，既无德音，又不御下以正，是小人而乘君子之器，当何以堪其责乎？”瓘闻之，不俟驾而谢。终如预言。初，瓘家人炊饭，堕地尽化为螺，岁余而及祸。太保主簿刘繇等冒难收瓘而葬之。
初，瓘为司空，时帐下督荣晦有罪，瓘斥遣之。及难作，随兵讨瓘，故子孙皆及于祸。
楚王玮之伏诛也，瓘女与国臣书曰：“先公名谥未显，无异凡人，每怪一国蔑然无言。《春秋》之失，其咎安在？悲愤感慨，故以示意。”于是繇等执黄幡，挝登闻鼓，上言曰：“初，矫诏者至，公承诏当免，即便奉送章绶，虽有兵仗，不施一刃，重敕出第，单车从命。如矫诏之文唯免公官，右军以下即承诈伪，违其本文，辄戮宰辅，不复表上，横收公子孙辄皆行刑，贼害大臣父子九人。伏见诏书‘为楚王所诳误，非本同谋者皆弛遣’。如书之旨，谓里舍人被驱逼赍白杖者耳。律，受教杀人，不得免死。况乎手害功臣，贼杀忠良，虽云非谋，理所不赦。今元恶虽诛，杀贼犹存。臣惧有司未详事实，或有纵漏，不加精尽，使公父子仇贼不灭，冤魂永恨，诉于穹苍，酷痛之臣，悲于明世。臣等身被创痍，殡敛始讫。谨条瓘前在司空时，帐下给使荣晦无情被黜，知瓘家人数、小孙名字。晦后转给右军，其夜晦在门外扬声大呼，宣诏免公还第。及门开，晦前到中门，复读所赍伪诏，手取公章绶貂蝉，催公出第。晦按次录瓘家口及其子孙，皆兵仗将送，著东亭道北围守，一时之间，便皆斩斫。害公子孙，实由于晦。及将人劫盗府库，皆晦所为。考晦一人，众奸皆出。乞验尽情伪，加以族诛。”诏从之。
朝