，见者皆爱悦之。年十七，州郡辟召，皆不就。司隶命为都官从事。散骑常侍庾敳有重名，而颇聚敛，峤举奏之，京都振肃。后举秀才、灼然。司徒辟东阁祭酒，补上党潞令。
平北大将军刘琨妻，峤之从母也。琨深礼之，请为参军。琨迁大将军，峤为从事中郎、上党太守，加建威将军、督护前锋军事。将兵讨石勒，屡有战功。琨迁司空，以峤为右司马。于时并土荒残，寇盗群起，石勒、刘聪跨带疆埸，峤为之谋主，琨所凭恃焉。
属二都倾覆，社稷绝祀，元帝初镇江左，琨诚系王室，谓峤曰：“昔班彪识刘氏之复兴，马援知汉光之可辅。今晋祚虽衰，天命未改，吾欲立功河朔，使卿延誉江南，子其行乎？”对曰：“峤虽无管张之才，而明公有桓文之志，欲建匡合之功，岂敢辞命。”乃以为左长史，檄告华夷，奉表劝进。峤既至，引见，具陈琨忠诚，志在效节，因说社稷无主，天人系望，辞旨慷慨。举朝属目，帝器而喜焉。王导、周顗、谢鲲、庾亮、桓彝等并与亲善。于时江左草创，纲维未举，峤殊以为忧。及见王导共谈，欢然曰；“江左自有管夷吾，吾复何虑！”屡求反命，不许。会琨为段匹磾所害，峤表琨忠诚，虽勋业不遂，然家破身亡，宜在褒崇，以慰海内之望。帝然之。
除散骑侍郎。初，峤欲将命，其母崔氏固止之，峤绝裾而去。其后母亡，峤阻乱不获归葬，由是固让不拜，苦请北归。诏三司、八坐议其事，皆曰：“昔伍员志复私仇，先假诸侯之力，东奔阖闾，位为上将，然后鞭荆王之尸。若峤以母未葬没在胡虏者，乃应竭其智谋，仰凭皇灵，使逆寇冰消，反哀墓次，岂可稍以乖嫌，废其远图哉！”峤不得已，乃受命。
后历骠骑王导长史，迁太子中庶子。及在东宫，深见宠遇，太子与为布衣之交。数陈规讽，又献《侍臣箴》，甚有弘益。时太子起西池楼观，颇为劳费，峤上疏以为朝廷草创，巨寇未灭，宜应俭以率下，务农重兵，太子纳焉。王敦举兵内向，六军败绩，太子将自出战，峤执鞚谏曰：“臣闻善战者不怒，善胜者不武，如何万乘储副而以身轻天下！”太子乃止。
明帝即位，拜侍中，机密大谋皆所参综，诏命文翰亦悉豫焉。俄转中书令。峤有栋梁之任，帝亲而倚之，甚为王敦所忌，因请为左司马。敦阻兵不朝，多行陵纵，峤谏敦曰：“昔周公之相成王，劳谦吐握，岂好勤而恶逸哉！诚由处大任者不可不尔。而公自还辇毂，入辅朝政，阙拜觐之礼，简人臣之仪，不达圣心者莫不於邑。昔帝舜服事唐尧，伯禹竭身虞庭，文王虽盛，臣节不愆。故有庇人之大德，必有事君之小心，俾方烈奋乎百世，休风流乎万祀。至圣遗轨，所不宜忽。愿思舜、禹、文王服事之勤，惟公旦吐握之事，则天下幸甚。”敦不纳。峤知其终不悟，于是谬为设敬，综其府事，干说密谋，以附其欲。深结钱凤，为之声誉，每曰：“钱世仪精神满腹。”峤素有知人之称，凤闻而悦之，深结好于峤。会丹阳尹缺，峤说敦曰：“京尹辇毂喉舌，宜得文武兼能，公宜自选其才。若朝廷用人，或不尽理。”敦然之，问峤谁可作者。峤曰：“愚谓钱凤可用。”凤亦推峤，峤伪辞之。敦不从，表补丹阳尹。峤犹惧钱凤为之奸谋，因敦饯别，峤起行酒，至凤前，凤未及饮，峤因伪醉，以手版击凤帻坠，作色曰：“钱凤何人，温太真行酒而敢不饮！”敦以为醉，两释之。临去言别，涕泗横流，出阁复入，如是再三，然后即路。及发后，凤入说敦曰：“峤于朝廷甚密，而与庾亮深交，未必可信。”敦曰：“太真昨醉，小加声色，岂得以此便相谗贰。”由是凤谋不行，而峤得还都，乃具奏敦之逆谋，请先为之备。
及敦构逆，加峤中垒将军、持节、都督东安北部诸军事。敦与王导书曰：“太真别来几日，作如此事！”表诛奸臣，以峤为首。募生得峤者，当自拔其舌。及王含、钱凤奄至都下，峤烧硃雀桁以挫其锋，帝怒之，峤曰：“今宿卫寡弱，征兵未至，若贼豕突，危及社稷，陛下何惜一桥。”贼果不得渡。峤自率众与贼夹水战，击王含，败之，复督刘遐追钱凤于江宁。事平，封建宁县开国公，赐绢五千四百匹，进号前将军。
时制王敦纲纪除名，参佐禁固，峤上疏曰：“王敦刚愎不仁，忍行杀戮，亲任小人，疏远君子，朝廷所不能抑，骨肉所不能间。处其朝者恆惧危亡，故人士结舌，道路以目，诚贤人君子道穷数尽，遵养时晦之辰也。且敦为大逆之日，拘录人士，自免无路，原其私心，岂遑晏处，如陆玩、羊曼、刘胤、蔡谟、郭璞常与臣言，备知之矣。必其凶悖，自可罪人斯得；如其枉入奸党，宜施之以宽。加以玩等之诚，闻于圣听，当受同贼之责，实负其心。陛下仁圣含弘，思求允中；臣阶缘博纳，干非其事，诚在爱才，不忘忠益。”帝从之。
是时天下凋弊，国用不足，诏公卿以下诣都坐论时政之所先，峤因奏军国要务。其一曰：“祖约退舍寿阳，有将来之难。今二方守御，为功尚易。淮泗都督，宜竭力以资之。选名重之士，配征兵五千人，又择一偏将，将二千兵，以益寿阳，可以保固徐豫，援助司土。”其二曰：“一夫不耕，必有受其饥者。今不耕之夫，动有万计。春废劝