辽西太守。赠平东将军、燕州刺史。天恩子仁生，位太中大夫。仁生子安定，平原郡太守、高平郡都将。安定子子提，陇西郡守、茂平县伯。周保定二年，以子谨著勋，追赠太保、建平郡公。
谨字思敬，小名巨引。沈深有识量，略窥经史，尤好《孙子》兵书。屏居未有仕进志。或有劝之者，谨曰：「州郡之职，昔人所鄙，台鼎之位，须待时来。」太宰元天穆见之，叹曰：「王佐材也。」及破六韩拔陵首乱北境，引蠕蠕为授，大行台元纂讨之。夙闻谨名，辟为铠曹参军事，从军北伐。蠕蠕逃出塞，纂令谨追之，前后十七战，尽降其众。后率轻骑出塞觇贼，属铁勒数千骑奄至。谨以众寡不敌，乃散其骑，使匿丛薄间。又遣人升山指麾，若分部军众。贼望见，虽疑有伏，恃众不以为虑，乃进逼谨。以常乘骏马一紫一騧，贼先所识，乃使二人各乘一马，突阵而出。贼以为谨，争逐之。乃率余军击其追骑。贼走，因得入塞。
正光四年，行台、广阳王元深北伐，引谨为长流参军。特相礼接，使其世子佛陁拜焉。遂与广阳破贼主斛律野谷禄等。谨请驰往喻之。谨兼解诸国语，乃单骑入贼，示以恩信，于是西部铁勒酋长也列河等三万余户并款附，相率南迁。广阳与谨至析郭岭迎接之。谨曰：「拔陵兵众不少，闻也列河等款附，必来要击。彼若先据险，则难与争锋。今以也烈河等铒之，当竞来抄掠，然后设伏而待，必指掌破之。」广阳然其计。拔陵果来要击，破也列河于岭上，部众皆没。谨伏兵发，贼大败，悉破收也列河之众。
孝昌元年，又随广阳王征鲜于修礼。军次白斗牛逻。会章武王为修礼所害，遂停军中山。侍中元晏宣言于灵太后曰：「广阳盘桓不进，坐图非望。又有于谨者，智略过人，为其谋主，恐非陛下纯臣。」灵太后诏于尚书省门外立榜，募获谨者，许以重赏。谨闻之，请诣阙披露腹心，广阳许之。谨遂到榜下，曰：「吾知此人。」众共诘之，谨曰；「我即是也。」有司以闻。灵后见之，大怒。谨备述广阳忠款，兼陈停军之状。灵后遂舍之。后从尔硃天光与齐神武战于韩陵山，天光败，谨遂入关。
周文帝临夏州，以谨为防城大都督，兼夏州长史。及贺拔岳被害，周文赴平凉。谨言于周文曰：「关中秦汉旧都，古称天府。今若据其要害，招集英雄，足观时变。且天子在洛，逼迫群凶。请都关右，然后挟天子而令诸侯，千载一时也。」周文大悦。会有敕追谨为关内大都督，谨因进都关中策。魏帝西迁，仍从周文征潼关，破回洛城，授北雍州刺史，进爵蓝田县公。大统三年，大军东伐，为前锋，进拔弘农，禽东魏陕州刺史李徽伯。神武至沙苑，谨力战，进爵常山郡公。又从战河桥，拜大丞相府长史，兼大行台尚书。再迁太子太保。芒山之战，大军不利，谨率麾下伪降，立于路左。神武乘胜逐北，不以为虞。谨自后击之，敌人大骇。独孤信又收兵于后奋击，神武军乱，以此大军得全。十二年，拜尚书左仆射，领司农卿。及侯景款附，请兵为援，谨谏以为景情难测，周文不听。寻兼大行台尚书、大丞相长史，率兵镇潼关，加授华州刺史，赐秬鬯一卣，珪瓚副焉。俄拜司空。恭帝元年，除雍州刺史。
初，梁元帝于江陵嗣位，密与齐交通，将谋侵轶。其兄子岳阳王詧时为雍州刺史，以梁元帝杀其兄誉，逐结隙，据襄阳来附。乃命谨出讨。周文饯于青泥谷。长孙俭曰：「为萧绎计将如何？」谨曰：「曜兵汉沔，席卷度江，直据丹阳，是其上策。移郭内居人，退保子城，以待援至，是其中策。若难于移动，据守罗郭，是其下策。」俭曰：「裁绎出何策？」谨曰：「必用下。」俭曰：「何也？」对曰：「萧氏保据江南，绵历数纪。属中原有故，未遑外略。又以我有齐氏之患，必谓力不能分。且绎懦而无谋，多疑少断。愚人难与虑始，皆恋邑居，既恶迁移，当保罗郭。所以用下策。」谨令中山公护及大将军杨忠等先据江津，断其走路。梁人竖木栅于外城，广轮六十里。寻而谨至，悉众围之。旬有六日，外城遂陷，梁主退保子城。翌日，率其太子以下，面缚出降。寻杀之。虏其男女十余万人，收其府库珍宝。得宋浑天仪、梁日晷、铜表、魏相风乌、铜蟠螭趺、大玉径西尺围七尺及诸舆辇法物以献，军无私焉。立萧詧为梁主，振旅而旋。周文亲至其第，宴语极欢。赏谨奴婢一千口。及梁宝物，并金石丝竹乐一部，别封新野郡公。谨固辞，不许。又令司乐作《常山公平梁歌》十首，使工人歌之。
谨自以久当权重，功名既立，愿保优闲，乃上先所乘骏马及所著铠甲等。周文识其意，曰：「今巨猾未平，公岂得便尔独善？」遂不受。六官建，拜大司寇。
及周文崩，孝闵帝尚幼，中山公护虽受顾命而名位素下，群公各图执政。护深忧之，密访于谨。谨曰：「夙蒙丞相殊眷，今日必以死争之。若对众定策，公必不得让。」明日，群公会议。谨曰：「昔帝室倾危，丞相志存匡救。今上天降祸，奄弃百寮。嗣子虽幼，而中山公亲则犹子，兼受顾托，军国大事，理须归之。」辞色抗厉，众皆悚动。护曰：「此是家事，护何敢有辞！」谨既周文等夷，