”太宗曰：“朕有不善，卿必记之耶？”遂良曰：“守道不如守官，臣职当载笔，君举必记。”黄门侍郎刘洎曰：“设令遂良不记，天下亦记之矣。”太宗以为然。时魏王为太宗所爱，礼秩如嫡。其年，太宗问侍臣曰：“当今国家何事最急？”中书侍郎岑文本曰：“《传》称‘导之以德，齐之以礼’，由斯而言。礼义为急。”遂良进曰：“当今四方仰德，谁敢为非？但太子、诸王，须有定分，陛下宜为万代法以遗子孙。”太宗曰：“此言是也。朕年将五十，已觉衰怠。既以长子守器东宫，弟及庶子数将五十，心常忧虑，颇在此耳。但自古嫡庶无良佐，何尝不倾败国家？公等为朕搜访贤德，以傅储宫，爰及诸王，咸求正士。且事人岁久，即分义情深，非意窥窬，多由此作。”于是限王府官僚不得过四考。十七年，太宗问遂良曰：“舜造漆器，禹雕其俎，当时谏舜、禹者十余人。食器之间，苦谏何也？”遂良对曰：“雕琢害农事，纂组伤女工。首创奢淫，危亡之渐。漆器不已，必金为之；金器不已，必玉为之。所以诤臣必谏其渐，及其满盈，无所复谏。”太宗以为然，因曰：“夫为人君，不忧万姓而事奢淫，危亡之机可反掌而待也。”时皇子年幼者多任都督、刺史，遂良上疏曰：“昔两汉以郡国理人，除郡以外，分立诸子。割土分疆，杂用周制。皇唐州县，祖依秦法。皇子幼年，或授刺史，陛下岂不以王之骨肉，镇扞四方？此之造制，道高前烈。如臣愚见，有小未尽。何者？刺史郡帅，民仰以安。得一善人，部内苏息；遇一不善，合州劳弊。是以人君爱恤百姓，常为择贤。或称河润九里，京师蒙福；或人兴歌咏，生为立祠。汉宣帝云：‘与我共理者，惟良二千石。’如臣愚见，陛下兒子内年齿尚幼、未堪临人者，且留京师，教以经学。一则畏天之威，不敢犯禁；二则观见朝仪，自然成立。因此积习，自知为人。审堪临州，然后遣出。臣谨按汉明、章、和三帝，能友爱于弟，自兹已降，取为准的。封立诸王，虽各有国土，年尚幼小者，召留京师，训以礼法，垂以恩惠。讫三帝世，诸王数十百人，唯二王稍恶，自余餐和染教，皆为善人。则前事已验，惟陛下详察。”太宗深纳之。其年，太子承乾以罪废，魏王泰入侍，太宗面许立为太子。因谓侍臣曰：“昨青雀自投我怀云：‘臣今日始得与陛下为子，更生之日也。臣唯有一子，臣百年之后，当为陛下杀之，传国晋王。’父子之道，故当天性，我见其如此，甚怜之。”遂良进曰：“陛下失言。伏愿审思，无令错误也。安有陛下百年之后，魏王执权为天下之主，而能杀其爱子，传国于晋王者乎？陛下昔立承乾为太子，而复宠爱魏王，礼数或有逾于承乾者，良由嫡庶不分，所以至此。殷鉴不远，足为龟镜。陛下今日既立魏王，伏愿陛下别安置晋王，始得安全耳。”太宗涕泗交下曰：“我不能。”即日召长孙无忌、房玄龄、李勣与遂良等定策，立晋王为皇太子。时频有飞雉集于宫殿之内，太宗问群臣曰：“是何祥也？”对曰：“昔秦文公时，有童子化为雉，雌者鸣于陈仓，雄者鸣于南阳。童子曰：得雄者王，得雌者霸。文公遂以为宝鸡。后汉光武得雄，遂起南阳而有四海。陛下旧封秦王，故雄雉见于秦地，此所以彰表明德也。”太宗悦曰：“立身之道，不可无学，遂良博识，深可重也。”寻授太子宾客。
时薛延陀遣使请婚，太宗许以女妻之，纳其财聘，既而不与。遂良上疏曰：
臣闻信为国本，百姓所归，是以文王许枯骨而不违，仲尼宁去食而存信。延陀曩岁乃一俟斤耳，值神兵北指，荡平沙塞，狼山、瀚海，万里萧条，陛下兵加诸外而恩起于内，以为余寇奔波，须立酋长，玺书鼓纛，立为可汗。其怀恩光，仰天无极，而余方戎狄，莫不闻知，以共沐和风，同餐恩信。顷者频年遣使，请婚大国，陛下复降鸿私，许其姻媾。于是报吐蕃，告思摩，示中国，五尺童子人皆知之。于是御幸北门，受其献食，于时百僚端笏，戎夷左衽，虔奉欢宴，皆承德音，口歌手舞，乐以终日。百官会毕，亦各有言，咸以为陛下欲得百姓安宁，不欲边境交战，遂不惜一女而妻可汗，预在含生，所以感德。今一朝生进退之意，有改悔之心，臣为国家惜兹声听。君子不失色于物，不失口于人。晋文公围原，命三日粮，原不降，命去之。谍出曰：“原将降矣。”军吏请待之，公曰：“信，国之宝也，民之庇也。得原失信，何以庇之？”陛下虑生意表，信在言前，今者临事，忽然乖殊，所惜尤少，所失滋多。情既不通，方生嫌隙，一方所以相畏忌，边境不得无风尘。西州、朔方，能无劳扰？彼胡以主被欺而心怨，此士以此无信而怀惭，不可以训戎兵，不可以励军事。伏惟陛下以圣德神功，廓清四表。自君临天下，十有七载，以仁恩而结庶类，以信义而抚戎夷，莫不欣然，负之无力。其见在之人，皆思报厚德；其所生胤嗣，亦望报陛下子孙。今者得一公主配之，以成陛下之信，有始有卒，其唯圣人乎！且又龙沙以北，部落无算，中国击之，终不能尽。亦由可北败，芮芮兴，突厥亡，延陀盛。时以古人虚外实内，怀之以德，为恶在夷不在华，失信在彼不在此。伏惟陛下圣德无涯，威灵远震，遂平高昌，破吐浑，立延陀，灭颉