木轮，便即火出。铁毂既生，行一二里即有破坏，仍数百人别赍铁毂以随之，终日不过进三二十里。略计一柱，已用数十万功，则余费又过于此。臣闻阿房成，秦人散；章华就，楚众离；及乾阳毕功，隋人解体。且以陛下今时功力，何如隋日？役疮痍之人，袭亡隋之弊，以此言之，恐甚于炀帝。深愿陛下思之，无为由余所笑，则天下幸甚。
太宗曰：“卿谓我不如炀帝，何如桀、纣？”对曰：“若此殿卒兴，所谓同归于乱。且陛下初平东都，太上皇敕大殿高门并宜焚毁，陛下以瓦木可用，不宜焚灼，请赐与贫人。事虽不行，然天下翕然讴歌至德。今若遵旧制，即是隋役复兴。五六年间，趋舍顿异，何以昭示子孙，光敷四海？”太宗叹曰：“我不思量，遂至于此。”顾谓房玄龄曰：“洛阳土中，朝贡道均，朕故修营，意在便于百姓。今玄素上表，实亦可依，后必事理须行，露坐亦复何苦，所有作役，宜即停之。然以卑干尊，古来不易，非其忠直，安能若此？可赐彩二百匹。”侍中魏徵叹曰：“张公论事，遂有回天之力，可谓仁人之言，其利博哉！”累迁太子少詹事，转右庶子。
时承乾居春宫，颇以游畋废学，玄素上书谏曰：“臣闻皇天无亲，惟德是辅，苟违天道，人神同弃。然古三驱之礼，非欲教杀，将为百姓除害，故汤罗一面，天下归仁。今苑中娱猎，虽名异游畋，若行之无常，终亏雅度。且傅说曰：‘学不师古，匪说攸闻。’然则弘道在于学古，学古必资师训。既奉恩诏，令孔颖达侍讲，望数存问，以补万一。仍博遣有名行学士，兼朝夕侍奉。览圣人之遗教，察既行之往事，日知其所不足，月无忘其所能。此则尽善尽美，夏启、周诵，焉足言哉！夫为人上者，未有不求其善，但以性不胜情，耽惑成乱。耽惑既甚，忠言遂塞，所以臣下苟顺，君道渐亏。古人有言：‘勿以小恶而不去，小善而不为。’故知祸福之来，皆起于渐。殿下地居储两，当须广树嘉猷。既有好畋之淫，何以主斯匕鬯？慎终如始，犹惧渐衰，始尚不慎，终将安保！”寻又兼太子少詹事。十三年，又上书谏曰：“臣闻周公以大圣之材，犹握发吐飧，引纳白屋，而况后之圣贤，敢轻斯道？是以礼制皇太子入学而行齿胄，欲使太子知君臣、父子、长幼之道。然君臣之义、父子之亲、尊卑之序、长幼之节，用之方寸之内，弘之四海之外，皆因行以远闻，假言以光被。伏惟殿下睿质已隆，尚须学文以饰其表。至如孔颖达、赵弘智等，非惟宿德鸿儒，亦兼达政要，望令数得侍讲，开释物理，览古谕今，增晖睿德。而雕虫小伎之流，只可时命追随，以代博弈耳。若其骑射畋游，酣歌戏玩，以悦耳目，终秽心神，渐染既久，必移情性。古人有言：‘心为万事主，动而无节即乱。’臣恐殿下败德之源，在于此矣。”承乾并不能纳。太宗知玄素在东宫频有进谏，十四年，擢授银青光禄大夫，行太子左庶子。时承乾久不坐朝，玄素谏曰：“宫内止有妇人耳，不知如樊姬之徒，可与弘益圣德者有几？若遂无贤哲，便是亲嬖幸，远忠良。人不见德，何以光敷三善？且宫储之寄，于国为重，所以广置群僚，以辅睿德。今乃动经时月，不见宫臣，纳诲既疏，将何补阙？”承乾嫉其数谏，遣户奴夜以马挝击之，殆至于死。承乾又尝于宫中击鼓，声闻于外，玄素叩阁请见，极言切谏，承乾乃出宫内鼓，对玄素毁之。是岁，太宗尝对朝问玄素历官所由，玄素既出自刑部令史，甚以惭耻。谏议大夫褚遂良上疏曰：“臣闻君子不失言于人，圣主不戏言于臣。言则史书之，礼成之，乐歌之。居上能礼其臣，臣始能尽力以奉其上。近代宋孝武轻言肆口，侮弄朝臣，攻其门户，乃至狼狈。良史书之，以为非是。陛下昨见问张玄素云：‘隋任何官？’奏云：‘县尉。’又问：‘未为县尉已前？’奏云：‘流外。’又问：‘在何曹司？’玄素将出阁门，殆不能移步，精爽顿尽，色类死灰。朝臣见之，多所惊怪。大唐创历，任官以才；卜祝庸保，量能使用。陛下礼重玄素，频年任使，擢授三品，翼赞皇储，自不可更对群臣，穷其门户，弃昔日之殊恩，成一朝之愧耻。人君之御臣下也，礼义以导之，惠泽以驱之，使其负戴玄天，罄输臣节，犹恐德礼不加，人不自励。若无故忽略，使其羞惭，郁结于怀，衷心靡乐，责其伏节死义，其可得乎？”书奏，太宗谓遂良曰：“朕亦悔此问，今得卿疏，深会我心。”承乾既败德日增，玄素又上书谏曰：
臣闻孔子云：“能近取譬，可谓仁之方也已。”然《书》、《传》所载，言之或远，寻览近事，得失斯存。至如周武帝平定山东，卑宫菲食，以安海内。太子赟举措无端，秽德日著。乌九轨知其不可，具言于武帝；武帝慈仁，望其渐改。及至践祚，狂暴肆情，区宇崩离，宗祀覆灭，即隋文帝所代是也。文帝因周衰弱，凭藉女资，虽无大功于天下，然布德行仁，足为万姓所赖。勇为太子，不能近遵君父之节俭，而务骄侈，今之山池遗迹，即殿下所亲睹是也。此时亦恃君亲之恩，自谓太山之固，讵知邪臣敢进其说？向使动静有常，进退合度，亲君子，疏小人，舍浮华，尚恭俭，虽有邪臣间之，何能致慈父之隙？岂不由积德未弘，令闻不著，谗言一至，遂成其祸？