公元630年，唐太宗下诏重修洛阳宫乾阳殿，张玄素认为此举不当，就上书力陈不妥。唐太宗接受规劝就立即下令停建，并赐给他彩绸200匹，表彰他的直言劝谏。魏征听说此事后，赞叹张玄素的话真是有回天之力，是仁人之言。