唐太宗东征高句丽，命皇太子李治留守定州监国，并让张行成与高士廉、刘洎、马周、高季辅一同辅佐太子，执掌机要政务。后来，张行成又赴行在觐见唐太宗，获得大批赏赐。唐太宗返回长安，以张行成为河南巡察大使，张行成回朝后，又代理尚书左丞。唐太宗巡视灵州，命李治随行，张行成却建议让太子留京监国，接待百官，决断政务，唐太宗采纳了张行成的意见，还加封他为银青光禄大夫。

唐太宗病逝，太子李治在张行成与高季辅的拥戴下，即位于太极殿，史称唐高宗。他任命张行成为侍中，兼刑部尚书，并封北平县公，监修国史，升任尚书右仆射、同中书门下三品。唐高宗立陈王李忠为皇太子，命张行成兼任太子少傅。

高宗继位后，听闻晋州发生地震，便向宰相询问地震的征兆，张行成便道：“天，是阳，君主的象征；地，是阴，臣子的象征。君主应像天体一样运行，臣子应像大地一样静止。现在应当静止的反而运动，恐怕是有后宫干政、大臣密谋不轨。晋州原本是陛下封地，应不会平白发生变故。”唐高宗深以为然，便诏令五品以上官员评论朝政得失。

永徽年间，天下大旱，三个月没有下雨，张行成认为是宰相没有治理好国家的原因，便以年老为由请求退休。唐高宗认为是皇帝德行浅薄所致，与宰相无关，驳回了张行成的退休请求。张行成再三奏请，高宗竟然哭着道：“你是朕的元从老臣，为何非要弃我而去。”张行成惶恐不已，只得继续署理政务，不敢再提退休。

后来，张行成病逝于尚书省官署，终年六十七岁，唐高宗废朝三日，赏赐东园秘器，命九品以上官员登门致哀，而后又命宫中女官到张府督理丧事，以少牢之礼祭祀。张行成被追赠为开府仪同三司、并州都督，谥号为定，获许配享太庙，附祭于高宗庙廷。(记住全网小说更新最快的枣子读书：www.zhaozhi.us)