初，权当置丞相，众议归昭。权曰：“方今多事，职统者责重，非所以优之也。”后孙邵卒，百寮复举昭，权曰：“孤岂为子布有爱乎？领丞相事烦，而此公性刚，所言不从，怨咎将兴，非所以益之也。”乃用顾雍。 
两次机会都被孙权亲自给否决了。这对张昭的打击无疑是巨大的。最终张昭也没有象诸葛亮一样成为名副其实的东吴头号谋士。基本上游离于核心阶层之外。不过在一些比较重大的问题上，张昭还是发挥着自己的作用，虽然这时的孙权对张昭已经是若即若离。《三国志·顾雍传》云： 
　　权尝咨问得失，张昭因陈听采闻，颇以法令太稠，刑罚微重，宜有所蠲损。权默然，顾问雍曰：“君以为何如？”雍对曰：“臣之所闻，亦如昭所陈。”于是权乃议狱轻刑。 
　　这个记载说明：虽然张昭的意见没有被孙权采纳，但是由于他的巨大影响力，还是通过顾雍的口实现了自己的主张。 
　　另外，在对于公孙渊的问题上，张昭也是言辞激烈，和孙权发生激烈的冲突。《三国志·张昭传》云： 
　　讨权以公孙渊称籓，遣张弥、许晏至辽东拜渊为燕王，昭谏曰：“渊背魏惧讨，远来求援，非本志也。若渊改图，欲自明于魏，两使不反，不亦取笑于天下乎？”权与相反复，昭意弥切。权不能堪，案刀而怒曰：“吴国士人入宫则拜孤，出宫则拜君，孤之敬君，亦为至矣，而数于众中折孤，孤尝恐失计。”昭熟视权曰：“臣虽知言不用，每竭愚忠者，诚以太后临崩，呼老臣于床下，遗诏顾命之言故在耳。”因涕泣横流。权掷刀致地，与昭对泣。然卒遣弥、晏往。昭忿言之不用，称疾不朝。权恨之，土塞其门，昭又于内以土封之。渊果杀弥、晏。权数慰谢昭，昭固不起，权因出过其门呼昭，昭辞疾笃。权烧其门，欲以恐之，昭更闭户。权使人灭火，住门良久，昭诸子共扶昭起，权载以还宫，深自克责。昭不得已，然后朝会。 
　　姑且不论这件事情最后谁对谁错，但是也足以看出此时的张昭虽然年事已高，且不在核心之中，但是仍然在发挥“余热”。拳拳爱吴之心可略见一斑。 
　　第二.参加朝会和一些朝臣的聚会。在这方面可以说使得张昭受尽了捉弄。首先是孙权对张昭的挖苦。《三国志·诸葛恪传》记载了一个令张昭颜面皆无的故事： 
　　（孙权）命恪行酒，至张昭前，昭先有酒色，不肯饮，曰：“此非养老之礼也。”权曰：“卿其能令张公辞屈，乃当饮之耳。”恪难昭曰：“昔师尚父九十，秉旄仗钺，犹未告老也。今军旅之事，将军在后，酒食之事，将军在先，何谓不养老也？”昭卒无辞，遂为尽爵。 
　　另外在同传注引《江表传》中还说了一个故事（虽然也有人认为是和上面已提到的故事在同一时间发生，但是笔者认为也未必，也不是没有可能是在不同时间发生的）： 
　　曾有白头鸟集殿前，权曰：“此何鸟也？”恪曰：“白头翁也。”张昭自以坐中最老，疑恪以鸟戏之，因曰：“恪欺陛下，未尝闻鸟名白头翁者，试使恪复求白头母。”恪曰：“鸟名鹦母，未必有对，试使辅吴复求鹦父。”昭不能答，坐中皆欢笑。 
　　我们回过头想想张昭之前“每朝见，辞气壮厉，义形于色”那正气凛然的样子和孙权“孤与张公言，不敢妄也。”的言语，从中不难体会出张昭此时此刻的屈辱之情：一代名士、曾经的江东“谋主”、孙权的“师傅”，竟然在大庭广众之下遭受如此侮辱，岂不令张昭充满了郁闷和悲伤？更令张昭难堪的是，孙权还在朝臣面前诋毁自己，使得张昭的政治声誉受到了严重打击。《三国志·张昭传》注引《江表传》云： 
　　权既即尊位，请会百官，归功周瑜。昭举笏欲褒赞功德，未及言，权曰：“如张公之计，今已乞食矣。”昭大惭，伏地流汗。昭忠謇亮直，有大臣节，权敬重之，然所以不相昭者，盖以昔驳周瑜、鲁肃等议为非也。 
　　经过在朝会上、丞相人选的安排上、政务的参与上所遭受的种种挫折、打击，已经年过七十的张昭逐渐淡出东吴的政坛，最终于嘉禾五年（公元236年），张昭走完了他漫长而复杂多变的人生道路，与世长辞。张昭死后，“权素服临吊，谥曰文侯。