张廷玉出身于书香门第官宦名家，他的父亲张英是康熙时期大学士，是清代著名大臣。张廷玉二十九岁高中进士，并被点为翰林。三十三岁那年，被康熙看中，认为他持重得体，成为康熙皇帝贴身低等。四十五岁时升为礼部侍郎。

　　康熙去世，雍正登基，见他“气度端凝，应对明晰。”迅速升他为礼部尚书。雍正是中国历史上有名难伺候的皇帝，对科举出身的汉族大臣尤其缺乏好感，而对他却一见如故欣赏至极。不论大事小情都要和他商量，凡有谕旨均由他缮写。雍正与他君臣相得十三年，君臣感情至好，甚至一天也不能相离。雍正五年五月，张廷玉生了一段时间病，雍正说：我连日臂痛，大学士张廷玉患病，此人如朕手臂。”此事传开为一时佳话。

　　雍正末年，张廷玉回家省亲，皇帝写信给他说：“朕即位十一年来，朝廷之上近亲大臣中，只和你一天也没有分离过。我和你义固君臣，情同密友。如今相隔月余，未免每每思念。”(以上皆见《张廷玉年谱》)深情义重之态，形于辞色。雍正为表达对张廷玉的欣赏特别立下遗嘱，张廷玉在身后配享太庙。这是一项极高的政治荣誉，整个清朝二百余年，他是唯一享受到这个待遇的汉人。

　　乾隆十四年，张廷玉一直想着死后能入太庙和乾隆对着干，敢和当今皇上较劲这不是吃饱了就是脑子当机了。乾隆以张廷玉年逾古稀为由，准他不必早朝，遇天热，或刮风下雨，可以不必入内，他的内阁首辅位置由讷亲取而代之。张廷玉明晰皇上此举的真正意图，于是立即上疏请求辞去兼管吏部事务的职务，要求回乡，这次乾隆准了。张廷玉奉请入朝谢恩，派了自己的儿子去当前锋。

　　本来就有意见的乾隆这下可好，怒火中烧，乾隆很恼怒：“张廷玉就在京城，即使病得很重，就是爬着来，也该来谢恩。为自己要赏赐时能亲自上朝，可是谢恩时就不能亲自来了，这样对待朝廷给他的莫大恩惠，好像这都是他应该得到的，天下有这样的道理吗?”收了张廷玉的伯爵位置，后来又罢免了官职取消了入太庙的资格，张廷玉死后，乾隆做足样子还是让张廷玉入了太庙。