的机会，给皇帝留下了极为良好的印象，康熙认为他持重得体，遂“奉旨侍值南书房”，成为皇帝贴身低等小秘书。由于服务出色，45岁时升为副部级的礼部侍郎。
康熙去世，雍正登基，见他“气度端凝，应对明晰”，迅速升他为礼部尚书，参与机密。雍正是中国历史上有名的难伺候的皇帝，对科举出身的汉族大臣尤其缺乏好感，对他却一见如故，欣赏至极。不论大事小情都要和他商量，凡有谕旨均由他缮写。雍正与他君臣相得十三年，感情至好，甚至一天也不能分离。雍正五年（1727年）五月，张廷玉生了一段时间病，病好后进宫，雍正说：“我前两天对近侍们说，我连日臂痛，你们知道吗？他们惊问其故。我说，大学士张廷玉患病，此人如朕手臂，这不就是我臂痛吗？”此事传开，成为一时佳话。雍正末年，张廷玉回家省亲，皇帝写信给他说：“朕即位十一年来，朝廷之上近亲大臣中，只和你一天也没有分离过。我和你义固君臣，情同密友。如今相隔月余，未免每每思念。”（《张廷玉年谱》）
雍正累次升迁张廷玉为大学士、首席军机大臣、兼管吏户两部，权倾朝野。为了表达对张廷玉的欣赏，雍正特别立下遗嘱，要以最信任的两位大臣——鄂尔泰和张廷玉在身后配享太庙，也就