古代“学士”这一称谓，最早出现在周代，是指读书的贵族子弟，后来演变成官名和有学问的人及文人学者的泛称。魏晋以后，学士正式成了以文学、技艺供奉朝廷的官员称呼。唐代，学士地位有很大提高，甚至可以参预朝政。

　　“大学士”之称谓始于唐代，为官职名称。因很多时候大学士一职常常由宰相、尚书、侍郎或军机大臣兼领，所以此时的大学士，其荣誉的象征意义又高于其职务的实际意义。

　　唐代有修文馆学士、集贤院学士，为掌管文学著作之官，常常以宰相兼领知馆、院事，称“大学士”。宋代沿袭唐代制度，对学士中资历威望高者，授予大学士。明清两朝对大学士一职亦有设置。

　　唐中宗李显景龙二年(708年)，设置修文馆大学士，修文馆后更名为弘文馆、昭文馆。唐肃宗李亨至德二年(757年)，设置集贤院大学士。自唐宪宗李纯元和年间始，皆由宰相兼领。唐玄宗李隆基天宝二年(743年)，又曾设崇贤馆大学士，亦由宰相兼领，唐德宗李适贞元四年(788年)撤销。

　　五代后梁曾置金銮殿大学士。

　　宋朝初年，沿袭唐代制度，宰相分兼昭文馆、集贤殿大学士，其后又增设观文殿、崇政殿大学士，由卸任的前宰相担任，以示优待。

　　明朝初年，曾一度废黜丞相一职。后因工作量实在庞大，明太祖朱元璋洪武十五年(1382年)不得不设殿阁大学士，为皇帝顾问，类似今日的秘书之职。一开始大学士并无实权，主要工作是替皇帝批答奏章，商承政务，官阶为五品。若兼任尚书、侍郎，则可以加官到一品，成为事实上的宰相。明惠宗朱允炆建文年间，改大学士为学士，后明成祖朱棣复原制。明成祖朱棣于文渊阁始设内阁，延揽大学士入内阁。明仁宗朱高炽增设谨身殿(后改建极殿)大学士，后大学士常以三孤兼任尚书，地位尊崇，为皇帝起草诏令，指导批答奏章，号称辅臣。大学士中居首者，号称首辅，其权最大，近乎有宰相之权而无宰相之名。。明武宗朱厚照正德中期以后，内阁权力急速发展，但首辅大学士的职权仍无法与以往的丞相相比。

　　清朝沿用明代内阁制，但内阁的权力在一定程度上受到议政王大臣会议的限制。康熙时，议政王大臣会议的权力被大部剥夺，取而代之由“南书房”作出决策，参与机务。但此时的南书房不是正式机构，也不能行文或指挥其他衙门。雍正时设“军机处”，有军机大臣三人至六人、军机章京(兼职，俗称“小军机”，在内阁中书等官员中选调)若干人，成为权力中枢，皇帝的诏令多由军机处发出。军机大臣成为事实上的宰相，军机大臣及内外官员之资望特重者仍授大学士，以示尊崇。