唐代開始設立的各種藝能之士供職的機構。自唐玄宗李隆基選擅長文詞的朝臣入居翰林以起草詔制後，演變為草擬機密詔制的重要機構，任職者稱翰林學士。
唐代翰林院何時設置，目前尚無定論，史載多見於唐玄宗時。當時在翰林院供職的有詞學、經術、合煉（煉丹）、僧、道、卜、祝、術、藝、書、弈等各色人才，稱為待詔，即聽候皇帝隨時召見和差遣。其中詞學之士最受重視。起草詔制本是中書舍人的專職，但在唐代初期已有他官被召草擬詔制的事例，唐高宗、武後時的的北門學士劉懿之、周思茂、元萬頃等尤為著名，僅當時還沒有設專門機構。唐玄宗感到中書舍人草擬詔制的制度難以保守機密和應付急需，因此，他挑選擅長文學的親信官員如張說、張九齡、徐安貞等人充翰林院待詔，以備起草急詔（兼撰擬詩文），又稱翰林供奉。
翰林院設置在宮內深處，麟德殿之西，比屬於中書省的中書舍人院更接近於寢宮內殿（這是在長安大明宮內的情況，皇帝若住在興慶宮、西內或東都時，翰林院的位置也比中書舍人院密近）。大致由於待詔翰林的各色人才很雜，不能保證機密不外泄，故開元二十六年(738)，又在原翰林院之南另建翰林學士院，專供草擬詔制者居住，供職者稱翰林學士(簡稱學士)。學士院建立之後，待詔於原翰林院的文學之士仍稱供奉或待詔，也有學士與待詔二名兼稱者，如天寶七載(748)所立的《封北嶽安天王碑》，撰者李荃自題銜名為“直翰林院學士供奉”；大詩人李白被稱為翰林學士，也被稱為翰林供奉。這種待詔於舊翰林院的文學藝能之士長期存在，而且為數甚多，據《順宗實錄》記載，順宗即位後，曾一次即罷翰林陰陽、星、卜、醫、相、覆棋諸待詔者三十二人，可見人數之眾。而順宗所倚以主持政策的王叔文是翰林棋待詔，王伾是詩書待詔（見二王八司馬）。
學士本是文學儒生的泛稱，後來隨著各類機構的設置而成為一種差遣職，如唐代有弘文館、崇賢館、集賢院等學士。張說入充翰林院待詔時也是集賢院學士。供職於翰林學士院的學士也是差遣職，本身並無秩品，都帶本官，上自尚書（三品），下至校書郎（九品），均可充任，也有中書舍人充任的。初置時並無員額，少或一兩人，多或五六人，由皇帝遴選。後來依照中書舍人之例，置學士六人，擇其中資歷深者一人為“承旨”。安史之亂以後，軍事頻繁，“深謀密詔，皆從中出”，翰林學士於其間起著極大作用，地位愈來愈重要，不但在草擬詔制方面分割瞭中書舍人之權，也在參謀密計方面分割瞭宰相之權。唐德宗時翰林學士陸贄因此被稱為“內相”。唐憲宗以後，翰林學士承旨往往晉升為宰相。
學士院設置之後，與中書舍人院有瞭明確分工。學士所起草的是任免將相大臣、宣佈大赦、號令征伐等有關軍國大事的詔制，稱為“內制”，用白麻紙書寫，故又稱“白麻”；中書舍人所起草的則是一般臣僚的任免以及例行的文告，稱為“外制”，用黃麻紙書寫，故又稱“黃麻”。有時翰林學士缺人，也臨時召取中書舍人代草內制，但不經常。此外，還有專侍皇帝讀書寫字的侍讀學士、侍書學士，則不負起草詔制之責。
翰林學士地位的增高，引起皇帝的猜忌，敬宗寶歷二年(826)曾打算別置東頭學士以抑之，由於敬宗不久被宦官所殺，這個計劃沒有實現，但反映瞭封建文官由卑而高，由親而疏的發展規律。
學士院有兩名由宦官充任的學士院使（或稱翰林院使），在皇帝與翰林學士間起傳達聯系的作用，在政治上有很大影響，這是唐代後期宦官專政情況下的產物。
後晉天福五年(940)曾宣佈廢除翰林學士，將草擬詔制之權歸還中書舍人，但不久又恢復。
宋沿唐制設學士院，也稱翰林學士院，有時亦稱為翰林院。北宋前期各政府機構大多名不副實，學士院則仍遵行唐制為草擬內制之所，翰林學士亦依舊例為六員，但通常少於此數，偶設七員，其第七員翰林學士，號稱“員外學士”。宋亦以翰林學士資深者一人為翰林學士承旨，但不常設置。翰林學士實際上充當皇帝顧問，很多宰相都從翰林學士中選拔。
北宋前期的翰林學士，亦如唐代無秩品，以其他寄祿官充任。有時領其他差遣，類同貼職，則不草擬內制。在學士院草擬內制的翰林學士，加知制誥銜，如寄祿官至中書舍人則不加知制誥銜，一般都隻稱為翰林學士。常見的知制誥，通常是指任職於舍人院草擬外制的知制誥。翰林學士大多由草擬外制的知制誥選任，不再召試制詞。
元豐改制後，翰林學士承旨、翰林學士成為正式官員，正三品，並且不任其他官職，專司草擬內制之職，例帶知制誥銜。由於草擬外制的知制誥已廢，所以，北宋後期及南宋的知制誥，都是翰林學士的加銜。翰林學士定額為兩員。
如果其他官員入學士院草擬內制而未任命為翰林學士者，稱為直學士院、直翰林院，簡稱“直院”。遇學士院全缺翰林學士，而以其他官員臨時代行其職，宋初曾稱為權祗應翰林院事，後稱權直學士院、權直翰林院、學士院權直、翰林權直，簡稱“權直”。如官位高於翰林學士，則稱為權翰林學士、權學士院。
由於唐代學士院自翰林院分出，故宋代有時亦稱學士院為翰林院。宋代亦另有專掌藝學供奉之事的翰林院，則與學士院之又稱為翰林院者無關。
西夏設翰林學士院，官員有學士等。遼北面官中有翰林院，掌漢文文書及刑獄諸事，長官為翰林學士及翰林學士承旨等。金天德三年(1151)，置翰林學士院，設翰林學士承旨、翰林學士等，掌起草詔書等事。元代設翰林兼國史院及蒙古翰林院，官員與金代同，分掌制誥文字、纂修國史及譯寫文字。
明翰林院掌制誥史冊文翰之事。設掌院學士（正五品），下屬有侍講學士(正六品)、侍讀學士（正六品）、世襲五經博士（正八品）以及介於官與非官之間的六科庶吉士。入翰林院者官品雖低，卻被目為清貴之選。明朝翰林若得入直文淵閣參預機密，則更是貴極人臣。清因明制，設翰林院。置掌院學士（正五品）兩人，滿員、漢員各一人，由大學士、六部尚書或侍郎內特簡。掌院學士下設侍讀學士（從五品）、侍講學士(從五品)，滿、漢各三人；聖裔太常寺博士（正七品），以孔氏衍聖公第三子承襲；世襲五經博士（正八品）；六科庶吉士。
清掌院學士無文學撰述之責，是侍讀學士以下諸官的名義長官，與唐宋之翰林學士有所不同。侍講以上諸官亦僅具空名，並不任講書之職。擔任講書者須另外選派，加經筵官之銜。世襲五經博士的設置，也意在照顧孔子及朱子的子孫，以奉祀其先人，實際不任職務。故清代翰林院諸官極為閑散。但翰林官亦是清華之極選。仕為翰林官者不僅升遷較他官為易，而且南書房行走及上書房行走例由翰林官為之，因接近皇帝、皇子及近支王公，多蒙優待厚遇。