唐代後期由宦官充任的要職，五代至宋改用朝臣，成為與宰相分權的執政大臣。唐代宗永泰間(765～766)，始用宦官“掌樞密”。憲宗時，置左右樞密使。樞密使的職務本來隻是接受表奏，上呈皇帝，又將皇帝意圖傳達給中書門下（宰相），起上傳下達的作用。因此，並無正式機構、屬官，隻有三間房屋以儲存文書。但樞密使既接近皇帝，預聞機密，皇帝意旨又由他傳達，就易於弄權用事。唐代後期，兩神策軍中尉與兩樞密使並稱“四貴”，他們擁立皇帝、任免宰相、處理軍國要務，有時成為實際上的最高決決策者。大致自懿宗咸通年間(860～874)起，皇帝在延英殿和宰相議事，樞密使例得參預。議定之後，又往往假托皇帝的意旨，多有改變。這種“慣例”，直到昭宗天復元年(901)始下詔革除。三年，朱全忠（見後梁太祖朱晃）盡誅宦官，始以心腹蔣玄暉為樞密使，此為用朝臣任此職之始。後梁代唐，改樞密院為崇政院，以朝臣為崇政院使，職務仍唐樞密使之舊。後唐又恢復樞密院，仍以朝臣充使，後又置副使。後唐時樞密使權重，勢壓宰相。後晉初，一度以宰相兼樞密使。天福四年(939)廢，樞密院印也移交給中書門下，不久復置。
五代時戰爭頻繁，軍事機密處於最重要的地位，樞密使也常任用武官，逐漸形成樞密專掌軍事的傾向。到瞭宋代，中書與樞密院對掌文武二柄，合稱“二府”或“兩地”。