中國魏晉至唐初尚書臺（省）臨時在外設置的分支機搆。又稱行尚書臺或行臺省。曹魏甘露二年(257)，司馬昭討伐諸葛誕，尚書僕射陳泰、中書侍郎鐘會等以行臺隨從。後尚書省長官出征或出鎮，隨軍衙署稱為行臺。北魏天興元年(398)，道武帝拓跋珪攻佔河北，於鄴城、中山置行臺，以尚書令拓跋儀鎮守。行臺成為皇帝派出的特使，置僚屬，指揮軍事，不常設。孝文帝遷都洛陽後，皇帝委派尚書出使，巡視邊境，亦稱行臺。北魏後期，行臺設置較較多。任行臺者多兼任刺史或都督諸州軍事，成為地區軍事指揮機關。行臺遂有東南、山南、西道、北道之稱。孝明帝時爾朱榮專權，任北道大行臺，大行臺稱號始見於此。
北魏末年，高歡自任大行臺，其餘行臺皆罷。東、西魏分立，高歡任東魏丞相、大行臺，駐晉陽。宇文泰任西魏大行臺、都督中外軍事，鎮雍州。實際控制瞭東、西魏政權。高歡以侯景為河南道大行臺，鎮虎牢，擁兵十萬，指揮對西魏、梁朝的戰爭。梁中大同二年(547)，侯景降梁，上表請以豫、郢、荊、襄、兗、濟、洛等十三州內附，可見其管轄范圍。
北齊承北魏制，並州大行臺改稱並州尚書省，地位僅在中央尚書省之下。其餘行臺多駐軍事要地。如幽州道行臺亦稱北道行臺，駐薊（今北京城區西南）。晉州道行臺駐平陽（今山西臨汾）。河南道行臺駐洛陽。以上行臺之外，又有臨時性行臺，指揮作戰，巡視地方，事畢即撤。北齊文宣帝時，辛術為東徐州刺史、東南道行臺，駐下邳，始管理地方民政。
西魏行臺不常設。除宇文泰自任大行臺外，獨孤信為荊州刺史、東南道行臺。王思政為東道行臺，駐玉壁，都督汾、晉、並諸州軍事。為一方軍事長官。北周置總管府，遂廢行臺之制。
隋開皇二年(582)，文帝於並、洛、益三州各置河北道、河南道、西南道行臺尚書省，以其子楊廣、楊俊、楊秀各為行臺尚書令。後為伐陳需要，於襄州、壽春兩地設置山南道、淮南道行臺。平陳統一後，廢行臺，改置並、揚、益、荊四大總管府，各統十餘州至數十州。煬帝大業元年(605)廢。
唐初復置大行臺。作為消滅割據勢力的軍事指揮機構。於洛陽設陜東道大行臺，秦王李世民為尚書令，地位在其餘行臺之上。其餘如益州道、襄州道、東南道、河東道、河北道行臺，均以宗王或親信大將任尚書左仆射，主持一方軍事。武德九年(626)李世民奪權即位後，為加強中央集權，控制宗室親王，諸道行臺皆廢。
行臺設置主要是在戰爭期間，作為中央派出或授權的最高軍事機構，主持一方軍事。權力既重，則易成為割據勢力。所以行臺不常設，其僚屬也是臨時權置，並不完備。戰事結束後，行臺即被撤銷。唐以後少有行臺之制，唯金朝廢偽齊，曾於汴京（今開封）立行臺尚書省，管理齊國舊地。