秦漢時主管皇帝車輛、馬匹之官，後逐漸轉為專管官府畜牧事務。皇帝出行，太僕總管車駕，親自為皇帝禦車。太僕因和皇帝關係密切而成為親近之臣。漢初到文帝時，任該職者有高祖的親信夏侯嬰。太僕由於在諸卿中屬於顯要職務，常常可以升擢為三公。西漢時劉舍、陳萬年皆由太僕升為禦史大夫，公孫賀由太僕升為丞相。東漢時太僕多選素負聲望或有功的大臣充任，甚至有時由司空、尚書令轉任為太僕，可見其名位之重。
太僕秩為中二千石，有兩丞。屬官有大廄、未央、、傢馬三令；車府、路、騎馬、駿馬四令、丞；龍馬、閑駒、橐泉、駼、承華五監長、丞。車府主管皇帝乘坐的車輛，其餘皆為主管馬廄之官。
漢“太仆之印”封泥
太仆更重要的職掌是兼管官府的畜牧業。西漢時，隴西、天水、安定、北地、上郡、西河六郡設牧師官，養馬三十萬匹，還有供祭祀用的大量牛羊。
東漢時太仆之下保留車府、未央以主管皇帝車馬，其餘諸廄和西北六郡的牧師官皆省去。西漢時少府所屬的考工，東漢時移歸太仆，其職務是制作弓弩刀甲等兵器，還主織綬及諸雜工。
魏晉以後，太仆之官除金代不設外，長期沿襲。但職掌漸轉為專管官府畜牧事務，原來皇帝車輛、馬匹之事，則移於他官，如清代歸內務府上駟院、鑾儀衛掌管。