德國的教育制度在歐美教育史中具有重要影響，近代西方的公立教育、義務教育、實科教育、師範教育和雙軌學制等，大多起源於德國。
16世紀以前，德國教育相當落後，學校大都掌握在天主教會手裏。宗教改革運動後，M.路德的新教雖然開辦瞭初等學校，但其主要註意力卻放在中等教育和高等教育方面，其目的是培養新教的牧師、國傢的官吏和學校的教師。在16世紀末，德國還創設瞭騎士學院，招收貴族子弟，為封建王公訓練官吏。
<17～18世紀，德意志許多公國頒發學校法令，規定學校開辦權由教會轉移到國傢手中。如普魯士王國在腓特烈·威廉一世（1713～1740在位）時便謀求將學校開辦權由教會轉入國傢手中。腓特烈二世 (1740～1786在位)即位後頒佈瞭一系列章程來改進教育。在1763年，制定瞭鄉村學校規程，作出瞭實行普通義務教育的規定。在1794年以法令形式頒佈，全部普魯士大、中、小學由國傢舉辦。其他公國也有類似做法。德國成為世界上最早提出實行義務教育的國傢，也是西方各國中最早從教會手中奪得教育權的國傢。
這一時期，基督教新教的虔敬派對德國教育的發展起瞭很大的促進作用。虔敬派的代表人物為教育傢、神學傢A.H.弗蘭克。他於1695年在哈雷設立瞭貧兒學校，並以此為基礎，逐漸建起瞭大型的教育機構群，其中包括慈善學校、市民小學、孤兒院、寄宿制的教育學院、教師養成所、拉丁學校、女子文科中學等(見虔敬派教育)。當時，德國中學的基本型式是以拉丁文和希臘文為主要教學內容的文科中學。由於工商業的發展，文科中學已不能滿足新興資產階級的需要。1708年虔敬派的牧師C.澤姆勒便開辦瞭一所“數學和機械實科學校”，傳授實用科目。1747年，另一位虔敬派牧師J.J.黑克爾在柏林建立瞭“經濟、數學實科學校”。隨後，建築學校、采礦學校、林業學校、技術學院和農業學院等傳授實科知識的新型學校在許多城市陸續創辦起來（見實科學校）。
18世紀末，德國興起瞭泛愛主義教育，其代表人物為J.B.巴澤多。他在德紹創辦瞭泛愛學校，教學科目已含有農業知識、手工業知識和自然科學知識，註重體育和勞動教育，采用實物教學法。
19世紀初期，德國的政治和經濟都相當落後。1806年，德意志最大的公國普魯士敗於法國，並於1807年被迫簽訂瞭割地賠款的蒂爾西特和約。這種狀況喚起瞭愛國志士要求進行全面改革的思想，而教育改革也被作為重要方面，於是就發生瞭德國教育史上最重要的一次改革。它是在新人文主義思想運動影響下進行的，領導這場改革的是當時普魯士內務部教育廳廳長、新人文主義代表 K.W.von洪堡。改革後的普魯士學制，為雙軌制。其中，一個是為地方資產階級子女辦的由預備學校或傢庭教育、文科中學和大學組成的學術教育系統；另一個是由國民學校與職業教育機構組成的，旨在訓練守紀律、虔敬上帝和忠於統治階級的臣民的窮人子弟學校系統。改革後的文科中學成瞭唯一與大學銜接的中等學校。1812年文科中學畢業考試章程規定，凡通過文科中學畢業考試者可直接升大學，取消瞭原有的大學招生考試。改革期間創辦的柏林大學成為德國高等學校的楷模。
這一時期師范教育也有所改革。德國的師資培養機構始於1697年弗蘭克設立的教師養成所。1747年黑克爾又在柏林設師范學校。此後，在漢諾威、沃爾芬比特爾、格拉茨、佈雷斯勞、卡爾斯魯厄等地先後設立師范學校。1810年7月12日頒佈瞭關於教師資格考試的敕令，敕令規定隻有通過國傢考試者才能獲得教師證書，有瞭證書才能被任用。證書分3種：隻教高年級的教師資格證書、隻教低年級的教師資格證書和兼教高、低年級的教師資格證書。此時各種師范教育機構應運而生，到1831年時，普魯士各省都設立瞭師范學校。師范教育內容有瞭很大改進，開設教育學與心理學以及教學實習等課程。
這一時期，德國教育傢J.F.赫爾巴特的教育思想對德國和歐美各國的中學教育，尤其是對古典中學教育的影響很大。赫爾巴特學派作為傳統教育的代表，其影響一直延伸到19世紀末和20世紀初。
1848年德國革命失敗後，普魯士政府於1854年10月連續頒佈瞭3個反動條例，強調國民學校和師范學校要以宗教、忠於普魯士君主和德國沙文主義教育為基礎，要求學校為宗教生活、職業生活和國傢生活等服務，為這種生活作準備。國民學校中所有有利於發展兒童創造精神的方法都被取消，瑞士教育傢J.H.裴斯泰洛齊要求發展兒童思維的教育思想受到非難。學校教學重新采取死記硬背的方法。學生除規定須背誦福音書、贊美詩、祈禱文和聖經故事外，還要精通教義問答。自然科學教學被停止。師范學校中取消瞭文學教學，數學隻限於算術一種，並用相當於學校法令匯編的所謂“學校管理”代替教育學和心理學課。
1871年普法戰爭後，德國基本上結束瞭封建割據，實現瞭以普魯士邦為首的統一，建立瞭資產階級和容克地主的聯合專政，為資本主義發展創造瞭有利條件，從而也為教育事業的發展顯示出廣闊的前景。這時期，德國的幼兒園在F.W.A.福祿貝爾推動下有很大發展，各級各類學校數量不斷增加。以普魯士地區為例，1847～1881年間新建的學校達6000多所。而職業教育與實科學校教育的發展尤為突出，在世界上處於領先地位。
作為職業學校前身的“普通補習學校”早就在19世紀70年代開始出現。這種學校主要是為讀過國民學校的在職青年進行補習而創辦的。在這種學校基礎上，教育傢G.凱興斯泰納於1887年在慕尼黑建立瞭第一所職業學校。同時各種培訓職業學校教師的訓練機構也相繼建立。當時職業學校的專業門類很多，例如有理發、烤餅、裁縫、制鞋、陶瓷、印刷、駕駛、鐘表、機械、園藝、藥材、音樂、簿記等等，加上各種各樣的專門學校，在德國形成瞭一個較完整的職業教育系統。
19世紀70年代後，隨著工商業的進一步發展，實科教育逐漸得到重視。到1882年制訂的教學計劃中，除瞭文科中學外，9年制的文實中學和實科中學已被承認作為高級中學類型，同時6年制的前期文科中學、前期文實中學和實科學校都同樣地被列入這個教學計劃。1900年由威廉二世簽署的《基爾法令》終於規定，文實中學和實科中學畢業生與文科中學畢業生一樣具有升入大學的同等資格。
與實科學校教育發展相適應，一批以柏林大學為模式的農、林、醫、機械、采礦以及其他應用科學領域的高等技術學校和高等專科學校也相繼創辦起來。
19世紀末，特別是第一次世界大戰前夕，德國加強沙文主義和軍國主義教育，使學校成為政府鼓吹擴張侵略和抵制工人運動的工具。第一次世界大戰後，德國建立瞭資產階級共和制度。統治階級推行“自由化”的教育改革。1920年通過的基礎學校法廢除瞭貴族化的預備學校，規定所有年滿6歲的兒童均須入共同的基礎學校，修業4年後，通過考試和挑選，優秀者升入各種高級中學，其餘學生繼續上國民學校高級班或中間學校。此時，高級中學，除瞭原有的文科中學、文實中學和實科中學外，增設瞭“上層學校”與“德意志中學”。上層學校與國民學校七年級相銜接，學習年限6年。這類學校大部分設在小鄉鎮，為國民學校高年級的優秀生提供完全中學教育的機會，使他們借以獲得升大學的資格。德意志中學是與基礎學校相銜接的9年制高級中學，以學習“德國文化”、“德國歷史”等所謂“德意志文化”為主，帶有明顯的民族沙文主義色彩。在高等教育方面，各類大學的數量又有增加。在此時期，德國加強瞭對師資的培養。國民學校的教師一般要求由高等學校培養。普魯士新建瞭教育學院，專門培養教師。
1933年A.希特勒執政，建立瞭法西斯專政，把學校教育作為推行侵略戰爭政策的工具。納粹德國實行中央集權的學校管理制度，於1934年成立瞭帝國科學、教育和國民教育部，以統一管理從教科書到教學程序安排等一切教育事宜，取消瞭一切民主權利，取締瞭一切群眾性組織，關閉瞭一切實驗學校和私立學校。把宣揚日耳曼民族是主宰世界的優秀民族的種族學和遺傳學列為學校的基礎學科。這時期，中等學校的學制普遍縮短瞭，原9年制的高級中學縮短瞭1年，6年制的中間學校縮短瞭2年，並改稱為“主要學校”。設立瞭5年制師范教育機構，訓練國民學校師資。原來強調“德意志學科”的德意志中學此時受到格外重視，成瞭高級中學的主要類型，而傳統的文科中學隻有少數被保留下來。各級各類學校入學人數大都有所減少，唯有德意志中學學生人數有所增加。為培養“忠實的、有能力的領袖”，納粹設立瞭3種所謂“優秀分子”的學校:“阿道夫·希特勒學校”、“國傢政治學院”和“騎士城堡”。同時把“鄉村生活年”和“勞動服役”等引入學校教育內容。在學校中，還建立瞭法西斯青少年組織。許多教師和科學傢遭到迫害，有的被撤職，有的被驅逐出境，流亡異國他鄉，有的被投入集中營。整個教育事業嚴重衰退，學生的知識水平大為下降。