唱歌讚美上帝是基督教宗教儀式的重要組成部分。這些讚美上帝的歌曲最初是用樂器伴奏的。所用的樂器有:琴、瑟、鈸、號角等。中世紀的基督教會裏，除管風琴外，一切樂器都被禁止使用，隻有單聲部、自由節奏的無伴奏素歌是合法的教會歌曲。西方教會的素歌（又稱聖詠）有4派:以米蘭主教聖安佈羅斯命名的“安佈羅斯素歌”、法國教會的“高盧素歌”、西班牙教會的“莫薩拉佈素歌”、以羅馬教皇格列高利一世命名的“格列高利素歌”。8世紀以後，格列高利素歌成為西方教會歌曲的最高準則。
1054年，基督教分裂為“公教”和“正教”。公教（天主教、羅馬公教或加特力教）教徒唱格列高利素歌，希臘正教教徒唱拜占廷式的單聲部素歌，俄羅斯正教教徒則唱多聲部素歌。格列高利素歌從9世紀開始出現瞭平行四、五、八度的“奧加農”形式。12世紀以後出現瞭包含反向進行的“迪斯坎圖斯”形式，逐漸成為復調歌曲。13世紀以後，以素歌為固定歌調的“克勞蘇拉”和經文歌等復調合唱歌曲興起，但遭到瞭教會的排斥，被認為是“瀆聖”的東西。其後，以經文歌和彌撒曲為主的無伴奏復調聲樂作品，在不斷發展中終於取得瞭教會的承認，並逐漸擺脫瞭固定歌調，成為自由作曲的音樂作品。
16世紀德國的宗教改革運動，促成瞭基督教音樂的改革。馬丁·路德不僅發動瞭這場宗教改革運動，創立瞭新教的路德宗（信義會），並創制瞭全體會眾用本民族語言（德語）演唱的眾贊歌。新教的眾贊歌取代瞭舊教格列高利素歌的地位，並成為康塔塔、受難曲、清唱劇等戲劇性宗教音樂的重要組成部分。文藝復興和新教音樂的興起，加速瞭教會音樂的世俗化。從僵化瞭的拉丁文歌詞過渡到民族語言的歌詞；從清一色的無伴奏合唱過渡到獨唱、合唱和樂器伴奏相結合；從單聲部的齊唱和對唱過渡到多聲部的復調音樂和主調音樂；從以素歌為準則的教會調式過渡到近世的大小調；從在教堂中的演出過渡到在音樂會中的演出等。教會音樂的這些變化，都是在民間音樂和世俗音樂的影響下發生的。從17世紀羅馬樂派的經文歌和彌撒曲；18～19世紀以J.S.巴赫和G.F.亨德爾為代表的康塔塔、受難曲和清唱劇，以W.A.莫紮特、L.van貝多芬、F.舒伯特、J.勃拉姆斯為代表的彌撒曲和追思曲；以至於20世紀D.米約、F.普朗克、O.湯普森、B.佈裡頓等的彌撒曲、追思曲和受難曲中，可以看出400年來基督教音樂在世俗化、戲劇化和交響化的進程中所起的變化。
基督教聶斯脫利派（正教的一派）在唐代就傳入瞭中國，稱為景教。唐德宗建中二年(781)立有“大秦景教流行中國碑”。清末在敦煌石窟中發現的《大秦景教三威蒙度贊》，是現今所知中國最早的基督教頌贊歌曲的歌詞。天主教於元代傳入中國後一度中斷，明末再度傳入。明代天主教司鐸吳漁山的《墨井集》載有《仰止歌》，是中國17世紀的一首天主教歌曲。新教各宗派在鴉片戰爭後自英、美和德國傳入中國。太平天國的禮拜儀式中所唱的《三一頌》，其曲調即法國教會作曲傢L.佈爾熱瓦所作的《老百篇》(因以《詩篇》第100篇為歌詞而得名)。1931年中華基督教會（長老會）發起編訂一本統一的聖歌集，名為《普天頌贊》。編輯委員中擔任譯詞、作詞、作曲、編曲的音樂傢有楊蔭瀏、周淑安、李抱忱等人。所選550首聖歌中，除歐美各國的新教歌曲外，還采用瞭不少中國民歌、古曲和新創作的曲調。