在法蘭克福住了大約1年半后，王光祈來到柏林，在確立要用音樂喚起民族自覺的決心后，他先在一所專科學(xué)校補(bǔ)習(xí)鋼琴、小提琴與音樂理論，1927年轉(zhuǎn)入柏林大學(xué)音樂系，長(zhǎng)達(dá)7個(gè)學(xué)期。1932年11月被波恩大學(xué)東方學(xué)院聘為講師，并于兩年后以《中國(guó)古代歌劇研究》一文獲得博士學(xué)位，他是我國(guó)第一位在西方獲得榮譽(yù)的音樂學(xué)家。他將目光匯聚在音樂史，開始思考音樂與國(guó)家、民族的關(guān)系，并一度熱情澎湃。

王光祈留德共16年，改習(xí)音樂13載，勤奮著述，卓有成就，陸續(xù)寫成音樂專著17本、論文40余篇。如《歐洲音樂進(jìn)化論》《東西樂制之研究》（屬我國(guó)最早的，具有開創(chuàng)意義的比較音樂學(xué)著作）《德國(guó)國(guó)民學(xué)校與唱歌》《各國(guó)國(guó)歌評(píng)述》《東方民族之音樂》《中國(guó)詩(shī)詞曲之輕重律》《音學(xué)》《翻譯琴譜之研究》（向西人介紹中國(guó)古琴音樂的著作）《中國(guó)音樂史》《西洋名曲解說》《西洋音樂史綱要》等等。其中不少書著具有首創(chuàng)性和獨(dú)特的眼光，表現(xiàn)了王光祈獨(dú)到的音樂思想。他主張發(fā)揮音樂的社會(huì)功能，藉以振奮人心，以此發(fā)揚(yáng)愛國(guó)主義精神。同時(shí)他還提出了發(fā)展民族音樂的具體辦法，洋溢著強(qiáng)烈的民族自豪感。他一生致力于改良中國(guó)社會(huì)，從改良國(guó)民的精神世界立場(chǎng)出發(fā)，從事音樂理論研究，試圖以研習(xí)音樂來達(dá)到他救國(guó)的目的，“欲借此以喚醒‘中華民族本性’，為抵抗外國(guó)文化侵略之工具”。在這個(gè)四處充滿音樂的國(guó)度，他感受到了音樂動(dòng)人的力量，且深受德國(guó)人“非有音樂不能生活的境地”的熏染，認(rèn)為改造中國(guó)，應(yīng)先改造人心，而改造人心，則必須從恢復(fù)“禮樂”開始。這與中國(guó)儒家的“禮樂觀”相契合。“禮樂”與中華民族精神有著密切的關(guān)系，“禮樂不興，則中國(guó)必亡”。他敬慕孔子禮樂教化的思想，認(rèn)為振興禮樂，可以改善社會(huì)人心，振奮國(guó)民精神，改造整個(gè)國(guó)家。他認(rèn)識(shí)到音樂足以喚醒民族精神，使其日夜夢(mèng)想的“少年中國(guó)”理想落到實(shí)處。王光祈認(rèn)為，音樂是“最足引起‘民族自覺’之心”，具有“陶鑄‘民族獨(dú)立思想’之功”的藝術(shù)，因而特別強(qiáng)調(diào)“音樂化人”、“寓教于樂”。王光祈是思想家，他堅(jiān)持認(rèn)為世界應(yīng)該建設(shè)出音樂人生觀，應(yīng)該以音樂去培植人類的良知，以彌補(bǔ)法制社會(huì)的冷酷無情和種種弊端，王光祈是中國(guó)儒文化對(duì)外的主要傳播實(shí)踐者。四川音樂學(xué)院建有王光祈先生塑像和紀(jì)念碑亭，紀(jì)念這位在中國(guó)音樂史上占有重要地位的先人。

在德國(guó)短短的10多年中，即使生活十分艱苦，他在音樂研究方面依然涉獵廣泛，學(xué)過小提琴、鋼琴、音響學(xué)、和聲、樂律學(xué)、對(duì)位等音樂理論。此外，他還跟世界樂器學(xué)權(quán)威、德國(guó)著名音樂學(xué)家薩克斯學(xué)樂器學(xué)。