El término gagaku (雅楽), aparece en el código Taihō Ritsuryō del 701, con la constitución del Gagakuryō (雅楽寮) dentro del recinto de la corte. Esta institución sería la primera academia imperial con más de cuatrocientos miembros , teniendo como fin el fijar la música importada como oficial de la corte. La música japonesa nativa no fue incluida dentro del Gagakuryō, si no que quedó relegada en el Outadokoro (大歌所), la escuela de la corte situada también dentro de los recintos de la corte.
Komagaku y togaku fueron introducidos a Japón durante el período Nara (710-794), asentándose en las divisiones básicas modernas durante el período Heian (794-1185). Las interpretaciones de gagaku fueron desarrolladas por músicos que pertenecían a gremios hereditarios, siendo durante el período Kamakura (1185-1333), debido al rigor militar impuesto, que las muestras de esta música se realizaban en los hogares de la aristocracia, siendo raramente interpretadas en la corte. En este período existían tres gremios pertenecientes a Osaka, Nara y Kyoto.
Debido a la guerra de Onin, guerra civil que se extendió de 1467 a 1477, durante el período Muromachi, los grupos de gagaku no pudieron seguir desarrollando su música en Kyoto por aproximadamente 100 años. En el período Edo, gobernado porel Shogunato Tokugawa, se reorganizó el estilo de los grupos en la corte, siendo este el origen de las muestras actuales.
Posterior a la restauración Meiji de 1868, músicos de los tres gremios llegaron a Tokio constituyendo sus descendientes la gran mayoría de los integrantes del Departamento de Música del Palacio Imperial en la actualidad. Para ese tiempo, el presente estilo del conjunto consistía en tres instrumentos de viento hichiriki, ryūteki, y sho (armónica de bambú que proporcionaba la armonía) y tres instrumentos de percusión: el kakko (tambor pequeño), shoko (percusión de metal), y taiko (tambor) o dadaiko (tambor grande), complementando al gakubiwa, que había sido establecido por el gakuso.
El baile clásico (llamado bugaku) a menudo acompaña a las interpretaciones de gagaku, siendo esta música utilizada por la religión Tenrikyo como parte de sus ceremonias.
Los conjuntos de gagaku contemporáneos, como Reigakusha, desarrollan composiciones contemporáneas para los instrumentos del gagaku. Compositores del siglo XX como Toru Takemitsu ha compuesto trabajos para conjuntos de gagaku, así como para instrumentos individuales utilizados en esta música.
El gagaku, como el shômyô, emplea la escala Yo, una escala pentatónica con intervalos ascendentes de dos, tres, dos, y dos semitonos entre los cinco tonos de la escala.
