Die Conrad Graf-Musikschule e.V. wurde am 27.09.1973 als Verein mit dem Namen Jugendmusikschule Riedlingen gegründet und besitzt die Rechtsform eines eingetragenen Vereins, der gemeinnützig arbeitet.
Die Leitung des Vereins liegt bei einem ehrenamtlich tätigen geschäftsführenden Vorstandsgremium, das eng mit der Schulleitung zusammenarbeitet.
Da die Musikschule fester Bestandteil im kommunalen Leben in der Raumschaft Riedlingen und auf die kommunale Unterstützung angewiesen ist, sind im Gesamtvorstand die Bürgermeister der Stadt Riedlingen und der Gemeinden Altheim, Dürmentingen, Ertingen, Langenenslingen, Unlingen, Uttenweiler und Zwiefalten vertreten.
2015 wurde die Jugendmusikschule Riedlingen e.V. in Conrad Graf-Musikschule e.V. umbenannt.
Derzeit werden an der Conrad Graf-Musikschule etwa 650 Schüler unterrichtet.