Пражката консерватория е основана през 1808 година по подобие на Парижката и Миланската. Тя е първото подобно учебно заведение в Източна Европа. На 25 април 1808 година осем чешки аристократи-меломани подписват декларация за учредяването, като се задължавали да издържат консерваторията през първите шест години. Занятията започнали на 24 април 1811 година. Тригодишното забавяне било заради Наполеоновите войни. Първоначално обучението било само за инструменталисти, през 1817 година бил открит и вокален клас. През 1890 година към Пражката консерватория се присъдинила и прочутата Пражка школа на органистите.
Сред прочутите ученици на консерваторията са Йозеф Сук, Вацлав Нойман, Рафаел Кубелик, Витеслав Новак...
Дългогодишен преподавател и ръководител в периода 1901-1904 година е бил Антонин Дворжак. В края на 90-те години на ХІХ век при Дворжак се е учил и българският композитор Добри Христов.