Началото на Виенската филхармония може да се проследи от 1842 година, когато композиторът и диригент Ото Николай формира Филхармонична академия - независим оркестър, който вземал всички свои решения с демократичен вот на своите членове. Тези принципи в оркестъра се поддържат и днес. Домът на Виенската филхармония е Музикферайн. Членовете са избирани от оркестъра на Виенската държавна опера. Това е дълъг процес, при който всеки музикант трябва да докаже своята способност в поне три години свирене в оперни и балетни спектакли.
С оттеглянето на Ото Николай през 1847 оркестърът почти се разпада до 1860 година, когато Карл Екерт възстановява дейността. Той дава няколко серии от по четири абонаментни концерта и оттогава оркестърът е неизменно номер едно.