De oprichting in 1842 onder de naam ‘Philharmonic Symphony Society’ maakt van het New York Filharmonisch een van de oudste orkesten van de wereld, en het oudste van de Verenigde Staten. In 1928 fuseerde de ‘Philharmonic Symphony Society’ met haar grootste concurrent, het ‘New York Symphony Orchestra’, tot het ‘Philharmonic-Symphony Orchestra of New York’. Dit orkest kreeg later de naam New York Filharmonisch. Het orkest speelde in 2004 het veertienduizendste concert, een respectabel record.
Toen het orkest maar net vier jaar oud was zocht het geld voor een nieuwe concerthal. De Amerikaanse primaire van Beethoven’s Symfonie nummer 9 te Castle Garden was het hoogtepunt van de concerten gegeven om de concerthal te verwezenlijken. Opvallend was dat in de eerste zeven jaar de leiding van het orkest ook zeven maal veranderde. In 1909, om de financiële stabiliteit van het Filharmonisch Orkest te verzekeren, vormde een groep rijke New Yorkers onder leiding van twee vrouwen, Mary Seney Sheldon en Minnie Untermyer, het ‘Guarantors Committee’. Hiermee veranderde zij de organisatie van het orkest van een op musici gebaseerde coöperatie in een bedrijfsmanagementstructuur. De Borgstellers waren verantwoordelijk voor het brengen van Gustav Mahler als hoofddirigent en het uitbreiden van het seizoen van 18 naar 54 concerten. De uitbreiding van concerten behelsde ook een tournee door New England.
Leonard Bernstein, die zijn historische, niet-gerepeteerde en spectaculair succesvolle debuut met het orkest in 1943 had gemaakt, begeleidde het begin van het grootste opdrachtenproject van het orkest. Dit resulteerde in de creatie van 109 nieuwe muziekstukken. In 1971 nam de eerste fransman, Pierre Boulez, de leiding. Onder zijn leiding in 1976 opende de televisieserie “Live From Lincoln Center”. Een met een Emmy Award bekroond programma, dat tot op de dag van vandaag loopt. In 2002 verkreeg Lorin Maazel de leiding, 60 jaar na zijn debuut bij het orkest (toen hij slehts 12 jaar oud was). In zijn eerste week gaf hij leiding aan de wereld première van John Adams ‘On the Transmigration of Souls’, ter nagedachtenis aan de slachtoffers van de aanslag op het WTC in 2001.
Op 5 mei 2010 speelde het New York Filharmonisch haar vijftienduizendste concert. Een mijlpaal waar geen ander orkest in de wereld aan kan tippen.
Het orkest speelde in 2008 in Pyongyang op uitnodiging van de Noord-Koreaanse regering. Het evenement was het eerste belangrijke culturele bezoek aan het land vanuit de Verenigde Staten, sinds het einde van de Koreaanse oorlog. Het concert werd gehouden in East Pyongyang Grand Theatre.