Het orkest, aanvankelijk ‘Orquestra Sinfônica Estadual’ (Staatssymfonieorkest) genoemd, gaf zijn eerste concert op 18 juli 1953 in het Gemeentelijk Theater van São Paulo, onder leiding van João de Sousa Lima. De Braziliaanse regering heeft de oprichting van het orkest officieel gecodificeerd in een decreet (wet nr. 2733) van 13 september 1954, ondertekend door Lucas Nogueira Garcez. Sousa Lima diende als de eerste belangrijkste dirigent en artistiek leider van het orkest.

Het Sao Paulo Symfonieorkest wisselde periodes van succes en grote moeilijkheidsgraden met elkaar af, inclusief een onderbreking in zijn activiteiten. In 1964 werd de Italiaanse dirigent Bruno Roccela hoofddirigent. In 1972 volgde Eleazar de Carvalho Roccela op en diende hij tot zijn dood in 1996 als hoofddirigent. In 1978 nam het orkest formeel de huidige naam aan van het ‘Orquestra Sinfônica do Estado de São Paulo’ (Sao Paulo Symfonieorkest).

In 2011 kondigde het Sao Paulo Symfonieorkest de benoeming aan van Marin Alsop tot hoofddirigent. Dit maakte haar de eerste vrouwelijke dirigent en ze ontving een eerste contract van vijf jaar. In april 2015 verlengde het Sao Paulo Symfonieorkest haar contract tot het einde van 2019.