Criada em 1936 por iniciativa de Bronislaw Huberman, violinista polonês, a orquestra fez seu primeiro concerto na região, em 26 de dezembro daquele mesmo ano, sob o nome de "Orquestra Filarmônica da Palestina".

A apresentação teve a regência do célebre maestro Arturo Toscanini, tendo por solista o próprio Huberman.

Setenta anos depois, em dezembro de 2006, a Orquestra Filarmônica de Israel - OFI (nome que passou a usar logo após a independência, em 1948) - faria uma série de concertos celebrando sua fundação e encantando o público presente ao Auditório Mann, em Tel Aviv, um dos mais importantes de Israel. Intérpretes internacionais e músicos de diferentes gerações, vindos de várias partes, uniram-se para render homenagem a essa que é considerada, hoje, uma das grandes orquestras do mundo.

Realizando atualmente cerca de 150 concertos anuais por assinatura - em Tel Aviv, Jerusalém, Haifa e outras cidades do país, com cerca de 30.000 assinantes - a orquestra possui variado repertório, com grande espaço para a música alemã, exceção feita às composições de Richard Strauss e Wagner. Celeiro de grandes artistas que, posteriormente, seguiram carreira-solo ou em outros conjuntos de renome, a OFI é, por excelência, uma das grandes embaixadoras do país. Muito contribui para isso, entre outros, a reputação de seu Diretor Artístico Vitalício, o maestro Zubin Mehta, de origem indiana, que não se cansa de repetir: "Nossa orquestra é a voz, a bandeira de Israel entre as nações".

A idéia de criar uma orquestra nacional revela o ideal sionista de desenvolver uma cultura realmente própria em Eretz Israel. Em 1936, com a escalada do anti-semitismo na Europa, Huberman obteve, junto às autoridades britânicas, ainda que com muita dificuldade, visto para os músicos. Conseguiu, assim, salvar grandes artistas judeus. Se conseguir a documentação foi tarefa difícil, mais difícil ainda foi convencer os músicos a se integrarem ao projeto, na então estéril Palestina. Huberman precisou de quase três anos para convencer alguns dos melhores instrumentistas de orquestras alemãs e do leste europeu, expulsos das instituições por causa da ascensão do nazismo, a emigrar para Eretz Israel.

Com sua fundação em 1936, já em janeiro de 1937 o grupo fazia sua primeira turnê no exterior, apresentando-se no Cairo e em Alexandria (no Egito). Em 1948, com o nome de Orquestra Filarmônica de Israel, começa a conquistar seu lugar no cenário internacional, procurando sempre atrair e estimular o talento de artistas nascidos em Israel e dos recém-chegados. Nela atuaram artistas de renome como Leonard Bernstein, Arthur Rubinstein, Isaac Stern, Itzhak Perlman, Daniel Barenboim, Pinchas Zuckerman, Dimitris Mitropoulos, Serge Koussevitzky, Eugène Ormandy, Charles Munch, Georg Solti, Lorin Maazel, Claudio Abbado, Klaus Tennstedt, Christoph von Dohnányi e Kurt Masur, que em 1992 foi agraciado com o título de "Regente Convidado Honorário" da OFI.

A Filarmônica de Israel tem desempenhado papel singular na história do país, acompanhando pari passu momentos marcantes da trajetória nacional. Quando Beersheva foi libertada, em outubro de 1948, o conjunto tocou, sob a regência de um então jovem Leonard Bernstein, no deserto de Neguev, em plena frente de batalha. Ainda sob a batuta de Bernstein, interpretou a "Sinfonia da Ressurreição", de Mahler, no Monte Scopus, comemorando a libertação de Jerusalém, em 1967. Em 1970 apresentou-se na Alemanha, marcando o início de uma nova era nas relações diplomáticas e no intercâmbio cultural entre os dois países.

Na década seguinte, dirigida por Zubin Mehta, a Orquestra visitou o campo de concentração de Auschwitz, em uma turnê que a levou à Polônia, Rússia, Letônia e Hungria; e em meados dos anos 1990, sob a direção do maestro, apresentou-se na China e na Índia, marcando o início do diálogo entre Israel e o Extremo Oriente.

A educação e a formação de jovens talentos também fazem parte dos objetivos da Filarmônica de Israel, para os quais procura abrir novas perspectivas profissionais. Para isso, mantém um programa de bolsas de estudo, apóia a Filarmônica Jovem de Israel, a série Concertos de Jovens Artistas e suas séries regulares de Concertos para Crianças e Jovens.