Nacido en Israel, Eliahu Inbal empezó sus estudios en la Academia de Jerusalén, prosiguiendo luego en París, Hilversum y Siena con Franco Ferrara y Sergiu Celibidache. Ganó a los 26 años el Primer Premio en el Concurso de Dirección Cantelli.
Desde 1974 a 1990, el maestro Inbal fue director titular de la Orquesta Sinfónica de la Radio de Fráncfort, de la que fue nombrado director honorario en 1995. Desde ese mismo año hasta 2001, fue director titular de la Orquesta Sinfónica Nacional de la Rai de Turín, y en 2001 se convirtió en titular de la Orquesta Sinfónica de Berlín tras haberla dirigido desde 1992.
En enero de 2007, Eliahu Inbal fue nombrado nuevamente director de música del Teatro La Fenice de Venecia, tras haber desempeñado dicho cargo desde 1984 a 1987. A partir de abril de 2008 fue director titular de la Orquesta Metropolitana de Tokio, y, desde la temporada 2009/10, director titular de la Filarmónica Checa.
Ha sido galardonado por el gobierno francés como Officier des Arts et des Lettres (1990) y ha recibido la Medalla de Oro de Viena (2002), la Medalla Goethe de Fráncfort, así como la Orden al Mérito de la República Federal de Alemania en 2006.