En 1971 Soltész comenzó su carrera en el Theatre an der Wien. En las dos décadas siguientes fue director de la Ópera Estatal de Viena, la Ópera Estatal de Hamburgo y luego la Deutsche Oper de Berlín. De 1992 a 1997 fue director de la Ópera Flamenca de Amberes y Gante. En 1997 fue nombrado director artístico y director musical del Aalto Muziektheater de Essen. Bajo su dirección, adquirió gran fama y reconocimiento internacional. Ocupó ese cargo hasta 2013.
Soltész también ha dirigido en muchos de los principales teatros de ópera europeos, incluidos los de Frankfurt, Roma, Budapest, Varsovia, Moscú y París.