Nacido en Karlsruhe en 1952, destacó muy pronto como uno de los principales talentos de su generación. Alumno de Klaus Huber y Karlheinz Stockhausen, cosechó en 1974, con poco más de veinte años, su primera afirmación internacional con la pieza Morphonie-Sektor, estrenada en el Festival de Donaueschingen.
En un ambiente todavía dominado por el estructuralismo como era la vanguardia europea de los setenta, Rihm no tardó en desarrollar un estilo caracterizado por unos rasgos más emocionales, conectados con la experiencia mahleriana y expresionista. Esta estética, enmarcada en la órbita del movimiento de la Nueva Simplicidad (cuyo llamamiento a una expresión más subjetiva y directa generó en sus comienzos cierta controversia en los sectores más ortodoxos de la nueva creación), encontró pronto en la voz uno de sus canales privilegiados tanto en el dominio operístico –Jakob Lenz (1979), Die Hamletmaschine (1987), Die Eroberung von Mexico (1992)…– como en la música vocal (con orquesta o piano) así como para coro.
Compositor extremadamente prolífico (su catálogo incluye más de 500 obras), Rihm escribió para todas las plantillas. En el apartado instrumental destacan los ciclos Jagden und Formen y Chiffre, numerosos conciertos con instrumento solista (Anne-Sophie Mutter estrenó su concierto para violín Lichtes Spiel), 13 cuartetos de cuerda y piezas para instrumento solista.
Fue compositor residente de los Festivales de Lucerna y Salzburgo. Entre sus muchos alumnos destacan Rebecca Saunders y Jörg Widmann. Numerosos fueron los premios y los reconocimientos internacionales que recibió, entre los que destacan el Premio Ernst von Siemens (2003) y el León de Oro de la Bienal de Venecia (2010).