Fráncfort del Meno, Alemania Occidental, 1958: tras los trágicos acontecimientos de la Segunda Guerra Mundial, nadie quiere recordar el periodo nazi.

Johann Radmann es un joven fiscal de la recién fundada República Federal de Alemania que suele encargarse de resolver casos de delitos de tráfico. Un día, el joven fiscal se encuentra con unos documentos aportados por el periodista Thomas Gnielka que más tarde servirán para iniciar el caso contra el profesor Schulz, que sirvió en Auschwitz y sigue dando clases en un instituto de la ciudad, a pesar de que las disposiciones legales prohíben la presencia de oficiales de las SS en la administración del Estado.

El caso despierta un gran interés y Radmann, con el apoyo del fiscal general Fritz Bauer, decide ampliar la búsqueda investigando a todas las personas que sirvieron en las SS y cometieron crímenes de guerra.

Durante una fiesta organizada por Gnielka, Radmann tiene la oportunidad de conocer a varias personas que influirán en su vida. Conoce a Marlene Wondrak, una antigua acusada en un juicio que había celebrado tiempo atrás, de la que se enamora, y a Simon Kirsch, un superviviente judío, que ha guardado en una maleta documentos confidenciales con los nombres de algunos hombres de las SS que sirvieron en Auschwitz. Radmann y Gnielka entran en posesión de estos documentos sin que Simon Kirsch lo sepa.

Para dar a los antiguos militares alemanes su justo castigo, el joven abogado comienza a interrogar a los judíos supervivientes. Uno de ellos es el propio Simon Kirsch que, con dudas, habla del médico de las SS Josef Mengele, también conocido como "Doctor Muerte", que sirvió en Auschwitz y que había convertido a las hijas pequeñas de Simon en cobayas para sus experimentos.

Al enterarse de los hechos, Radmann y Gnielka comenzaron a perseguirlo. Durante la búsqueda, Radmann y Gnielka consiguen que se detenga a algunos de los antiguos oficiales de las SS, como Fritzsch, ayudante de campo de Rudolf Höß, primer comandante del campo de concentración de Auschwitz, y Robert Mulka, su ayudante.

A medida que la investigación avanza con dificultad, Radmann se entera por su madre de que su padre también fue un oficial del partido nazi. A esto se suma la noticia de que Simon Kirsch está en el hospital y, junto con Gnielka, le hace una visita. Simon, que se encuentra mal de salud, pide a los dos amigos que vayan a Auschwitz en su lugar y reciten el Kaddish por sus hijas muertas, pero Radmann se niega para poder concentrarse en su trabajo.

Al salir del hospital, Radmann escucha una confesión de Gnielka, que había sido soldado nazi en Auschwitz cuando era joven; entonces discute con él. Todas estas revelaciones provocan una fuerte crisis de conciencia en el joven fiscal, que le lleva, primero, a romper su compromiso con Marlene y, después, a presentar su dimisión del trabajo que había emprendido con gran empeño pero que ahora le parece insostenible por la enorme y generalizada responsabilidad que gran parte del pueblo alemán parece ocultar. Tras una breve estancia en el despacho de un famoso abogado de Fráncfort, pronto se da cuenta de que no puede abandonar la investigación y acude al fiscal general Fritz Bauer para retirar su renuncia. Reanuda la investigación de nuevo y decide recitar el Kaddish por las hijas de Simon, consiguiendo aclarar las cosas con Gnielka frente al campo de concentración.

De vuelta a Fráncfort, el Juicio de Fráncfort (o Segundo Juicio de Auschwitz) comenzó en 1963 y duró hasta 1965.