En Varsovia, en 1942, una prostituta polaca es asesinada de una manera sádica. El Mayor Grau (Omar Sharif), un agente de la Inteligencia alemana que cree en la justicia, está a cargo de la investigación. Un testigo vio a un general alemán salir del edificio después de un grito de la víctima. Una investigación posterior muestra que tres generales no tienen coartada para esa noche: el General Tanz (Peter O'Toole), el General de División Klaus Kahlenberge (Donald Pleasence) y el General von Seidlitz-Gabler (Charles Gray). Los tres evitan el contacto directo con el mayor Grau y se convierten en sospechosos potenciales. A medida que el mayor Grau se acerca a ellos, es ascendido y enviado a París. En París de 1944, este cuarteto se reúne, y el mayor Grau continúa su investigación. Mientras tanto, un plan para matar a Adolf Hitler es tramado por su alto mando, un romance entre Ulrike von Seidlitz-Gabler (Joanna Pettet) y el cabo Kurt Hartmann (Sir Tom Courtenay) está sucediendo y el Inspector Morand (Philippe Noiret) está ayudando al Mayor Grau en su investigación. La historia termina en 1965, en Hamburgo, con otro crimen similar.