À Los Angeles en 1948, Julius « Jake » Berman engage le détective privé J. J. « Jake » Gittes pour prendre sa femme, Kitty, en flagrant délit d’adultère. Au cours de l’opération, Berman tue son rival en amour, Mark Bodine, qui se trouve être son associé dans une société de développement immobilier. Gittes, qui n’était pas au courant, se retrouve soudain sous le feu des projecteurs pour son rôle dans ce crime possible, qui tourne autour d’un enregistrement qui a filmé la rencontre amoureuse illicite, la confrontation et le meurtre de Bodine. On se demande si Berman savait et a tué son partenaire pour prendre le contrôle du partenariat, ce qui en fait un meurtre, ou si c’était un acte de jalousie, ce qui peut être qualifié de « folie passagère » et être autorisé comme défense à une accusation de meurtre.
Gittes doit convaincre le capitaine Escobar de la police de Los Angeles qu’il ne devrait pas être accusé de complicité. Curieusement, Berman ne semble pas préoccupé par la possibilité qu’il soit accusé de meurtre. Gittes fait enfermer l’enregistrement, que l’avocat de Berman, Cotton Weinberger, et son ami Mickey Nice, veulent tous deux, dans un coffre-fort de son bureau à L.A., qui est secoué par des tremblements de terre. Le lotissement de Berman dans la vallée subit également des secousses sismiques. Gittes est presque tué dans une explosion de gaz, se réveillant pour trouver Berman et sa femme, Kitty, debout au-dessus de lui.
Gittes a une confrontation, et plus tard une rencontre sexuelle, avec Lilian Bodine, la veuve en colère du mort. On lui présente la preuve qu’Earl Rawley, un riche et impitoyable homme du pétrole, pourrait forer sous le développement de Bodine et Berman, bien que Rawley l’ait nié. Il est donc nécessaire de déterminer qui détient les droits miniers sur le terrain. Gittes découvre que ces droits appartiennent à une certaine Katherine Mulwray, fille d’Evelyn Mulwray, son amoureuse d’il y a onze ans. Il découvre également que les transferts de titres de propriété ont été exécutés de manière à tenter de dissimuler la propriété antérieure de Katherine Mulwray et sa revendication continue des droits miniers. En outre, il découvre également que Noah Cross était déjà mort et que Katherine lui avait échappé.
Les agents de Gittes ont vu Berman en compagnie d’une femme blonde avec Mickey, et un garde du corps. Avec un peu d’enquête, Gittes détermine que la femme est un oncologue et traite Berman pour un cancer quelque part sous la taille. Gittes confronte Berman avec cette information et obtient des aveux complets. En cours de route, Gittes découvre que Berman ne va pas survivre et que tout le montage visait à s’assurer que Kitty serait protégée une fois qu’il serait mort.
Pour amener Kitty à lui parler, Gittes doit prouver que Berman a entrepris de tuer son partenaire. Une fois cela accompli, Kitty accepte de rencontrer Gittes et de lui dire ce qu’elle sait de Berman. En discutant des motivations possibles de Berman, de ses droits miniers et de l’endroit où pourrait se trouver Katherine, Kitty et Katherine se révèlent être la même personne. Kitty n’avait jamais soupçonné que son mari était mourant.
Afin de prouver la préméditation, la passion, et peut-être même les liens avec une femme disparue depuis longtemps, apparemment tout le monde veut l’enregistrement, que Gittes refuse de donner jusqu’au jour de l’enquête. D’une manière ou d’une autre, Gittes édite l’enregistrement, laissant le nom de Katherine coupé du dialogue, de la fusillade et des conséquences du meurtre de Bodine. Cela fait de l’enquête une réunion courte et satisfaisante, où le juge n’a aucune raison de soupçonner un meurtre, et où Berman est désormais libre de toute accusation criminelle. Confronté à la connaissance que Gittes a de sa maladie en phase terminale, Berman, sachant que la maison témoin dans laquelle il se trouve est remplie de gaz naturel, convainc Gittes et Mickey de le laisser seul dans la maison pour qu’il puisse « fumer une cigarette ». Il ne veut pas qu’une autopsie interfère avec l’héritage de Kitty. Alors qu’ils partent, la maison explose.
L’histoire se termine avec Kitty et Gittes dans son bureau. Ils parlent de regrets, et Kitty embrasse Gittes, qui rejette ses avances en disant « C’est ton problème, petit. Tu ne sais pas de qui tu te moques. » Elle part en lui disant de « penser à moi de temps en temps ». Gittes lui dit : « Ça ne s’en va jamais. »