Le riche industriel Phillip Colbert arrive par le train à Sparta, dans le Mississippi, où il doit construire une usine. Tard dans la nuit, le policier Sam Wood découvre le corps assassiné de Colbert gisant dans la rue. Wood trouve Virgil Tibbs, un homme noir avec un gros portefeuille, à la gare et l'arrête. Le chef de la police, Bill Gillespie, l'accuse de meurtre et de vol, mais apprend bientôt que Tibbs est l'un des meilleurs détectives d'homicide de Philadelphie, en Pennsylvanie. Tibbs veut quitter la ville par le prochain train, mais son patron lui suggère de rester à Sparte pour aider à l'enquête sur le meurtre. Bien que Gillespie, comme de nombreux résidents blancs de Sparte, soit raciste, lui et Tibbs acceptent à contrecœur de travailler ensemble.
Un médecin estime que Colbert était mort depuis moins d'une heure lorsque son corps a été retrouvé. Tibbs examine le corps et conclut que le meurtre s'est produit plus tôt que ne le pensait le médecin, que le tueur était droitier et que la victime avait été tuée ailleurs et déplacée là où Wood a retrouvé son corps.
Gillespie arrête un autre suspect, Harvey Oberst, qui clame son innocence. La police prévoit de le battre pour lui arracher des aveux, mais Tibbs révèle qu'Oberst est gaucher et a des témoins pour confirmer son alibi. Frustrée par l'incompétence de la police locale mais impressionnée par Tibbs, la veuve de Colbert menace d'arrêter la construction de l'usine à moins que Tibbs ne mène l'enquête, de sorte que les principaux citoyens de la ville sont contraints de se conformer à sa demande.
Tibbs soupçonne initialement que le meurtrier est le propriétaire de la plantation Endicott, un raciste distingué et l'un des citoyens les plus puissants de la ville, qui s'est publiquement opposé à la nouvelle usine de Colbert. Lorsque Tibbs l'interroge, Endicott le gifle. Tibbs le gifle en retour, alors Endicott envoie une bande de voyous après lui. Gillespie le sauve et lui dit de quitter la ville pour se sauver, mais Tibbs est convaincu qu'il peut résoudre l'affaire.
Tibbs demande à Wood de retracer l'itinéraire de sa voiture de patrouille pendant la nuit du meurtre; Gillespie les rejoint. Après avoir demandé pourquoi Wood dévie partiellement de son itinéraire de patrouille, Tibbs découvre que Wood aime passer devant la maison de Delores Purdy, 16 ans, avec ses lumières vives et ses fenêtres dégagées, pour la regarder se déshabiller. Gillespie découvre que Wood a fait un dépôt important sur son compte bancaire le lendemain du meurtre. Il arrête Wood, malgré les protestations de Tibbs selon lesquelles il n'est pas le meurtrier. Tibbs dit à Gillespie que le meurtre a été commis sur le site de l'usine prévue, qui efface Wood parce qu'il n'aurait pas pu ramener sa voiture et celle de Colbert en ville. De plus, pendant son interrogatoire, Wood fournit un récit crédible de la provenance de l'argent de son important dépôt.
Le frère de Delores, M. Purdy, un local hostile, l'amène au poste de police et dépose des accusations de viol statutaires contre Wood pour l'avoir mise enceinte. Lorsque Tibbs insiste pour être présent lors de l'interrogatoire de Delores, Purdy est offensée qu'un homme noir soit présent lors de son interrogatoire et rassemble peu de temps après une foule pour attaquer Tibbs.
Tibbs fait pression sur l'avorteuse illégale Mama Caleba pour qu'elle révèle qu'elle est sur le point d'avorter Delores. Quand elle arrive et voit Tibbs, Delores s'enfuit. Tibbs la suit et confronte son petit ami armé, Ralph, cuisinier dans un restaurant local en bordure de route. La foule de Purdy arrive également et tient Tibbs sous la menace d'une arme.
Tibbs dit à Purdy de vérifier le sac à main de Delores pour l'argent que Ralph lui a donné pour un avortement, qu'il a obtenu en tuant et en volant Colbert. Purdy se rend compte que Tibbs a raison lorsqu'il examine le sac à main. Après que Purdy l'ait confronté pour avoir mis sa sœur enceinte, Ralph abat Purdy. Tibbs attrape l'arme de Ralph alors que Gillespie arrive sur les lieux. Ralph est arrêté et avoue le meurtre de Colbert. Après avoir fait de l'auto-stop avec Colbert et lui avoir demandé un emploi, Ralph l'a attaqué sur le chantier de construction de la nouvelle usine, dans l'intention seulement d'assommer Colbert et de le voler, mais à la place de le tuer accidentellement.
Tibbs arrive à la gare pour rencontrer son train pour aller à Philadelphie, alors que Gillespie, ayant porté sa valise, serre la main de Tibbs et lui fait ses adieux. Dans la dernière interaction entre Gillespie et Tibbs, alors que le détective monte les escaliers du train, Gillespie l'appelle une dernière fois et dit sincèrement à Tibbs de «prendre soin de toi». Ensuite, après un moment d'hésitation, Tibbs se retourne pour faire face à Gillespie et offre à Gillespie un sourire chaleureux en réponse. Gillespie sourit alors à Tibbs alors que Tibbs monte dans le train et que le train s'éloigne de la gare finalement à destination de Philadelphie.
Quand on lui propose le personnage du policier Virgil Tibbs, Sidney Poitier, 39 ans, a joué dans vingt-cinq films et remporté l’Oscar, trois ans plus tôt, pour Les Lys des champs (Ralph Nelson, 1963) devenant ainsi la première personne de couleur à remporter un Oscar pour un rôle principal et la deuxième personne de couleur à être récompensée après Hattie McDaniel pour la meilleure actrice dans un second rôle pour Autant en emporte le vent. Il doit cependant se contenter de rôles sans aspérités qui rassurent le public et se retrouve de longs mois sans proposition notable.
Avec l’appui du scénariste Stirling Silliphant et de Norman Jewison, Sidney Poitier transforme le héros placide et presque passif du roman de John Ball en un policier noir décidé à ne rien abandonner de sa dignité et de ses convictions face aux préventions du flic qu’incarne Rod Steiger. Lorsqu'il rend sa gifle à un riche planteur blanc, c'est la première fois que l’on voit un Noir frapper en toute impunité un Blanc à l’écran. "Le bruit de cette gifle, dira Jewison, a résonné dans le monde entier". Pourtant, l’exaltation du digne Sidney Poitier, devenu en 1967 la star numéro un au box-office, heurte nombre de ses frères de couleur et provoque un dilemme. Tandis que des émeutes raciales embrasent les États-Unis et que Malcolm X brise le consensus pacifiste de Martin Luther King, l’intégration ne représente plus, de façon certaine, un modèle. Qui plus est le film se perd dans une suite de fausses pistes qui en fait davantage un film de détective qu'un vrai film noir. Le film est nanmoins couronné de cinq Oscars dont ceux du Meilleur film et du Meilleur acteur pour Rod Steiger.
Le film à peine achevé, Stanley Kramer offre à Sidney Poitier avec Devine qui vient dîner..., un rôle qui lui permet de jouer face à Spencer Tracy et à Katharine Hepburn mais conventionnel sur la forme.L'interprétation de Sidney Poitier, de nouveau sans aspérité, va l'éloigner des écran à l’heure du Nouvel Hollywood qui débute.