Arthur Ferguson Jones, doux et gentil, et Wilhelmina Clark, effrontée, travaillent dans la même agence de publicité. Il est secrètement amoureux d'elle alors qu'elle ne sait presque pas qu'il existe.
Jones ressemble exactement au célèbre braqueur de banque "Killer" Mannion (pour lequel une récompense de 25 000 dollars a été offerte) au point qu'il est appréhendé par la police. Une fois sa véritable identité confirmée, le procureur donne à Jones un "passeport", une lettre l'identifiant comme n'étant pas Mannion, afin qu'il puisse éviter les mêmes ennuis à l'avenir. Jones devient une célébrité locale et, à la demande de son patron, commence à rédiger l'« autobiographie » de Mannion dans le journal, avec la « Miss Clark » (comme il l'appelle), agissant volontairement comme son agent pour s'assurer qu'il soit payé.
Mannion décide de tirer profit de son sosie aux manières douces et, finalement, de laisser Jones "porter le sac" pour ses crimes . Il kidnappe Wilhelmina ainsi que la tante de Jones qui lui rendait visite, et son manager, et les ramène dans sa cachette. Il demande à Jones de faire un gros dépôt au profit de la mère de Mannion à la First National Bank, puis demande à un homme de main d'appeler la police pour leur dire qu'il (Mannion) est sur le point de braquer la banque. Mais le plan de Mannion échoue lorsque Jones oublie d'apporter le chèque et ramène involontairement la police à la cachette de Mannion.
À son arrivée, Jones est pris pour Mannion par les hommes de main qui l'attendent et se rend vite compte qu'il est censé être le bouc émissaire. Lorsque le vrai Mannion revient à l'improviste, son gang pense qu'il est Jones et le tue à la mitraillette. La police arrive à temps pour capturer le reste du gang et libérer les captifs. Mannion étant mort, Jones récupère la récompense et embarque pour une croisière tant désirée à Shanghai avec Wilhelmina.
Avec New York - Miami (Frank Capra, 1934) et Train de Luxe (Howard Hawks, 1934), Toute la ville en parle donne naissance à la comédie screwball, histoire d'amour traitée sur le mode excentrique. La spécificité de ces comédies consiste à renverser le thème classique de la rencontre du garçon et de la fille pour proposer le plus souvent une confrontation entre la femme, plébéienne ou patricienne mais toujours volontaire et excentrique, et l'homme présenté sous les traits de l'anti-héros, subissant le rythme et les décisions imposés par sa partenaire. Ici Jean Arthur (Wilhelmina 'Bill' Clark) domine Edward G. Robinson (Arthur Ferguson 'Jonesy' Jones)... ce qui n'est pas rien puisque l'acteur interprétait Little Caesar (Mervyn LeRoy, 1931)