Dès son arrivée, Hoover impose des règles au FOI et réorganise toute la structure. Il bâtit en fait le 1er empire de l'information, officielle, officieuse, transversale et personnelle, tout y passe.
Rapidement, le FBI prouve sa nouvelle efficacité, les arrestations se multiplient, celle de John Dillinger en 1934 fait grand bruit.

Hoover et Melvin Privus en 1934
Hoover devient une star, le rôle des G-men est de faire la une des journaux tous les jours et le FBI doit être identifié à son chef.
La presse ne le critique pas, il lui fournit sans cesse du sensationnel. Hoover transforme un bureau d'enquête de seconde importance en un service de police exemplaire. En 1935, le FBI est né et sa réputation ne met pas longtemps à le précéder.
En parallèle, il développe les surveillances rapprochées de personnalités politiques entre autre. À l'approche de la 2nd Guerre Mondiale, il accumule les informations et obtient l'approbation de l’État pour des méthodes qui peuvent porter atteinte à la vie privée dans la mesure où la sécurité nationale est en jeu.

Hoover dans son bureau du FBI
Hoover a une définition très personnelle de la notion de sécurité nationale et on l'accuse d'avoir abusé des moyens mis à sa disposition à des fins personnelles.
Il déploie une machine de surveillance colossale. Écoutes, infractions, enregistrements, les protocoles illégaux sont nombreux, les agents du milieu les appellent les opérations sac noir.