Die Code and Signal Section wurde am 1. Juli 1922 formell als Op-20-G in die Division of Naval Communications (DNC) eingegliedert. Im Januar 1924 wurde ein 34-jähriger Leutnant der U.S. Navy namens Laurance F. Safford damit beauftragt, den Aufgabenbereich von OP-20-G auf das Abhören von Funkverkehr zu erweitern. Er arbeitete in Raum 2646 im obersten Stockwerk des Navy Department-Gebäudes in Washington, D.C.
Japan war natürlich ein Hauptziel für Funküberwachung und Kryptoanalyse, aber es gab das Problem, Personal zu finden, das Japanisch sprechen konnte. Die Marine verfügte über eine Reihe von Offizieren, die in diplomatischer Funktion in Japan gedient hatten und fließend Japanisch sprachen, aber es fehlte an Funktelegrafisten, die die in Kana gesendeten japanischen Wabun-Code-Nachrichten lesen konnten. Glücklicherweise hatten einige Funktelegrafisten der US-Marine und der Marine, die im Pazifik operierten, 1923 eine informelle Gruppe gebildet, um Notizen über japanische Kana-Übertragungen zu vergleichen. Vier dieser Männer wurden zu Ausbildern in der Kunst des Lesens von Kana-Übertragungen, als die Navy 1928 begann, Kurse zu diesem Thema abzuhalten.
Die Kurse wurden von der Besatzung des Raums 2426 abgehalten, und die Funktelegrafisten wurden als die „On-The-Roof Gang“ bekannt. Im Juni 1940 umfasste OP-20-G 147 Offiziere, Soldaten und Zivilisten, die in ein Netz von Funkabhörstationen eingebunden waren, das genauso weit verstreut war wie das der Armee.
OP-20-G arbeitete auch an japanischen diplomatischen Codes, aber das Hauptaugenmerk der Organisation lag auf den japanischen Militärcodes. Die US-Marine bekam die japanischen Marinecodes erstmals 1922 in den Griff, als Navy-Agenten in das japanische Konsulat in New York City einbrachen, den Tresor knackten, die Seiten eines japanischen Marine-Codebuchs fotografierten und wieder gingen, nachdem sie alles so zurückgelegt hatten, wie sie es vorgefunden hatten.
Vor dem Krieg operierte das Navy Cipher Bureau von drei Hauptstützpunkten aus:
- Station NEGAT im Hauptquartier in Washington, D.C.
- Station HYPO (oder FRUPAC), eine Abteilung in Pearl Harbor auf Hawaii
- Station CAST, eine Abteilung in den befestigten Höhlen der Insel Corregidor auf den Philippinen, mit Codebrechern und einem Netz von Abhör- und Funkpeilstationen.
- FRUMEL wurde in Melbourne eingerichtet, als das Personal des Marine-Nachrichtendienstes von den Philippinen nach Australien evakuiert wurde. Das evakuierte Heeres-Nachrichtendienstpersonal ging zum Central Bureau.
Der US Army Signal Intelligence Service (SIS) und OP-20-G wurden durch Bürokratie und Rivalität behindert und konkurrierten miteinander, um ihre nachrichtendienstlichen Daten mit dem Codenamen „MAGIC“ an hohe Beamte zu liefern. Erschwerend kam hinzu, dass auch die Küstenwache, das FBI und sogar die FCC Funkabhöraktionen durchführten.
Die Organisation der Navy in OP-20-G war konventioneller hierarchisch als die der Army in Arlington Hall, die sich eher an Verdiensten als an Rängen orientierte (wie in Bletchley Park), auch wenn Aufträge an „Zivilisten in Uniform“ mit altersabhängigen Rängen vergeben wurden (Fähnrich bis 28 Jahre, Leutnant bis 35 Jahre oder Oberleutnant, wenn über 35 Jahre). Die Kontrolle erfolgte jedoch durch „reguläre Militärs“. Die Marine wollte, dass die Armee Zivilisten verbietet, die Chiffriermaschine SIGABA anzufassen, obwohl sie von einem Zivilisten (William Friedman) entwickelt worden war. Ein Besucher der Royal Navy und Abhörspezialist, Commander Sandwith, berichtete 1942 über „die Abneigung gegen Juden, die in der US Navy vorherrscht, (während) fast alle führenden Kryptographen der Army Juden sind“.
So einigten sich SIS und OP-20-G 1940 auf Richtlinien für die Handhabung von MAGIC; die Army war an geraden Tagen zuständig und die Navy an ungeraden Tagen. In der ersten Minute nach Mitternacht am 6. Dezember 1941 übernahm die Navy die Leitung. Aber USN Lt-Comdr Alwin Kramer hatte keinen Ablöseoffizier (anders als die Army mit Dusenbury und Bratton) und wurde in dieser Nacht von seiner Frau herumgefahren. Er war auch für die Verteilung von MAGIC-Informationen an den Präsidenten zuständig; im Januar 1941 vereinbarte die Army, dass sie das Weiße Haus im Januar, März, Mai, Juli, September und November und die Navy im Februar, April, Juni, August, Oktober und Dezember beliefern würde. Doch im Mai 1941 wurden MAGIC-Dokumente im Schreibtisch von Roosevelts militärischem Berater Edwin „Pa“ Watson gefunden, und die Navy übernahm die Lieferung, während die Army stattdessen das Außenministerium mit MAGIC versorgte.
Das Ergebnis war, dass ein Großteil der MAGIC verzögert oder gar nicht genutzt wurde. Es gab kein effizientes Verfahren zur Bewertung und Organisation der Informationen, wie es nach dem Krieg von einem einzigen Nachrichtendienst bereitgestellt wurde.