胡佛在联邦调查局里物色了一位与杜鲁门相熟的人作为他与白宫联系的联络官，此人是杜鲁门的密苏里州同乡、幼时玩伴的儿子马里恩·齐恩斯，齐恩斯小的时候曾见过杜鲁门。这一次，尽管齐恩斯本人并不愿意担当这种角色，但他要在联邦调查局里继续供职，就不能不听取局长大人的吩咐。于是，他到白宫拜访父亲的好友时，代表胡佛局长向新任总统表示了忠心：“胡佛先生希望让您知道，他和联邦调查局完全听从您的支配，随时听从您的召唤。”

新近才掌握大权的杜鲁门这时还没有领略到联邦调查局在对付政敌中的巨大作用，于是冷冷地顶了回去：“如果我真的需要联邦调查局做什么的话，我自会通过司法部长提出要求的。”

对联邦调查局的认识发生了改变

杜鲁门逐步熟悉了当总统的各种不足为外人道的诀窍后，对联邦调查局的能量有了新的认识。在担任总统之后不久，他就了解到罗斯福在世时通过胡佛进行电话窃听，从而掌握政敌活动情报的内幕。这时，他看到了从罗斯福阵营中游离出来的投机政客汤姆·科科伦的电话窃听材料，当时他脱口而出：“这是干什么嘛！不要再这样搞了。告诉胡佛，我可没有时间看这些东西。”不过，当他耐心看完这份材料后，这个外表朴实、内心敏锐的杜鲁门，对联邦调查局的认识发生了改变。

由于是从副总统之职填补空缺而担任的总统，杜鲁门的权力基础并不牢固，因此他通过联邦调查局对政敌和反对者进行秘密调查的动因更加迫切。于是，联邦调查局不仅安全度过了来自总统的信任危机，而且日益得到杜鲁门的器重。

除了电话窃听之外，联邦调查局还向杜鲁门送去大量的政治情报，比如说哪家报纸准备对有关政策提出批评，哪些官员涉嫌政治和生活丑闻等等。不过，令胡佛颇为不快的是，杜鲁门一直避免与这位联邦调查局局长发生直接联系，而是通过司法部长来进行，这与罗斯福时代胡佛甚至可以左右他名义上的上司司法部长的人选形成了极大的反差。

中央情报局横空出世

杜鲁门上台后，发现情报机构杂乱无章，自己所得到的情报互相矛盾，经过与军方协商，准备建立一个能使陆海军都能接受又不超出总统控制的情报机构计划，即建立一个使所有与国家安全有关的部门均占有一席之地的中央情报机构。经过各方的激烈争吵，直到1946年1月，才基本上达成了妥协意见。第二年，国会通过了《国家安全法》，设立国家安全委员会，同时也建立了中央情报局。与联邦调查局系内阁下设的一个专业局不同，中央情报局是总统直属机构，它既不归军方领导，也不属于国务院，而是对由总统、副总统、国务卿、国防部长、财政部长、国防动员署署长等人组成的国家安全委员会负责。

中央情报局成立后，联邦调查局仅负责反情报和国内安全工作，而国外情报则全部由中央情报局负责。中央情报局不像后者那样拥有发出传票和实施逮捕的权力，但它作为一支类似于黑章鱼的“秘密力量”，也拥有一些特殊权力。

联邦调查局把美国对外活动的领导大权据为己有的梦想破灭了，甚至大战期间在拉丁美洲取得的地盘，也拱手送给了中央情报局。尽管联邦调查局在伦敦、巴黎、罗马、墨西哥、渥太华等地的联络站仍然保留着，但也仅限于联络作用了。局长胡佛对中央情报局的横空出世非常恼火却又无可奈何，所以在向中央情报局移交海外情报活动档案时，他烧掉了一些重要材料，而且拒绝向中央情报局讲述过去几年发展起来的一些新型情报手段。