Potrivit cotidianului german Frankfurter Allgemeine Zeitung, care a primit acces la arhivele privindu-i pe foştii nazişti „reşapaţi” de BND, unii dintre agenţii reactivaţi după război au fost implicaţi în masacre în Polonia şi Rusia, în timp ce alţii au fost torţionari ai Gestapo-ului, poliţia secretă a regimului naţional-socialist.
Prima problemă cu privire la foştii acoliţi ai lui Hitler transformaţi în ofiţeri de informaţii ai Germaniei federale a apărut în 1961, când, potrivit FAZ, BND a detectat că doi dintre aceştia spionau pentru URSS. Aparent, cei doi – Heinz Felfe şi Johannes Clemens – fuseseră şantajaţi de KGB cu deconspirarea trecutului nazist, pentru că, imediat, directorul BND, Reinhard Gehlen, a ordonat verificarea tuturor celor 2.450 de angajaţi pentru a-i elimina pe foştii nazişti.
Gehlen însuşi era un fost ofiţer de informaţii în cadrul Wehrmacht-ului nazist. După înfrângerea naziştilor, legendarul întemeietor al BND fusese arestat de contraspionajul militar american. Gehlen şi-a recăptătat însă libertatea oferind armatei SUA şi Oficiului pentru Servicii Strategice (OSS, precursorul CIA) informaţiile adunate de spionajul nazist cu privire la URSS. Un element important care i-a convins pe americani de utilitatea sa în noul război rece cu URSS a fost o listă cu ofiţerii OSS care erau membri secreţi ai Partidului Comunist american sau agenţi ai Moscovei. Ulterior, SUA i-au permis lui Gehlen să revină în RFG şi să formeze o reţea de spionare a Estului comunist, reţea care a inclus foşti criminali nazişti şi care a constituit nucleul de formare a BND în 1956.
„Întotdeauna a fost clar că BND are un trecut întunecat”, a declarat, pentru cotidianul britanic The Times, Hansjoerg Geiger, care a condus serviciul în perioada 1996-1998. „Dar nu am presupus niciodată că proporţiile sunt aşa de mari”, a continuat el, adăugând că „numai transparenţa în legătură cu trecutul va stabili clar că BND din prezent nu are nimic în comun cu cel din primii ani de activitate”.