Основана је 1952. године, с циљем да се помогне научним радницима и осталим корисницима у току истраживања архивске грађе и архивистима у њиховом стручном усавршавању на заштити, сређивању, обради архивске грађе и пружању информација корисницима.
Библиотечка грађа се набавља путем куповине, размене, поклона, а највише преузимањeм библиотечког материјала са архивском грађом. Закључно са 2020. годином библиотека располаже са oко 27.500 књига и 11.200 периодике и 1.686 некњижне грађе (географске карте, плакати, леци)..
Претражите податке о штампаној и другој неконвенционалној библиотечко-архивској грађи, (књиге, брошуре, музикалије, серијске публикације, чланци, географске карте, архитектонски пројекти, плакати, леци, разгледнице, позивнице, проспекти, фотографијије и сл.), која се налази у оквиру архивских фонова и збирки Архива Југославије.
Централни узајамни каталог COBISS.SR установљен је 2003. године, а библиотека Архива Југославије је његов члан од 2008. године.
У протеклом периоду, у библиотеци Архива обрађено је и Централном каталогу придружено 46054 јединица.