Asutati 14. apr. 1909. a. Eesti Rahva Muuseumi teadusliku keskraamatukoguna. Ainus teadusraamatukogu Eestis, mis on spetsiaalselt loodud eestikeelse ja eestlastesse puutuva muukeelse kirjanduse kogumiseks, säilitamiseks ja uurijatele kättesaadavaks tegemiseks. Alates 1. novembrist 1940. a. on AR Eesti Kirjandusmuuseumi (EKM) struktuuriüksus. AR koosseisu kuulub alates 1965.a. bibliograafiaosakond (ARBO), mille eelkäijaks oli Eesti Bibliograafia Asutis (asutatud 21. novembril 1921). AR-il on ka oma köite- ja restaureerimistöökoda ning mikrofilmimise labor.
AR-is säilitatakse ca 1 milj. teavikut. ARBO teatmefond (vanema ajakirjanduse 1821–1944 sisu – ca 2,4 milj. ühikut).
Eestikeelsete raamatute kollektsion (vanim väljaanne alates 1632. a.; ca 560000 eksemplari) sisaldab üle 98 % teadaolevatest vanematest (kuni 1917. aastani ilmunud trükistest ning peaaegu kõik alates 1918. aastast ilmunud raamatud ja brošüürid. Arhiivraamatukogu vanema raamatu kollektsion on kõige täielikum maailmas.
Baltica kogu (vanim väljaanne aastast 1543; ca 166000 eksemplari) koondab raamatuid teistes keeltes, mis käsitlevad Eestit või teisi Baltimaid ja soome-ugri rahvaid, samuti
eesti kirjanike teoste tõlkeid teistesse keeltesse. Uus baltica kogu koosneb võõrkeelsetest trükistest, mis on välja antud Eestis alates 1945.a.
Perioodikakogu (vanim väljaanne aastast 1766; ca 73000 aastakäiku) kosneb kahest osast: eestikeelne perioodika (sisaldab peaaegu 90% kõigist Eestis ilmunud väljaannetest), muukeelne perioodika (sealhulgas Eestis, Soomes, Riias, St. Petersburg jm ilmunud väljaanded).
Memoriaalkogud. 32 teadlase, kirjaniku ja kultuuritegelase personaalkogu. Kogud on üle antud ja säilitatakse vastavalt üleandjate ja annetajate soovidele – ca 80000 eksemplari.
Õpetatud Eesti Seltsi kogu (raamatud, perioodika, maakaardid jne.) – ca 32000 eksemplari.
Väiketrükiste kogu (kuulutused, lendlehed, ühingute ja organisatsioonide materjalid, teatrikavad, plakatid, postkaardid, müürilehed, kalendrid jne. – ca 120000 eksemplari.
Kaardikogu (atlased, kaardid, linnaplaanid) – ca 7000 nimetust.
Arhiivraamatukogu väliseesti trükiste kogule pandi alus 1950. aastate lõpus. Esimesi trükiseid saadi vahetuse korras otse autoritelt või kirjastajatelt (Bernard Kangro, Arvo Mägi, Andrus Saareste, Herbert Salu, Valev Uibopuu, jt). Hiljem on kogu täienenud põhiliselt asutuste/organisatsioonide (Austraalia Eesti Arhiiv, Balti Arhiiv, Eesti Kultuuri Koondis Rootsis, Eesti Kirjanike Kooperatiiv, Rootsi Eestlaste Esindus, Toronto Tartu Instituut jmt) ja eraisikute annetuste kaudu.
Eraldi memoriaalkogudena säilitatakse Johannes Aaviku (1866 ühikut), Richard Antiku (657 ühikut), Viktor Kõressaare (845 ühikut), Ilmar Laabani (4442 ühikut), Oskar Looritsa (431 ühikut), Harald Viirsalu (804 ühikut) raamatukogusid.
Väliseesti kogu ei ole ammendav. Puudu on nii raamatuid, perioodikat kui ka väiketrükiseid. Elektronkataloogi ESTER on sisestatud kõik eestikeelsed raamatud (ca 3000 nimetust), perioodika (ca 260 nimetust) ja väiketrükiste kogu. Elektronkataloog ei kajasta veel kõiki võõrkeelseid ja memoriaalkogude trükiseid.