En lov fra 1537 dikterede, at hver trykt bog i Frankrig skulle afleveres i et eksemplar til Nationalbiblioteket. Oprindeligt startede Nationalbiblio-teket hos kongen som hans eget bibliotek. Når han flyttede bolig, så flyttede hans bibliotek med ham.
I 1666 blev det ændret, da det flyttede til to byhuse i Rue Vivienne i midtbyen. Dette blev starten på det nuværende bibliotek. Nye bøger strømmede til, og det endte med at de to huse blev fyldte. Under Revolutionen i 1789 blev biblioteket national ejendom, og i 1800-tallet måtte man inddrage flere bygninger til biblioteket, som også fik en modernisering.
Biblioteket har en stor flot læsesal fra 1868, som hedder Salle Labrouste (efter arkitekten). Salen har metalkupler pyntet med farvede keramikfliser. Det er kun tynde jernsøjler, som holder disse kupler oppe. Selve salen er pæn stor med plads til 400 personer. Dog kan alle ikke komme her. Det er kun folk med særlig tilladelse, som kan benyttet læsesalen. Et andet flot rum er den store Ovale Sal.