Činom svečanog osvećenja Opštinske biblioteke i Muzeja, 11. januara 1931. godine, Beograd dobija modernu gradsku biblioteku, čitav jedan vek nakon prve pozajmne Biblioteke varoši Beogradske Gligorija Vozarovića.
Posle više seoba, u maju 1935. godine, Opštinska biblioteka i Muzej doseljavaju se u zgradu u Ulici kneginje Ljubice br. 1, u današnju Zmaj Jovinu ulicu. Nemačko bombardovanje 6. aprila 1941. godine nanosi Biblioteci neprocenjivu kulturnu i materijalnu štetu. Od zapaljivih bombi izgoreo je krov i poslednji sprat. Ipak, Biblioteka grada Beograda ne prekida rad sa čitaocima. Posle Drugog svetskog rata osnivaju se i rejonske, docnije opštinske biblioteke. Pristupa se novoj organizaciji rada, formiraju se posebna odeljenja, osniva se stručni centar za biblioteke beogradskog sreza, sa težnjom da se stvori jedinstvena mreža popularnih biblioteka. Prema Zakonu o bibliotekama, Biblioteka grada Beograda je od 1961. godine određena za matičnu biblioteku za područje grada.
Sredinom šezdesetih godina prvi put je objedinjena nabavka za celu mrežu, a svaki dvadeseti Beograđanin je član Gradske biblioteke. Postojeće prostorije u Zmaj Jovinoj ulici već su pretesne, pa sredinom sedamdesetih Biblioteka dobija na korišćenje zgradu u Knez Mihailovoj 56, nekadašnji hotel Srpska kruna. Radovi na uređenju zgrade potrajaće čitavu deceniju. U međuvremenu, uvodi se slobodan pristup knjigama u Opštem pozajmnom odeljenju. Sledeći savremena svetska iskustva, i dečja odeljenja preuređuju svoje fondove, knjige se sređuju prema uzrastu deteta kome su namenjena. Započinje se sa radom na bibliografiji knjiga o Beogradu. Biblioteka grada izdaje knjigu prevoda stranih putopisa o Beogradu XIX veka, potom i Pripovetke o Beogradu, svojevrsnu kratku istoriju Beograda u pričama… Broj književnih programa i izložbi knjiga pod okriljem Biblioteke svake godine raste.
Najzad, u oktobru 1986. godine, pesnikinja Desanka Maksimović svečano otvara novu zgradu Biblioteke grada Beograda. U svom obraćanju, ona će reći: “Da smo tri veka tražili gde ćemo je staviti, ne bismo joj lepše mesto našli: u pročelje je gleda pesnik Milan Rakić, nedaleko na Kalemegdanu su i Branko Radičević, Vojislav Ilić, Bora Stanković, da ne nabrajamo svse čija će dela vekovati pod krovom ove Biblioteke…” Biblioteka grada Beograda postaje prva javna kompjuterizovana pozajmna biblioteka u zemlji.
Devedestih godina XX veka osetno je opao broj upisanih članova i nabavljenih naslova, ali je broj pročitanih knjiga ostao gotovo isti. U ovom periodu, Biblioteka grada Beograda, zajedno sa mrežom opštinskih biblioteka, ima najrazvijeniji kulturno-obrazovni rad u bibliotekarstvu Srbije. Započeto je sistematsko praćenje čitalačke populacije Beograda. Od 1991. godine otpočinje objavljivanje lista Novine beogradskog čitališta. Bez prekida rada sa publikom, 1997. godine započeta je revizija Opšteg fonda. U Knez Mihailovoj ulici počela je sa radom Internet čitaonica. Ugrađena je elektronska zaštita fonda u slobodnom pristupu. Povodom sedamdeset godina od osnivanja Biblioteke grada Beograda, 11. januara 2001. godine, svečano je obeležen Dan biblioteke. Tim povodom objavljena je knjiga odabranih radova prve upravnice, Marije Ilić-Agapove i ustanovljena nagrada najboljem bibliotekaru Beograda nazvana njenim imenom. Dve godine kasnije, u okviru proslave Dana Beograda, otvoreno je renovirano Odeljenje stare i retke knjige i knjige o Beogradu – Zavičajno odeljenje, u Zmaj Jovinoj 1. U julu iste godine, u okviru projekta Lepša Srbija / Beautiful Serbia, kao prva obnovljena je fasada Knez Mihailove 56. U obnovljenim prostorijama svoj rad nastavlja Odeljenje periodike, ali i mnogi ogranci opštinskih biblioteka. Prvi put, posle više godina, dostignut je standard optimalne nabavke knjiga za sve fondove. Dovršeni su i objavljeni rezultati višedecenijskih projekata, drugi tom Građe za bibliografiju jugoslovenske i strane knjige o Beogradu (2003) i dvotomna monografija Ulice i trgovi Beograda (2004/5).
Prva faza implementacije bibliotečkog softverskog programa BISIS započeta je 2005. godine. Iste godine iz štampe izlazi i prvi broj nove serije Novina Beogradskog čitališta.
U godinama koje slede, Biblioteka grada Beograda stiče lep glas veoma posećenim izložbama koje su posvećene velikanima naš književnosti: Slobodanu Seleniću, Jovanu Jovanoviću Zmaju, Danilu Kišu, Vladanu Desnici, Jovanu Steriji Popoviću, Borisavu Stankoviću, Borislavu Pekiću, Branku Miljkoviću, Isidori Sekulić, Dušanu Dušku Radoviću, Desanki Maksimović… Organizuju se okrugli stolovi i štampaju zbornici radova posvećeni renomiranim srpskim (i beogradskim) piscima: Dragoslavu Mihailoviću, Branku Miljkoviću, Svetlani Velmar Janković, Davidu Albahariju, Branku Ćopiću, Danilu Nikoliću, Dušku Radoviću, Ivi Andriću, Dušanu Kovačeviću, Milošu Crnjanskom, Miloradu Paviću, Borislavu Pekiću…
Posebna pažnja posvećena je staroj i retkoj bibliotečkoj građi koja se prikuplja od samog osnivanja Biblioteke. Proces konzervacije i restauracije prošao je od 2012. do 2017. godine 31 primerak stare kartografske građe i 46 primeraka stare i retke knjige i periodike (XVI‒XIX vek). U Elektronski registar stare i retke bibliotečke građe upisana su 1.103 naslova, što nas po broju evidentirane građe čini trećom bibliotekom u Srbiji, posle Biblioteke Matice srpske i Narodne biblioteke Srbije. Posebno priznanje Biblioteci grada Beograda ukazano je Odlukom o proglašenju stare i retke bibliotečke građe za kulturno dobro od izuzetnog značaja u Službenom glasniku RS br. 35/2021. godine.
Biblioteka grada Beograda od 2005. godine aktivno učestvuje u brojnim domaćim i međunarodnim stručnim projektima. Posebno bismo istakli projekte koje je podržala Evropska unija –AccessIT, AccessIT plus, Europeana Awareness, Dissemination and eXploration through Libraries, LoCloud, Re-designingandco-creating Innovative Cultural Heritage Services Through libraries, Enhancing Key Civic Competences for the Post-truth Era: News Literacy and Critical Thinking, kao i projekat razvoja bibliotečkog informacionog sistema BISIS 5 koji od 2017. godine redovno podržava Ministarstvo kulture i informisanja.
Biblioteka je aktivan član u svim relevantnim domaćim i najznačajnijim međunarodnim bibliotečkim udruženjima: Zajednica matičnih biblioteka Srbije, IFLA Metropolitan Libraries Section), IFLA Public Libraries Section, EBLIDA.