Omridset til dét der skulle blive Aalborg Universitetsbibliotek begyndte allerede at tegne sig i 1973, i forbindelse med oprettelsen af Aalborg Universitets Center. Dengang havde bibliotekets administration til huse på Langagervej 2-4. Den egentlige indvielseshøjtideligheden fandt sted den 31. januar 1975.

I 1979 flyttede biblioteket ind som et egentligt universitetsbibliotek kaldet centralsalen med 4.100 m2 på Fibigerstræde 15. Biblioteket var dog i mange år fortsat opdelt efter AUC's basisuddannelser, med små fagbiblioteker spredt rundt i hele Aalborg.

I 1995 blev biblioteket samlet i en nyrenoveret biblioteksbygning på Langagervej 2. Man bibeholdt de dedikerede fagsale på Strandvejen 12-14 (Biblioteket for Basisstuderende), Sohngaardsholmsvej 57 (Biblioteket for teknik og naturvidenskab), samt Fredrik Bajers Vej 7 (Biblioteket for matematik, datalogi og svagstrømsteknik).

Samtidig i 1995 blev Ingeniørhøjskolen i Esbjerg en del af Aalborg Universitets Center, og dermed opstod AUB Esbjerg som Biblioteket for kemi og anvendt ingeniørvidenskab.

I 2012 hvor AAU flyttede ind i Sydhavnen i København opstod AUB CPH som ny biblioteksafdeling uden egen bogsamling. AUB CPH skulle dermed betjenes fra Aalborg og Esbjerg ved hjælp af bibliotekernes nationale kørselsordning samt et øget fokus på indkøb af e-bøger.

Som led i en generel fortætningsplan flyttede bibliotekets hovedafdeling i 2020 fra Langagervej 2 til Kroghstræde 3. I skyggen af Covid-19 pandemien, flyttede en lille antal medarbejdere, i samarbejde med et lokalt flyttefirma, den 13 km lange bogsamling fra det gamle til det nye bibliotek, og fik dem presset ind på det halve antal kvadratmeter!