Siebers Hauptleistung aber lag im Bildungswesen und hier vor allem in seiner Funktion als Bibliothekar der "Öffentlichen Bibliothek". Dieses Bücherkabinett war – wie damals viele andere Sammlungen in Basel – an das Historische Museum angeschlossen und diente auch der hiesigen Universität als Bibliothek. Mit der Trennung der Kantone Basel-Stadt und Basel-Landschaft 1833 stand die Universität eine Zeit lang auf wackeligen Beinen, bis man 1866 entschied, sie zu einem zeitgemässen Institut auszubauen.
Für Sieber brach eine neue Zeit an. Denn die mit Kunst- und Naturalienkabinetten verwobene und unter Platzmangel leidende Büchersammlung taugte nicht dazu, die steigende Zahl der Studierenden und Dozierenden ausreichend mit wissenschaftlicher Literatur zu versorgen. Sieber begann, das Bücherkabinett von nicht-literarischen Objekten zu entflechten, reorganisierte die Kataloge nach dem Vorbild der damals modernsten Bibliotheken, vereinfachte den Zugriff auf die Bestände, trieb die Ablösung vom Historischen Museum voran und gab die entscheidenden Impulse für den 1896 fertig gestellten Bibliotheksneubau beim Bernoullianum. Unter Ludwig Sieber wurde das einstige Bücherkabinett zur heutigen Universitätsbibliothek mit Ludwig Sieber als deren Oberbibliothekar. Die Universitätsbibliothek profitierte im hohen Mass von Siebers lokalem Netzwerk, übergaben ihr doch viele Private, Vereine und staatliche Institute ihre Sammlungen. Hinzu kamen manche Legate.
Intensiv engagierte sich Ludwig Sieber auch für die Historische Gesellschaft und die Antiquarische Gesellschaft, die er zur heutigen HAG fusionierte. Als deren Mitpräsident warb er gebildete Neubürger und Zugezogene als Mitglieder an, was der Gesellschaft Prestige und starken Zuwachs brachte.