Am 29.4.2005 wurde der Verein der Freunde der Kunst- und Museumsbibliothek als eingetragener Verein mit einer kleinen Veranstaltung im Lesesaal der KMB im Museum Ludwig gegründet. Zum Gründungsvorstand gehörten Dr. Damian van Melis (als Vorstandsvorsitzender), Walther König (als stellvertretender Vorstandsvorsitzender), Prof. Dr. Stefan Grohé (als stellvertretender Vorstandsvorsitzender), Dr. Günter Herzog (als Schriftführer), Dr. Karl Stamm (als Schatzmeister), Dr. Marion Opitz, Barbara Hess und Dr. Elke Purpus (als Direktorin der KMB geborenes Mitglied des Vorstands). Die Aufgabe der Rechnungsprüfung übernahmen Dr. Patrizia Brattig und Dr. Katja Terlau.

Ziel des Vereins der Freunde ist es, die Kunst- und Museumsbibliothek der Stadt Köln bei der Erfüllung ihrer Aufgaben ideell, sachlich und finanziell zu fördern und zu unterstützen. Hierzu gehört insbesondere die Erwerbung wertvoller Stücke und Sammlungen zur Ergänzung des Bestandes, die Unterstützung bei wissenschaftlichen und öffentlichkeitswirksamen Aktivitäten wie z. B. Ausstellungen, Vorträge, wissenschaftliche Publikationen sowie die Vermittlung unentgeltlicher Dienstleistungen nach Maßgabe aktuellen Bedarfs. Ebenso wird der Verein darauf hinwirken, dass die Stadt Köln die bisher auf fünf Standorte verteilte Institution zusammenlegt und in einem Haus verankert.

Gleich im ersten Jahr entstand ein Flyer zum Verein der Freunde, um ihn zu bewerben bzw. um weitere Mitglieder zu werben. Zusätzlich fand zur Antiquariatsmesse in Köln eine Benefizauktion im Kölnischen Stadtmuseum zugunsten des Vereins statt. Auktionator war Jens Scholz von Jens Scholz Auktionen Köln.

Unter Federführung von Walther König schrieb der Verein in den folgenden Jahren zahlreiche bedeutende Galerien und junge Kunstverlage an, mit der Bitte um deren Publikationen für die KMB. Die zahlreich geschickten Publikationen wurden in den Bestand der Bibliothek eingearbeitet.

2007 unterstützte der Verein die Veranstaltung zum 50jährigen Bestehen der KMB und warb bei der Sparkasse Köln Mittel für den Erwerb von Regalen und zwei Digitalkameras für die KMB ein.

2008 konkretisierte der Verein die Erwerbung wertvoller Stücke und Sammlungen zur Ergänzung des Bestandes der KMB auf die Erwerbung von Medien, die eine Beziehung zwischen Bildender Kunst und Musik seit dem Futurismus thematisieren. Zum Ende des Jahres unterstützte der Verein die von Dr. Alfred Fischer vom Museum Ludwig kuratierte Ausstellung der KMB im Foyer des Museums Ludwig und den Ausstellungsräumlichkeiten der KMB: „Gerrit Göllner / Jon Shelton: Margin Milieu. Ein nomadisches, raumüberbrückendes Künstlerbuchprojekt“.

Parallel setzte sich der Verein für eine zentrale Unterbringung der KMB ein, mit der die fünf verteilten Standorte zusammengeführt werden sollten. Dies schien auch mit der Planung der Unterbringung der KMB im Neubau am Eifelwall, zusammen mit dem Historischen Archiv, zunächst zu einem Erfolg zu führen.

2011 drohte dann jedoch die Zerschlagung der KMB. Um dies zu verhindern, führten mehrere Mitglieder des Vorstands Gespräche mit der Politik. Es wurde eine eigene Homepage eingerichtet, und zusammen mit der Leserinitiative wurden 14.000 Unterschriften und über 100 Protestschreiben gegen die Zerschlagung gesammelt, die der Verwaltung der Stadt übergeben wurden.

Mit der Ratsentscheidung vom 18.7.2013 verflüchtigten sich zwar die Pläne für eine zusammengefasste Unterbringung der KMB am Eifelwall, die Politik gab aber ein klares Bekenntnis zum Erhalt der KMB ab.

Von 2014 bis 2023 gab es mehrere Wechsel im Vorstand des Freundesvereins. Walther König (Vorstandsmitglied 2005-2021) übernahm 2015 vorübergehend den Vorsitz, bis Prof. Dr. Ulli Seegers 2017 zur Vorsitzenden des Vereins der Freunde der KMB gewählt wurde. Prof. Dr. Stefan Grohé (2014), Barbara Hess (2014), Prof. Dr. Günter Herzog (2015), Dr. Damian van Melis (2015), Dr. Karl Stamm (2019) schieden aus. Hinzu kamen als Vorstandsmitglieder Helmut Dreiseitel 2015-2019, Dr. Dieter Groll seit 2015, Prof. Dr. Michael Erlhoff 2015-2021, Prof. Dr. Ulli Seegers seit 2015, Steffen Missmahl seit 2017 und Ulrike Jagla-Blankenburg seit 2019. Nach dem Ausscheiden von Walther König und Dr. Marion Opitz wurden Prof. Dr. Uta Brandes, Iris Maczollek und Dr. Helmut Mörchen 2021 neu in den Vorstand berufen. Als Rechnungsprüfer löste 2013 Dr. Gerhard Dietrich Dr. Katja Terlau ab. 2023 trat Prof. Dr. Ulli Seegers als Vorsitzende des Vereins zurück, Prof. Dr. Uta Brandes übernahm diese Aufgabe. Dr. Helmut Möhrchen sowie Dr. Dieter Groll legten ihre Vorstandsämter nieder, neu hinzugewonnen werden konnten dafür Dr. Gudrun Pamme-Vogelsang als zukünftige Schatzmeisterin und Gérôme Lenzen.

Zur Ausstellung „Gerhard Richter. Neue Bilder“ vom 9. Februar – 1. Mai 2017 im Museum Ludwig gestalteten Walther König und Steffen Missmahl für die KMB eine Wandvitrine im Eingangsbereich des Museums Ludwig mit autonomen Künstlerbücher von Gerhard Richter aus dem Besitz der KMB, ergänzt um private Leihgaben.

Im April 2018 wurde der Verein der Freunde der KMB Mitglied im „Kölner Kulturrat e.V.“, dem Dachverband der privaten kulturellen Institutionen und Fördervereine in Köln, die bürgerschaftlich Kunst durch persönliches Engagement, fachlichen Rat und finanzielle Zuwendungen unterstützen.

Seitdem Prof. Dr. Ulli Seegers den Vorstandsvorsitz übernommen hatte, fand ein reges Veranstaltungsprogramm statt, das unter Federführung von Prof. Dr. Uta Brandes fortgesetzt wird. Zu nennen sind hier die noch von Seegers eingeführten Formate „KmB“ (Kunst mit Büchern) und „KmB privée“. Als kreativer Namensgeber der beiden Reihen, die schon im Titel auf die KMB deutlich Bezug nehmen, fungierte Prof. Dr. Michael Erlhoff, der bis zu seinem frühen Tod 2021 ein wichtiger Spiritus rector des Vereins wurde. Bei den „KmB“-Veranstaltungen handelt es sich um öffentliche Gespräche mit wechselnden Gästen zu den Themenfeldern Künstlerbücher, Kunstbuch und Buchkunst. Die Gespräche werden immer von ein bis zwei Vorstandsmitgliedern moderiert und bieten den Besuchern in lockerer Atmosphäre die Gelegenheit, mit den eingeladenen Gästen ins Gespräch zu kommen. Die Veranstaltungen der Reihe „KmB privée“ sind exklusiv den Mitgliedern des Freundesvereins vorbehalten. Sammlerinnen und Sammler öffnen ihnen ihre privaten Bibliotheken und gewähren Einblicke in ihr Leben mit Kunst und Kunstbüchern. Dabei werden interessante, anregende Gespräche über Bücher, das Sammeln und vieles mehr geführt.