De aanzet voor de oprichting van de VNG werd al gegeven in 1910. Een aantal burgemeesters zit na een bestuursvergadering van de Onderlinge Risicovereniging
van Nederlandse Gemeenten gezamenlijk te wachten op het station Staatsspoor in Den Haag. Zij bespreken het belang van samenwerking tussen de gemeenten. Daar ontstaat het idee om een vereniging op te zetten die gemeentelijke belangen kan behartigen.
Het zal nog twee jaar duren voordat de verenging daadwerkelijk wordt opgericht. De drijvende kracht achter de oprichting was de burgemeester van Zaandam, de heer Elias. Hij ontwierp de statuten van de vereniging. De twee andere oprichters waren de burgemeester van Zwolle, de heer Van Royen, en de wethouder van Den Haag, de heer Simons. Het doel van de VNG was onder andere dat de gemeentelijke belangen gezamenlijk verdedigd konden worden tegenover de regering en gezamenlijke inkoop van steenkolen voor de gemeentelijke gasfabrieken.
Niet alle gemeenten waren direct enthousiast. Van de 82 gemeenten die werden aangeschreven, meldden zich er 28 aan. Van de vier grote steden nam alleen Den Haag deel aan de vereniging. De burgemeester van Rotterdam, Alfred Rudolph Zimmerman, vond zo’n vereniging onnodig:
Een Vereniging van Nederlandse gemeenten? Die bestaat toch al? Dat is de staat der Nederlanden!
Amsterdam en Utrecht vonden dat zij hun eigen boontjes wel konden doppen. Bovendien voelde het centraal gelegen Utrecht zich gepasseerd, omdat de vereniging niet in de Domstad werd gevestigd, maar in Den Haag.
Na oprichting van de vereniging bleek het lastig om een directeur te vinden. Velen twijfelden of de VNG een succes zou worden, aangezien lang niet alle gemeenten enthousiast waren over het initiatief. Een directeur zou dus een risico nemen met de functie. In 1913 wordt uiteindelijk een van de oprichters de eerste directeur van de Vereniging van Nederlandse Gemeenten, de Haagse wethouder Simons.
In eerste instantie konden alleen gemeenten met een inwoneraantal boven de 10.000 deelnemen aan de Vereniging van Nederlandse Gemeenten. Dit namen de kleinere gemeenten de VNG niet in dank af. In 1914 richtten zij als tegenreactie hun eigen vereniging op, de Vereniging van kleine stedelijke en plattelandsgemeenten. De splitsing tussen grote en kleine gemeenten duurde niet lang, al in 1916 kwam het tot een fusie. Inmiddels waren er 325 gemeenten aangesloten bij de VNG, bijna 30 procent van de gemeenten in Nederland. De jaarlijkse contributie bedroeg destijds een halve cent per inwoner.
Tegenwoordig zijn niet alleen alle Nederlandse gemeenten lid van de VNG, maar ook een groot aantal gewesten, de landen Aruba, Curaçao en Sint Maarten en de bijzondere gemeenten Bonaire, Saba en Sint Eustatius.
