Nel 1976, Yunus visitò le famiglie più povere del villaggio di Jobra vicino all'università di Chittagong. Scoprì che prestiti molto piccoli potevano essere di grande aiuto per una persona povera. Alcune donne di Jobra facevano mobili di bambù e dovevano prendere prestiti per comprare il bambù, ma tutti i loro profitti venivano pagati per i prestiti. Il primo prestito che Muhammad Yunus diede fu di 27 dollari di tasca sua. Questi 27 dollari sono stati prestati a 42 donne del villaggio, che hanno ottenuto un profitto di 00,02 dollari ciascuna dal prestito
Nel dicembre 1976 la banca governativa Janata Bank diede a Yunus un prestito che poteva usare per fare molti piccoli prestiti a persone molto povere. Il suo gruppo ottenne altri prestiti da altre banche e nel 1982, 28.000 persone avevano lavoro con Grameen. Il 1° ottobre 1983, Grameen fu trasformata in una banca a tutti gli effetti e ribattezzata Grameen Bank (Banca del Villaggio) per dare prestiti ai poveri del Bangladesh. Yunus e i suoi lavoratori furono minacciati e alle donne fu detto che non avrebbero avuto una sepoltura musulmana se avessero preso in prestito denaro dalla Grameen Bank, ma hanno dato molti, molti prestiti alla gente povera. Al luglio 2007, la Grameen Bank ha prestato 6,38 miliardi di dollari a 7,4 milioni di persone. La banca presta denaro a "gruppi di solidarietà". Questi piccoli gruppi ricevono prestiti insieme e se una persona non può pagare, il resto del gruppo paga per loro.
La Grameen Bank avviò altri gruppi negli anni '80 per fare cose come tenere puliti gli stagni di pesca e costruire pompe di irrigazione. Nel 1989, questi gruppi iniziarono ad avere i loro nomi. Il progetto della pesca divenne Grameen Motsho (Fondazione Grameen per la pesca) e il progetto dell'irrigazione divenne Grameen Krishi (Fondazione Grameen per l'agricoltura). Il gruppo Grameen è cresciuto in molti gruppi redditizi e senza scopo di lucro, come il Grameen Trust, il Grameen Fund, Grameen Software Limited, Grameen CyberNet Limited, Grameen Knitwear Limited, Grameen Telecom, e Grameenphone (GP) (Grameenphone è la più grande compagnia telefonica del settore privato in Bangladesh). Il progetto Village Phone (Polli Phone) di Grameenphone ha reso possibile a 260.000 persone povere in oltre 50.000 villaggi di possedere telefoni cellulari dal marzo 1997.
Le idee di Grameen sono state utilizzate in molti paesi del mondo, come gli Stati Uniti. Più del 94% dei prestiti Grameen sono stati dati alle donne, che hanno meno soldi e danno di più alle loro famiglie. Per il suo lavoro con la Grameen Bank, Yunus è stato nominato Ashoka: Innovators for the Public Global Academy Member nel 2001.