La sfârșitul secolului al XIX-lea, oamenii pasionați de cultură și frumos au realizat cea mai trainică frântură de istorie din județul Gorj, Muzeul Județean. Instituția se află printre primele muzee din țară, iar numele său a fost ales chiar de către fondatorul său, Alexandru Ștefulescu, importantă personalitate, acesta fiind numit „părintele istoriei Gorjului”. Instituția înființată de acesta a dăinuit în timp și, deși anii războiului i-au pus în pericol existența, colecția istorică și arheologică nu a fost distrusă.
Om dedicat actului cultural, Alexandru Ștefulescu reușește să găsească și alți oameni de seamă care i se alătură în demersul său, astfel că sunt puse bazele proiectului care dăinuie și astăzi în Orașul lui Brâncuși.
„Muzeul Gorjului a luat naştere în oraşul de pe Jiu, la sfârşitul secolului al XIX-lea graţie unor oameni iubitori de cultură, al căror scop era ridicarea spiritualităţii gorjene. Instituţia se numără printre primele muzee din ţară şi îşi are originea în preocupările istorice ale aceluia care este fondatorul său, institutorul Alexandru Ştefulescu (1856-1910), care în 1893 a întemeiat o colecţie istorică şi arheologică, a şcolii primare de băieţi din Târgu-Jiu, unde funcţiona ca învăţător şi director.
Pasionat de istorie, de trecutul acestui judeţ numit pe bună dreptate istoric şi pitoresc, Alexandru Ştefulescu a strâns în jurul său oameni de cultură, care l-au ajutat şi susţinut în iniţiativele sale precum profesorul Iuliu Moisil, inginerul Aurel Diaconovici şi artistul plastic Vitold Rola Piekarski. Colecţiile particulare ale acestuia s-au adăugat colecţiei Ştefulescu, ce a constituit de fapt nucleul muzeului.
«Întemeiatu-s-a astăzi 16 iulie 1894 acest muzeu, spune actul de constituire în care vor găsi toţi, cărora le este scump neamul nostru românesc, trecutul istoric, etnografic, flora, fauna şi trecutul preistoric al Gorjului»”, se menționează în istoricul Muzeului Județean „Alexandru Ștefulescu”.
Două săli ale Palatului Administrativ au fost puse la dispoziție pentru amenajarea expoziției , iar după doi ani de la întemeiere, colecţia arheologică este mutată în clădirea Gimnaziului (casele lui Codin Crăsnaru din strada Unirii), iar în 1898 muzeul şi-a găsit spaţiu în clădirea nouă a Gimnaziului „Tudor Vladimirescu”, în sala cea mare a etajului.
Deși a treut prin vremuri grele în timpul războiului, muzeul nu a dispărut, însă o parte din colecție a ajuns în mâinile străinilor sau chiar a fost nimicită. „După război, piesele istorice rămase vor fi reorganizate într-o expoziţie la Liceul «Tudor Vladimirescu».
În 1925 din iniţiativa Ligii Femeilor din Gorj şi a preşedintei acesteia, Arethia Tătărescu, va fi deschisă o campanie de strângere de fonduri pentru construirea unei clădiri destinată muzeului, proiect încredinţat arhitectului Iulius Doppelreiter, întocmit după arhitectura Culei Crăsnaru din Groterea Gorj şi ridicat în Gradina Publică a oraşului Târgu-Jiu. Noul muzeu va fi inaugurat la 5 septembrie 1926 si va funcţiona aici până în 1954 când, din cauza spaţiului insuficient pentru colecţii, muzeul s-a mutat într-un imobil naţionalizat (casele avocatului Bicescu) de pe strada Tudor 
Vladimirescu, nr. 73.
Către finele anului 1974, muzeului i s-a găsit o nouă clădire, care să-i găzduiască tot mai numeroasa colecţie, respectiv cea a fostului Palat Administrativ din strada Griviţei (azi Geneva) nr.8, local unde şi debutase ca instituţie în 1894.
Din 1975, aici s-a reorganizat pe baze ştiinţifice noua expoziţie de istorie şi arheologie precum şi una de arte plastice. În 1990, secţia de arte plastice a fost mutată într-un sediu nou, situat pe bulevardul Brâncuşi, lângă Gradina Publică (fosta reşedinţa Ceaușescu). Aceasta a primit denumirea de Constantin Brâncuşi”, mai este menționat în istoricul acestei instituții.
Începând cu anul 1996, secţia de istorie şi arheologie a muzeului ia numele fondatorului acestei instituții, Alexandru Ștefulescu. Potrivit datelor menționate pe site-ul Muzeului Județean Gorj, în subordonarea acestei instituţii se află: Muzeul Arhitecturii Populare de la Curtişoara, unde a fost mutată secţia de etnografie, care din 2002 şi-a îmbogăţit patrimoniul prin strămutarea Complexului Gheorghe Tătărescu aici, casele memoriale: Constantin Brâncuşi din satul Hobiţa, comuna Peştisani, Ecaterina Teodoroiu din Târgu-Jiu, Tudor Vladimirescu din comuna Vladimir şi Ion Popescu-Voiteşti, comuna Bălăneşti precum şi peştera de la Polovragi.
