Музей изначально формировался как краеведческий и после образования в 1939 году Запорожской области получил статус областного. Активная деятельность коллектива музея позволила за короткое время собрать великолепную коллекцию, в которой хранились материалы по истории Запорожья от древнейших времен до строительства Днепрогэса и социалистического города.
Осенью 1937 органы НКВД обвинили руководство музея в антисоветской контрреволюционно-террористической деятельности и разгромили краеведческое общество. Директора музея Н. Г. Филянского расстреляли, а научные сотрудники Ф. Т. Каминский и М. С. Мушкет были репрессированы. Во время Второй мировой войны в оккупированном Запорожье коллекции музея были полностью утрачены. От довоенного музея случайно сохранились только две корабельные пушки первой половины XVIII века.
В январе 1944 года после освобождения края от нацистов, музей возобновил деятельность сначала в Мелитополе. Там он располагался в помещении с местным историко-краеведческим музеем в сентябре 1948 года. В июне 1949-го музей открыл первую послевоенную экспозицию в областном центре в небольшом домике по ул. Почтовой, 53. Более приспособленное помещение по ул. Независимой Украины ему было предоставлено в феврале 1950 года, когда в музейной коллекции насчитывалось более 15 тыс. экспонатов.
В 1961 году музей переехал в двухэтажный дом на центральном проспекте в старой части города. Здесь в 1965 году была открыта экспозиция из 22 залов природы, досоветской и советской истории края. Одной из лучших и самой большой по площади была экспозиция зала, посвященного истории запорожского казачества. Музей пользовался большой популярностью у гостей и жителей Запорожья. Только в 1977 году нем побывало 160 тыс. посетителей.
В связи с тем, что в музее отсутствовали выставочный и лекционный залы, кабинеты для научной работы, помещения для фондохранилища, гардероба и других необходимых служб, в 1977 году власть предоставила музею новое помещение. Это было здание бывшей земской управы 1915 года, одна из самых красивых архитектурных памятников Запорожья, расположенная по адресу ул. Троицкая, 29. В 1977 году здесь была открыта первая краеведческая выставка. Но понадобилось более 10 лет для проектирования и проведения полной реконструкции здания, с целью приспособления ее для нужд музея.