Музей основан в феврале 1919 года Георгием Михайловичем Поршняковым, ученым-лесоводом из местных дворян. Благодаря его усилиям проводились первые систематические археологические исследования. За многие годы были собраны палеонтологические находки и предметы народного творчества, которые впоследствии стали основой коллекций музея.
Сегодня музей состоит из семи залов с постоянными экспозициями и одного выставочного зала. Музейные предметы размещены в комнатах старинного особняка с высокими потолками, изразцовыми печами и элегантной лепниной на потолке.
В экспозиционных залах представлены тематические коллекции редких и уникальных предметов, таких как антский клад VIII века, челн XVI века, однофунтовая пушка XVIII века и клад арабских монет VIII–X веков, коллекции холодного и огнестрельного оружия.