Музей открыт в 1982 году и располагается в историческом центре города в старинном купеческом доме Подсосовых. В этом доме с мая по сентябрь 1902 года жил с семьей А.М. Горький, сосланный в Арзамас под гласный надзор полиции. В доме воссоздана мемориальная обстановка: рабочий кабинет, столовая, комната Е.П. Пешковой. В кабинете — святая святых писателя, за столом, покрытым сукном, начата пьеса «Дачники», задумана пьеса «Человек», закончена пьеса «На дне». Именно из Арзамаса прозвучали на весь мир крылатые слова: «Человек — это великолепно, это звучит гордо!»
Город нравился Горькому, о чем он неоднократно упоминал в своих письмах к К. Пятницкому: «Тихо здесь, славно. Окрестности мне нравятся, широко, гладко. Вообще должен сказать, что, если начальство думало, посылая меня сюда, причинить мне неприятность, — оно ошибалось».
Арзамасские впечатления послужили для писателя материалом для его повестей: «Городок Окуров», «Жизнь Матвея Кожемякина», «Все то же», пьесы «Варвары», очерков и рассказов: «Городок», «Леонид Андреев», «Как сложили песню» и др. Редкий талант общения, необыкновенное обаяние Горького создавали особую атмосферу в доме, в котором гостили писатели Л. Андреев, С. Петров (Скиталец), Е. Чириков, режиссер МХТа В.И. Немирович — Данченко, художники Л. Сулержицкий, С. Сорин, написавший портреты Алексея Максимовича и Екатерины Павловны. У Горького в Арзамасе жил крестный сын писателя З. Пешков (Свердлов), ставший впоследствии первым русским генералом иностранного легиона.