Музей расположился в совершенно неприметном здании, без изысков, которое было построено в девятнадцатом веке для уездного казначейства.
Открылся музей в 1993 году. Экспозиции его состояли, в то время, из картин передал которые Алатырский краеведческий музей, а также из работ художника-педагога Д.С.Шувалова и графический произведений которые были отданы Народной картинной галереей. До 1995 года, музей не был самостоятельным учреждением, а носил статус филиала.
В сегодняшнем фонде музея хранится более трех тысяч произведений, две тысячи из которых относятся к основному музейному фонду. В залах музея находятся работы местных, художников, творивших с девятнадцатого века и до сегодняшнего дня. В экспозиции музея представлены не только картины, но и скульптуры, народное искусство и декоративно-прикладное творчество.
Особую гордость музея представляют творения бывших учеников Алатырского художественно-граверного училища, таких как: Е.Ноздрин, Н.Каменщиков, С.Скрябин, В.Куделькин, Б.Белоусов и других. Их работы внесли большой вклад в культурное наследие Мордовии, Чувашии, Татарии. Регулярно в музее проводятся выставки художников современности.