Музей основан в 1961 году на базе городской картинной галереи, которая была открыта в 1957 году как отдел Сталинского краеведческого музея. Первое название музея – Кемеровский областной музей советского изобразительного искусства в городе Сталинске. После открытия в 1969 году Кемеровской областной картинной галереи музей обретает статус городского музея и именуется Новокузнецким музеем советского изобразительного искусства. В 1992 году вследствие расширения структуры музейной коллекции музей получает наименование «Новокузнецкий художественный музей».
Первоначально музей располагался на первом этаже жилого здания по адресу: Металлургов, 3 (1961-1981), затем получил более приспособленное помещение по адресу: Кирова, 62.