Металлические конструкции будущей галереи привезли в Железноводск на поезде в разобранном виде. Автор проекта — варшавский зодчий Стефан Шиллер. Галерея была построена всего за год. Интересно, что одновременно открылась и галерея Лермонтова в Пятигорске. Обе галереи, как и Эйфелева башня в Париже, представляют собой первые образцы сооружений, собранных из готовых конструкций. Открытие галереи состоялось в 1902 году. Сначала галерея называлась Железной, но в 1903 году была переименована в Пушкинскую. Сам Пушкин побывал в Железноводске в 1820 году. Место произвело на него сильное впечатление. Именно здесь родилась идея его поэмы «Кавказский пленник». В галерее выступали многие известные деятели искусства: Мамонт Дальский, Вера Комиссаржевская, Айседора Дункан, Людмила Русланова, Леонид Утесов, Ян Френкель, Майя Кристалинская, Иосиф Кобзон, Эдита Пьеха, Алла Пугачева, иллюзионист Игорь Кио. Во время Великой Отечественной войны в здании был госпиталь. В 90-е годы здесь прошли большие реставрационные работы, после которых галерея приобрела первоначальный облик. Инициатором их стал известный режиссер Станислав Говорухин.