А когда-то здесь, в самом начале сквера, где Большая Московская улица поворачивала, уходя к вокзалу, высилось Пожарное депо заречной части города. Это здание построено с элементами шотландской архитектуры.
С разрешения брандмейстера можно было, преодолев 165 ступеней, подняться на башню, чтобы полюбоваться открывающимся с высоты видом на Ярмарку, Оку, город.
Именно отсюда, со здания пожарного депо, делал свои панорамы ярмарки знаменитый нижегородский фотограф М.П. Дмитриев.
Рядом с депо приютилась часовня Крестовоздвиженского монастыря.