Красуйся, град Петров,
И стой неколебимо, как Россия!
Александр Сергеевич Пушкин
Сад назван в честь императора Александра II.
Предыстория сада связана с закладкой 5 ноября 1704 года Адмиралтейской крепости-верфи. Согласно требованиям военного времени, Адмиралтейство окружили валами и рвом, перед ним простирался — гласис. Вскоре после основания Адмиралтейство утратило функцию боевой крепости и вместе с ней ушло в прошлое и фортификационное значение гласиса.
Со времени царствования Анны Иоанновны в этом месте за казённый счёт устраивались празднества с фейерверками и народными гуляньями. До 1760-х годов Адмиралтейский луг служил вспомогательной строительной площадкой императорского Зимнего дворца.
      После 1806 года на месте укреплений крепости и гласиса вдоль фасада Адмиралтейства началось устройство Адмиралтейского бульвара. Автором проекта стал архитектор Луиджи Руска. Канал вдоль Адмиралтейства окончательно засыпали в 1817 году, а на его месте устроили аллею-бульвар, обсаженную липами. В 1824 году восточная часть бульвара была продлена до Невы к гранитному спуску Дворцовой пристани, построенной по проекту Карла Росси. Позже по проекту архитектора Людвига Ивановича Шарлеманя в саду установили мраморные скульптуры «Геракл Фарнезский» и «Флора Фарнезская»К 200-летию Петра I Санкт-Петербургская городская дума приняла решение устроить здесь городской сад. В саду были проведены обширные работы: Официальное открытие сада произошло 8 июля 1874 года.
      К столетию со дня рождения поэта в саду был установлен бюст Василия Андреевича Жуковского