Entre 1705 y 1708 la fortaleza de Pedro y Pablo fue reforzada con un recinto amurallado que custodiaba su flanco norte, al que se le dio el nombre de Kronverk por su forma de corona. De estas antiguas fortificaciones solo quedan algunos restos. El edificio que puede verse en la actualidad son los antiguos Arsenales, que albergan hoy el Museo de la Artillería. El 14 de julio de 1826 fueron ajusticiados los cinco cabecillas decembristas delante del edificio. Sobre el lugar que ocupó la horca (frente al muro este de los Arsenales) fue erigido un obelisco.