El Kremlin (alcázar) de Sérpukhov inicialmente fue construído de roble en el año 1374. Estaba situado en la punta alta de confluencia de riachuela Serpeika con río Nara (tributario del río Oká que pasa muy cerca.
Después del año 1507, cuando el Janato de Crimea se hace adversario constante e implacable de Rusia, el Príncipe de Moscú Vasili III crea la línea potente de defensa que se apoya a las ciudadelas del río Oká. El centro de este sistema defensiva era la ciudad de Sérpukhov que está en el camino más corto de Moscú a Tula. En el año 1556, aparece el kremlin (alcázar) de piedra blanca (caliza). Los constructores de las murallas y torres de piedra paulatinamente reemplazaban fortificaciones de madera por las estructuras de piedra. Al mismo tiempo con la edificación del alcázar de piedra se construía presidio de madera para proteger arrabal con plaza de mercado urbano. El largo total del presidio era más que mil metros.
Al final del siglo XVII el kremlin de Sérpukhov pierde su importancia. El alcázar y presidios no se repara. Solo en el año 1708 temiendo el ataque del rey sueco Carlos XII a Moscú, el zar Piotr (Pedro) I recordó de Sérpukhov y ordenó a fortalecer la ciudad. Pero luego la situación se cambió y desapareció la necesidad de las fortificaciones de Sérpukhov. Su estado constantemente preocupaba al consejo municipal urbano, pues que las torres de madera amenazaban aruinarse y, en el kremlin, "las piedras numerosas caían" Por eso en el año 1767, fue aceptada la decisión de cavar el terraplén urbano y desmontar las murallas de madera restantes.
En el invierno de 1934, el kremlin fue desmontado por material para construcción del metro de Moscú. Esto fue hecho por el orden de Lazar' Kaganóvich. Según el orden se requería morrillo y decidieron tomar la priedra lo mas pronto posible. El alcázar de Sérpukhov fue desmontado en un año y actualmente se quedan solo dos fragmentos pequeños en el cerro del kremlin.