В 1945 г. в Инстербурге дислоцировалось более 70 госпиталей 3-го Белорусского фронта. Обширная площадка перед стадионом, на крутом берегу реки Ангерапп (ныне Анграпа), где было похоронено несколько сотен павших при штурме города воинов Красной Армии, стала общегоспитальным кладбищем. Позже сюда перенесли и останки советских воинов из других захоронений, имевшихся в городской черте.
7 Ноября 1949 г. здесь открыли памятник – обелиск Славы. Автор проекта – архитектор Олег Николаевич Закаменный, в прошлом фронтовик, в будущем – лауреат Ленинской премии за Мемориал жертв фашистского террора в Саласпилсе (Латвия).
Фигуры воинов создала скульптор Мария Васильевна Прокофьева (Вытчикова). Памятник строился с участием немецких военнопленных.
За сквером и памятником ухаживали. На клумбах и газонах высаживали десятки тысяч цветов. В 1951 г. в сквере поставили скамейки. В 1959 г. комбинат благоустройства заасфальтировал дорожки сквера и площадку у обелиска.
Постепенно памятник «старел», и в начале 1980-х было решено построить новый Мемориал, был объявлен конкурс проектов.
Предполагалось возвести Мемориал в виде холма с музеем внутри и рельефом наверху по проекту «Память в круге». В 1984 г. забетонировали фундамент, но в «перестройку» работы были прекращены.
К маю 1996 г. на этом фундаменте возвели новый Мемориал, уже по более простому проекту. В 2005 г. монумент отремонтировали на средства федеральной программы празднования 60-летия Победы.
Ежегодно на гранитных плитах добавляются имена, выявленные в ходе поисков. В настоящее время на Мемориале покоится прах 4,6 тысяч советских солдат и офицеров, в том числе кавалер орденов Славы трех степеней старший сержант Федор Семенович Лутай, умерший от ран в эвакогоспитале № 3106.
Постановлением Правительства Калининградской области от 23.03. 2007 г. № 132 Мемориальный комплекс на братской могиле советских воинов получил статус объекта культурного наследия местного (муниципального) значения.
Последний раз реконстукция памятного комплекса проходила в 2020 году в рамках Федеральной целевой программы «Увековечивание памяти погибших при защите Отечества на 2019-2024 годы».
Мемориальный комплекс на братской могиле остается основным местом, где проводятся городские памятные мероприятия. Это одно из самых больших захоронений погибших советских воинов на территории Калининградской области.