В центре мемориала памятник боевого коня с кавалеристом — в честь погибших здесь 16.08.1941 года воинов Красной Армии, открыт 9 мая 1981 года. Автор монумента, минский скульптор Галина Горовая. Захоронено 11 красноармейцев. Известен один — младший политрук Горобец Иван Григорьевич. На плите воинского мемориала начертаны слова «У д. Горня, защищая последнюю пядь белорусской земли, в неравном бою с фашистскими захватчиками погибли воины 112-го горно-кавалерийского полка, 21-ой горно-кавалерийской дивизии».

Возле д. Горня Хотимского района 16 августа 1941 года сложили головы 11 бойцов 112-го горно-кавалерийского полка 13-й армии. Под командованием политрука Ивана Горобца они живым заслоном встали на пути фашистских мотоциклистов и танков, мчавшихся к переправе на реке Ипуть, которую в это время форсировали измотанные в тяжелых боях остатки советских частей. В течение шести часов кавалеристы отбивали ожесточенные атаки гитлеровцев. И лишь когда из Хотимска прибыло семь немецких танков, фашисты прорвали оборону героев. Кавалеристы бились до последнего патрона. Многие из них прямо в окопах были заутюжены немецкими боевыми машинами.

Бой у Горни, стал финалом героической обороны Хотимщины, и события ему предшествующие были не менее драматичными. 112 горно-кавалерийский полк, принявший боевое крещение только 2 августа 1941 года в треугольнике деревень Гневково-Пустосёл-Криволес Шумячского района Смоленской области совместно с главными силами 23-го отдельного бронетанкового дивизиона и потерявший более трети личного состава, на протяжении 5 дней, ведя нескончаемые бои, удерживал Хотимск.