Впервые местечко под именем Gulbana упоминается уже в 1224 году, в договоре о разделе Таловских земель между рижским епископом и орденом меченосцев. В 1340 году по приказу рижского архиепископа в Гулбене построили каменный замок Шваненбург т. е. «замок лебедя». С тех пор это место, вплоть до начала двадцатого века, так и называлось.

Лебедь издавна является одним из самых популярных символов верности и неразлучности. Пара лебедей, подплывающих навстречу друг другу, в момент касания образуют форму сердца. Поэтому свадебный торт чаще всего увенчивают фигурками этих птиц.

Лебединые пары, однажды встретившись, никогда уже не расстаются. Лебедь выбирает себе спутницу жизни раз и навсегда, и не променяет свою супругу на другую представительницу лебединой стаи.

Эта пара настолько соединяется в одно целое друг с другом, что в случае гибели одного из партнёров второй или кончает жизнь самоубийством, бросаясь камнем с высоты и разбиваясь о землю, или же доживает свой век в гордом одиночестве.

Есть загадочная закономерность, что именно с Гулбене связана одна романтическая история любви, рассказывает историк и краевед Олег Пухляк. Речь о Вецгулбене – сейчас это часть городской территории, а некогда поместье, с начала 19 века принадлежавшее семье баронов Вольфов.

Владелец поместья Генрих фон Вольф женился в 1875 году на Марии фон Этинген, дочери Лифляндского вице-губернатора. В семье её звали Мариса. Барон очень любил свою жену. Увы, но Мариса не отличалась крепким здоровьем и вскоре заболела туберкулёзом. В 1883 году её не стало, она умерла во время лечения в Риме.

Став вдовцом Генрих превратил поместье в мемориал своей жены Марисы. Свою жену он похоронил на семейном кладбище и на её могиле день и ночь горели семь синих фонариков, по одному за каждый прожитый вместе год.

Парк перед дворцом тоже преобразился: здесь вырыли пруд в виде буквы «М» - первой буквы в имени Марисса. Кроме того, что сам пруд был вырыт в виде буквы «М», на его берегу были разбиты клумбы с инициалами покойной баронессы.