Церковь сооружена из бутового камня и кирпича и была выстроена в 1907 г. В строительстве церкви активное участие приняли литовские и польские железнодорожники.
Хельме-Тырваская апостольская православная церковь рождения Христа была построена на улице Валга в 1903-194 гг. Строительным мастером являлся Карл Шурин.
Близ имения Паю 31 января 1919 г. произошло одно из решающих сражений Освободительной войны. За независимость Эстонии вместе с эстонцами боролся и полк Северных Сыновей, сформированный из финских добровольцев.