Хельме-Тырваская апостольская православная церковь рождения Христа была построена на улице Валга в 1903-194 гг. Строительным мастером являлся Карл Шурин.
Близ имения Паю 31 января 1919 г. произошло одно из решающих сражений Освободительной войны. За независимость Эстонии вместе с эстонцами боролся и полк Северных Сыновей, сформированный из финских добровольцев.
Храм из красного и желтого кирпича, построенный в стиле историзма, с пятью куполами и колокольней, является одной из представительских церквей апостольской православной церкви в Эстонии.