Храм Покрова Пресвятой Богородицы расположен на северо-западном углу улиц Ленина и Карла Либкнехта. Православный храм возведен в 1822 году на средства купцов Севастиана и Федора Андрониковых из рода Шелиховых. Храм относится к стилю позднего классицизма с неко­торым усложнением декоративного убранства. При строительстве здания традиционно использовался кирпич. Он имеет три престола: Покрова Пресвятой Богородицы, Параскевы Пятницы и Архангела Михаила. С западной стороны к храму примыкает колокольня, которая является почти точной копией колокольни Успенского собора. Колокольня храма поражает - составленная из множества ярусов, она поднимается в небо на высоту в 50 м.
Это один из немногих рыльских храмов, избежавших погромов после Октябрьской революции и сохранившихся до наших дней. Покровский собор очень красив. Особенно ярко проявляется его величественность на закате, когда лучи садящегося солнца, разрезаемые колокольней, словно создают над ней нимб.