Дом фон-Филимонова в Рыльске - великолепное здание по типу столичных дворянских особняков, построенное купцом-миллионером фон-Филимоновым. Архитектор - Карл Фридрихович Шольц. В настоящее время в доме Филимоновых находится Детская школа искусств.
В Музее церковных древностей демонстрируются предметы из музейных коллекций иконописи, резьбы по дереву, живописи, церковной утвари, оружия, декоративно-прикладного искусства, рукописные и старопечатные книги, документы, фотографии.