Вплоть до конца XIX века село Большая Карповка носила название «Архангельское». Оно возникло потому, что в поисках свободных земель шел поток переселенцев из Рязанского и Московского княжеств. В места, где находится село, переселились крестьяне из Ряжского уезда. Царь Федор Алексеевич (брат Петра I) за службу раздавал князьям, боярам поместья на юге Московского Княжества. Так первым владельцем села стал князь Долгорукий.

В конце XVII в. в селе была построена первая деревянная церковь — «Архангельская» (в честь Архистратига Божия Михаила).

Как село с деревянной церковью Архистратига Божия Михаила Большая Карповка (Архангельское) впервые упоминается в 1676 году. 14 марта 1805 года один из владельцев села, камергер князь Михаил Александрович Долгоруков подал прошение Преосвященному Амвросию (Орлину), архиепископу Рязанскому и Зарайскому о построении каменной церкви. Благословение получил в том же году. Строительство храмовой части и колокольни затянулось на несколько десятков лет. В 1842 году наконец-то была окончена стройка храмовой части и в ней освящён главный престол во имя Иверской иконы Божией Матери.  В 1851 году окончена постройка каменной колокольни, начатая одновременно с церковью.

При храме действовала с 1878 года церковно-приходская школа. На месте разобранной деревянной церкви была построена каменная часовня.

 К числу особых достопримечательностей Иверской церкви села Карповка относилась резная икона святителя Николая Чудотворца в человеческий рост.

Здание сооружено в стилевых формах высокого классицизма, запоздалых для середины века, и является интересным сооружением русской провинциальной архитектуры.

Храм был закрыт в конце 1930-х годов, а в конце 1950-х – начале 1960-х годов разрушена его колокольня для мощения дороги, пиленые блоки известняка выбраны для строительства клуба в райцентре Лев Толстой, в алтаре храма была сделана мельница. Состоит на охране государства как памятник архитектуры регионального значения.