Tai raudonų plytų mūro su bokštu - sentikių cerkvė, stovinti visai šalia Jonavos miesto. 
XVIII a. Rimkuose įsikūrė sentikiai. Tuomet kaimas priklausė Vilniaus vaivadijai. Tai buvo vienas seniausių rusų centrų Lietuvoje iki pat 1795 metų. Nuo XVIII a. pabaigos minima cerkvė. XIX a. kaimas buvo Kauno apskrityje. 1806 m. gyventojai išsipirko žemę ir tapo laisvais žemdirbiais, čia gyveno apie 300 žmonių. XIX a. nuslopinus Degučių parapiją Rimkai tapo sentikių centru Kauno gubernijoje.

XX a. pradžioje parapijai priklausė bent 1000 tikinčiųjų, nors Rimkuose gyveno 415 žmonių. Apie 1900 m. pastatyta nauja mūrinė Rimkų Dievo Motinos Gimimo cerkvė. XX a. tarpukariu parapija buvo viena didžiausių Lietuvoje, 1937 m. joje buvo 2140 tikinčiųjų. Sovietų valdžia parapiją įregistravo 1948 m. liepą. 1994–1997 m. suremontuota cerkvė.