Świątynia powstała w 1799 r., a była to fundacja uczyniona od Dominika Radziwiłła, ofiarowano m.in. na potrzeby plebana15 włók ziemi i 1200 złp anunty. W 1824 r. parafia liczyła 4196 katolików. W 1866 r. władze carskie zarekwirowały świątynie na potrzeby cerkwi prawosławnej do jakiej sam car Aleksander II ofiarowywał w 1867 kopie ikony Matki Bożej Kazańskiej . Katolicy zostali oddani opiece proboszczów w parafii Kiejdanow, na cmentarzu istniała kaplica w której odprawiano nabożeństwa [wspomina o tym np. katalog diecezji wileńskiej z 1872 r.], dopiero w 1906 otrzymano pozwolenie na budo nowej świątynie - władze sprzeciwiały się zwrotowi kościoła do prawowitych właścicieli; dopiero po 1917 r. stał się on na nowo świątynia katolicką. W 1921 r. na terenie miasta były dwa kościoły, murowany został konsekrowany przez bp. Łozińskiego a drewniany spełniał rolę filialnej świątyni.
Zachował się opis tego drewnianego kościoła zamieszczony w publikacji J. Chodzki: Kościół rubieżewicki, zbudowany na planie prostokąta podłużnego, liczył 24 łokcie długości, 12 szerokości, osiem wysokości. (…) Położony jest na placu, którego obszar wynosi sto kilkadziesiąt prętów, przy ulicy Nowogródzkiej. Wewnątrz mieści cztery ołtarze, budowane z drzewa i ozdobione snycerszczyzną. Wielki ma obraz Ukrzyżowanego Chrystusa, w bocznych natomiast widnieją obrazy malowane na deskach: Niepokalanego Poczęcia Najświętszej Maryi Panny, św. Apostołów Piotra i Pawła i św. Anny. Organy są również nowo wybudowane na koszt parafianina rubieżewickiego Piątkowskiego" - to informacje z ok. 1830 r.
