Najprawdopodobniej od połowy XV wieku istniała parafia. Najstarszy dokument pochodzi z 1519 roku mówiący, iż " we wtorek po Nawiedzieniu NMP " Mikołaj Radziwiłł - kanclerz litewski i wojewoda wileński, właściciel dóbr rajgrodzko-goniądzkich podpisał nowy akt fundacyjny. Od założenia, a raczej od jej odnowienia, parafia nosi tytuł Narodzenia Najświętszej Maryi Panny.
Świątynia pierwotnie znajdowała się na brzegach Jeziora Rajgrodzkiego (obecnie w miejscu szkoły podstawowej), tuz przed plażą miejską i Górą Zamkową. Ponieważ stary drewniany kościół uległ zupełnej ruinie w 1764 roku dzięki staraniom i fundacjom byłego proboszcza rajgrodzkiego ks. Jana Olszewskiego - dziekana augustowskiego i kanonika smoleńskiego pobudowano nowy drewniany kościół na podmurówce.
Obecną świątynię neogotycką wzniesiono w latach 1906- 1912.
W styczniu 1945 Niemcy zburzyli strzeliste wieże, które dopiero odbudowano w latach 1987-88. Parafię w Rajgrodzie objął po prałacie Henryku Tyszce, który był tu proboszczem od 1899 roku. Największym osiągnięciem księdza Tyszki było pobudowanie monumentalnej neogotyckiej świątyni w latach 1906-1912 . Zlokalizowana została ona w Rajgrodzie nad brzegiem wschodniej zatoki Jeziora Rajgrodzkiego. Do dziś wzbudza ona podziw oglądających ją zarazem budzi uznanie dla budowniczych, a szczególnie determinacji i wysiłku parafian i ówczesnego proboszcza.
Wygląd kościoła
Kościół jest zbudowany z czerwonej cegły, trójnawowy, z nawą poprzeczną (transeptem) i fasadą z dwoma strzelistymi wieżami o wysokości 56 metrów. Długość świątyni 50 metrów, a szerokość 38 metrów.
Trzecia wieża jest mniejsza i znajduje się na skrzyżowaniu naw. Ściany zewnętrzne oszkarpowane z łukami oporowymi nad dachami naw bocznych. Zwieńczenie szkarp dekorowane ostrołukowymi, tynkowanymi blendami.
W czołowych ścianach transeptu, zwieńczonymi trójkątnymi szczytami, wielki, maswerkowe okna, występujące także w fasadzie. Wszystkie okna zakończone są strzelistymi łukami; w nawie głównej i transepcie trójdzielne z interesującymi witrażami.
Nad głównym wejściem do świątyni widnieje napis: "Ora et labora".
Wewnątrz znajduje się 5 ołtarzy: ołtarz główny z cudownym obrazie Matki Bożej zasłaniany obrazem św. Anny z Maryją jako dziewczynką , obok XIX wieczne figury świętego Piotra i świętego Pawła a nad obrazem figura świętego Józefa z dzieciątkiem Jezus.
Ołtarze boczne: św. Stanisława Kostki (w lewej nawie) po bokach figury św. Kazimierza i św. Jadwigi; ołtarz św. Andrzeja Boboli ( w prawej nawie) po bokach figury św. Franciszka z Asyżu i św. Antoniego z Padwy; ołtarz Przemienia Pańskiego (w lewej części transeptu) ; ołtarz Chrystusa dźwigającego Krzyż ( w prawej części transeptu) w nawach bocznych znajdują się witraże a w transepcie dwa obrazy: św. Antoniego i Najświętszego Serca Jezusa.
Wewnątrz nawy - boczne, otwarte ostrołukowymi arkadami, wspartymi na ośmiobocznych filarach. W rajgrodzkim kościele możemy zobaczyć zadziwiające sklepienia krzyżowo-żebrowe, spływające na filary i filary przyścienne z wiązkami służek.
Chór muzyczny posiada balustradę murowaną, ażurową z arkadami. Na chórze znajdują się organy z 1930 roku. Pod chórem widnieją dwie tablice: upamiętniająca ks. Józefa Radwańskiego oraz tablica poświęcona bitwie pod Grzędami. Prezbiterium jest dwuprzęsłowe, zamknięte trójbocznie , z siedmiobocznie zamkniętym obejściem. Z niego są dwa wejścia: do skarbca i zakrystii.
Kościół został pokryty czerwoną, ceramiczną dachówką. Do wspomnianego kościoła w 1913 roku przeniesiono w uroczystej procesji obraz Matki Boskiej Rajgrodzkiej. Z owym obrazem związana jest legenda:
LEGENDA O CUDOWNYM OBRAZIE MATKI BOSKIEJ RAJGRODZKIEJ
Dawno temu, nad jeziorem, w ubogiej chacie mieszkał rybak, który aby wyżywić liczną rodzinę, wypływał codziennie na połów. Zanim jednak zarzuci sieci modlił się długo do Najświętszej Maryi Panny, aby Ta pomogła mu w ciężkiej pracy. Dzięki temu nigdy nie zabrakło chleba w jego domu.
Pewnego sierpniowego ranka rybak wypłynął na jezioro. Było to dopiero przed wschodem słońca i wokół unosiły się mgły. Kiedy przepływał obok małej wysepki znajdującej się nieopodal brzegu, dostrzegł świetlistą postać. Zdumiony rybak przetarł oczy. "Sen to, czy jawa" - pomyślał i podpłynął bliżej zjawiska. Dostrzegł przed sobą srebrną postać pięknej Pani z Dzieciątkiem na ręku. Zszokowany rybak nie był w stanie wypowiedzieć słowa, wówczas Srebrna Pani przemówiła łagodnie: " Modlisz się do mnie codziennie i dlatego tobie przekazuję moje polecenie: pozostawię swój obraz, na wysepce wybudujesz kapliczkę i tam go umieścisz. Odtąd lud okoliczny czcić mnie będzie, a ja wspomagać go będę w chwilach trudnych i niebezpiecznych." Po wypowiedzeniu tych słów srebrna postać zniknęła,a na falach jeziora kołysał się obraz z wizerunkiem Najświętszej Maryi Panny.
Odzyskawszy siły ,rybak zabrał obraz i popłynął do brzegu. Dowiedziawszy się o cudzie mieszkańcy Rajgrodu modlili się nad jeziorem. Po kilku dniach zbudowano na wysepce kapliczkę i tam umieszczono obraz, gdzie otaczano go wielką czcią. Kapliczka stała do momentu aż poziom wód jeziora nie zaczęły się podnosić,wówczas przeniesiono obraz do kościoła na wzgórzu, a później, po wybudowaniu obecnej świątyni, w uroczystej procesji przeniesiono tam obraz.
Podobno niechętnie przyjęła Rajgrodzka Pani te przenosiny, a Ci, którzy nieśli obraz, nagle poczuli niebywały ciężar i dopiero po długich modłach i prośbach procesja z obrazem weszła do nowego kościoła. Wygląd obrazu Obraz Rajgrodzkiej Pani znajduje się w ołtarzu głównym.; stylowym, drewnianym ołtarzu i wokół znajduja się złote akantowe liście. Maryja z Jezusem przyobleczeni są w srebrne suknie i wokół przyczepione są liczne vota, ale całość oprawiona jest w masywną ramę zakończoną łukowato.
Poniżej zamieszczony jest opis odnoszący się do dawnych lat obraz Matki Boskiej Rajgrodzkiej namalowany został techniką olejna na płótnie. Jego wymiary : 165 cm wysokości i 140 cm szerokości. Maryja przedstawiona jest w półpostaci. Na lewym ręku trzyma Dziecię Jezus, do którego lekko przytula się. Twarz Matki Boskiego Syna posiada szlachetne i subtelne rysy: gładki owal twarzy, prosty nos, duże i czarne oczy oraz wąskie i małe usta. Twarze Maryi i Jezusa, dłonie i stopy Dzieciątka to jedyne widzialne elementy olejnego obrazu. Postacie Maryi i Jezusa przykryte są srebrnymi sukienkami o bogatej ormanetyce roślinnej. Tło stanowi czerwony aksamit, na którym wokół głów umieszczono dwanaście sześcioramiennych gwiazd ze srebra. Na głowie Maryi pozłacana korona typu zamkniętego składająca się z pięciu członów, wysadzana szlachetnymi kamieniami. Wokół głowy Jezusa nimb. Jezus w rączkach trzyma jabłko królewskie i księgę.