Pierwsza wzmianka historyczna o istnieniu parafii pochodzi z 1285 r. W tym czasie parafią zarządzał proboszcz i kilku wikarych – najprawdopodobniej więc parafia była już wtedy dosyć duża.
Tradycja podaje, że kościół został zbudowany w 1205 r. i taka data widnieje na framudze okna prezbiterium. Najprawdopodobniej jednak kościół pochodzi z połowy XIII w.
Kościół jest budowlą gotycką, murowaną z cegły, która wielokrotnie ulegała przekształceniom. Dobudowa zachodnia z tzw. kaplicą polską, jest barokowa. Najcenniejszą częścią kościoła jest prezbiterium. Obecny jego kształt pochodzi najprawdopodobniej z odbudowy po pożarze z 1300 roku. Posiada sklepienie krzyżowo-żebrowe z okrągłymi zwornikami zrekonstruowanymi na wzór sklepienia wykonanego w 1577 r. po pożarze, który miał miejsce w 1574 r. Po prawej stronie prezbiterium, między rzędami ławek, znajduje się ostrołukowy, gotycki portal i kute, żelazne gotyckie drzwi prowadzące do kaplicy mającej sklepienie krzyżowo-żebrowe o trapezowych żebrach, wspartych na środkowym okrągłym filarze. Kaplica ta stanowiła kapitularz. Wiadomo, iż pierwsze obrady kapituły w dobudowanej kaplicy odbyły się 8 września 1418 roku. W kapitularzu na pierwszym piętrze znajdowała się biblioteka i skarbiec. W późniejszym czasie kapitularz stał się zakrystią. Zachował się też pomimo znacznego zniszczenia kościoła w 1945 r. W 1885 r. obok kapitularza wybudowano zakrystię, do której wchodzi się z prezbiterium blisko ołtarza. Od strony północnej (ul. Mickiewicza) do prezbiterium przylegała kaplica. Początkowo była w tym miejscu furta prałatów, z czasem powstała kaplica św. Barbary. W latach 1671-1672 została ona odrestaurowana i na polecenie prałata Zolondka pomniejszona – służyła jako przedsionek wejścia do kościoła. W 1885 roku przedsionek rozebrano i wybudowano nową, większą kaplicę.
Prezbiterium najbardziej ucierpiało podczas działań wojennych. Zniszczone zostało wtedy sklepienie, ale bezpowrotnie utracone zostały bezcenne stalle, miejsca do siedzenie dla członków kapituły podczas nabożeństw. W roku 1654 z fundacji kustosza Jerzego Matthaeidesa wykonano je za cenę 1400 talarów. Były one bardzo bogato rzeźbione wykonane na wzór stalli krakowskich misterną robotą snycerską, częściowo złocone. Reliefy zaplecków przedstawiały sceny z życia Najświętszej Marii Panny. W latach 1883-1887 dokonano restauracji zmurszałych zaplecków. Ze zniszczonych w 1945 roku resztek stalli wykonano obecnie obramowanie dla galerii polskich świętych w prezbiterium.
W dniu 24 listopada 1656 roku zawarty został kontrakt pomiędzy prałatem Andrzejem Scodoniusem i zarządem Bractwa Literackiego, a rzeźbiarzem Salomonem Steinhofem i malarzem Kornem na wykonanie za 400 talarów nowego ołtarza. Artyści wykonali barokowy ołtarz stanowiący obecnie zamknięcie prezbiterium. Ołtarz Steinhofa był poddawany trzykrotnym zabiegom restauratorskim. W czasie pożaru w 1945 roku uległ prawie całkowitemu zniszczeniu. Rekonstrukcji ołtarza podjął się się rybnicki rzeźbiarz Masorz, który wykorzystując zachowane rzeźby, fragmenty architektoniczne i snycerskie zakończył jego odbudowę w 1954 roku. Pod prezbiterium znajduje się krypta, w której składano szczątki członków kapituły. Ołtarze boczne umieszczone na ścianach wschodnich naw, są także barokowe, pochodzą z lat 1672-1690. One również zostały odrestaurowane po zniszczeniach w 1945 r.
kaplica polska – po raz pierwszy została wymieniona w dokumencie biskupa Konrada z dnia 27 marca 1436 roku. Powstała najprawdopodobniej po pożarze, który zniszczył kościół w 1426 r. W źródłach kaplica znajduje się pod różnymi nazwami "nowa", "św. Wawrzyńca", "św. Marcelego" albo najczęściej "kaplica polska". Kaplica nakryta jest sklepieniem kolebkowym z lunetami, które spływają na przyścienne filary. Na filarach zostały umieszczone pilastry w stylu jońskim. W 1574 roku w pożarze, który zniszczył kościół zachowała się jedynie kaplica polska. Odprawiano w niej nabożeństwa polskie i niemieckie do poświęcenia 8 maja 1596 roku odbudowanego na nowo kościoła, kiedy to w kaplicy polskiej prowadzono nabożeństwa w języku polskim, a głównej nawie w języku niemieckim i łacińskim. Przeszklone drzwi za chórem muzycznym zamykano na czas głoszenia kazania. Przegrody te usunięto dopiero w 1892 roku, a nabożeństwa w języku polskim przeniesiono do kościoła św. Jakuba gdzie odbywały się do 1938 roku. Na miejscu ambony do głoszenia polskich kazań stoi obecnie ołtarz poświęcony błogosławionej Ofce. Eufemia, zwana "Ofką" była córką księcia raciborskiego Przemysława, zmarłego w 1306 roku. Po złożeniu ślubowania przyjęto ją do konwentu dominikanek, a później została przeorszą klasztoru. W 1359 roku pochowano ją w kościele św. Ducha. W wyniku sekularyzacji kościół został zamknięty i przekazany gminie ewanglickiej. Staraniem proboszcza Jana Nepomucena Zolondka otwarto grobowiec Ofki i przeniesiono jej szczątki do kaplicy polskiej.
Obok ołtarza Matki Boskiej Częstochowskiej znajduje się tablica z piaskowca sprzed ok. 400 lat. Wykonany na niej napis w języku łacińskim utrwalił datę pożaru z 23 kwietnia 1574 roku, w którym spłonął cały Racibórz, łącznie z siedmioma świątyniami i przedmieściami Odrzańskimi z wyjątkiem sześciu małych domów za kolegiata przy murach miejskich. Dowiadujemy się też, że sklepienie w prezbiterium zbudowano w 1577 roku, a 1580 zakończono odbudowę chóru muzycznego, umieszczono także nazwiska mądrych i niestrudzonych rządców miasta.
cmentarz – wokół kościoła do 1807 roku znajdował się cmentarz. Jego mur rozebrano w 1817 r.