Kościół pw. Matki Bożej Różańcowej został wzniesiony z fundacji hrabiego Karola Wolfganga von Ballestrema w 1869 roku. Wyznaczał południowo-zachodnią granicę dawnej zabudowy dzielnicy Ruda, będąc jednocześnie pierwszym kościołem na jej terenie. Projekt opracował i zrealizował architekt i budowniczy z Gliwic - Wachtel. Prace budowlane trwały od kwietnia do listopada 1869. Przy wznoszeniu świątyni zastosowano dwa rodzaje budulca - cegłę i piaskowiec, co sprawia, że bryła zyskuje ciekawy, nawiązujący do romanizmu charakter. Zastosowanie okien zamkniętych ostrym łukiem stanowi natomiast nawiązanie do rozwiązań wywodzących się z gotyku.
W 1890 roku kościół powiększono - dobudowano absydę oraz kaplicę pw. Matki Boskiej Nieustającej Pomocy. O późniejszych charakterze tych ingerencji świadczy budulec – główna bryła kościoła wzniesiona jest głównie przy użyciu kamienia, części dobudowane w 1890 roku są w całości ceglane. Różnicę widać również we wnętrzu – pierwotny kościół przekryto drewnianym stropem, absyda i kaplica są przekryte sklepieniem krzyżowo-żebrowym.