Parafia Różańca Świętego w Baltimore jest drugą wspólnotą erygowaną dla Polaków na tym terenie. Powstała w 1887 roku w wyniku starań wiernych wyłonionych  z parafii  św. Stanisława Kostki, przybywających tutaj masowo z Księstwa Poznańskiego, pozostającego pod pruskim zaborem.

Pierwsza msza św. została odprawiona przez ks. Piotra Chowańca, w budynku zakupionym od protestanckiego zgromadzenia. Pozyskany gmach służył parafii przez następnych czterdzieści lat, do czasu budowy neoromańskiej świątyni.

W 1928 roku postanowiono zburzyć kilkadziesiąt domów znajdujących się na terenie parafii i na pozyskanym terenie wybudować kościół.