Parafia pw. św. Kazimierza, to trzecia parafia erygowana dla osadników polskich, przybyłych do Baltimore pod koniec XIX wieku. Ich liczba była tak duża, iż powołane wcześniej parafie pw. św. Stanisława Kostki i Różańca Świętego, nie były w stanie objąć wszystkich wiernych duszpasterską opieką. Dlatego też w 1902 roku proboszcz parafii św. Stanisława Kostki, wcielając w życie plan, mający na celu zorganizowanie nowej wspólnoty dla Polaków osiedlonych w Canton, powołał filię swojej parafii, wybierając na jej patrona św. Kazimierza (w 1904 roku stała się ona samodzielnie funkcjonującą wspólnotą). Pierwszym jej proboszczem został ks. Karol Kotlarz. Dwa lata później, ze względu na brak polskich duszpasterzy w diecezji, przeszła pod opiekę oo. franciszkanów konwentualnych.

W 1903 roku powołano szkołę parafialną i powierzono ją siostrom felicjankom. W roku 1921 zastąpiły je siostry franciszkanki.

Parafia rozwijała się bardzo dynamicznie. Szybki wzrost demograficzny zmusił wiernych do podjęcia decyzji o budowie większej świątyni, gdyż dotychczasowa okazała się niewystarczająca, wspólnota liczyła 5 300 wiernych.