Parafia pw. św. Kazimierza została powołana w 1894 roku dla Polaków należących do wspólnoty św. Jadwigi, ale mieszkających po zachodniej stronie rzeki Milwaukee, w znacznej odległości od kościoła.  Uczęszczanie, zarówno na nabożeństwa, jak i do szkoły parafialnej, było dla wielu osób do tego stopnia utrudnione, że arcybiskup Milwaukee – Frederick Katzer, wydał zgodę na erygowanie nowej parafii i na jej pierwszego proboszcza powołał  ks. Idziego Tarasiewicza.

Prace rozpoczęto od pozyskania działki w dzielnicy Riverwest, na której wzniesiono pierwszy gmach mieszczący kościół, szkołę i mieszkanie dla sióstr nauczycielek.  

Parafia rozwijała się bardzo dynamicznie. W 1900 roku dokonano przebudowy parafialnej infrastruktury – powstał nowy kościół, w stylu neogotyckim, nowe gmachy konwentu i plebania. W 1902 kościół otrzymał przywilej “Altare Privilegiatum” od Penitencjarii Apostolskiej, co oznaczało, że sprawowane w nim msze święte zapewniały otrzymanie odpustów dla dusz czyśćcowych. Opiekę nad szkołą parafialną, do której przez wiele lat uczęszczało ponad tysiąc uczniów rocznie, sprawowały siostry ze zgromadzenia Notre Dame.