Powstanie instytucji parafii wiąże się z rozprzestrzenieniem chrześcijaństwa na tereny wiejskie. W Średniowiecznej Polsce parafie obejmowały kilka lub kilkanaście wsi. Były one powiązane z własnością ziemską: właściciel, zazwyczaj świecki, utrzymywał patronat nad kościołami co dawało mu prawo przedstawiania kandydata na plebanię (od XII w. proboszcza określano terminem "pleban" - od łac. plebanus). Wierni w parafiach byli zobowiązani do ponoszenia różnych świadczeń tj. dziesięcina czy świętopietrze. W parafiach powstawały czasem konfraternie wiernych, zajmujące się dobroczynnością, pokutą i modlitwą, a nawet zarządzaniem majątkiem parafii (tzw. warsztaty).
W Średniowieczu parafie wypełniały wielorakie funkcje. W Polsce od XIII w. przy zamożniejszych parafiach zaczęły powstawać podstawowe szkoły parafialne, a w miastach także szpitale. W wielu krajach parafie były też traktowane jako najniższy szczebel administracji państwowej (W Polsce podział na parafie wyrugował wcześniejszy podział administracyjny na opola).
Szacuje się, że w 1200 r. w dzisiejszych granicach Polski istniało już ok. 1000 parafii. 300 lat później było ich już niemal sześciokrotnie więcej. Według pallotyńskiego Instytutu Statystyki Kościoła Katolickiego w poł. 2003 r. w Polsce istniało ok. 10.050 parafii katolickich (w tym parafie zakonne).