少林寺位於河南省登封市嵩山五乳峰下，由於其坐落於嵩山腹地少室山的茂密叢林之中，故名"少林寺"。
少林寺始建於北魏太和十九年(495年)，是孝文帝為了安置他所敬仰的印度高僧跋陀尊者，在與都城洛陽相望的嵩山少室山北麓敕建而成。
少林寺是漢傳佛教的禪宗祖庭，號稱"天下第一名剎"。少林寺因其歷代少林武僧潛心研創和不斷發展的少林功夫而名揚天下，有"天下功夫出少林，少林功夫甲天下"之說。
在南北朝佛教發展高峰期，北周武帝採納還俗沙門衛元嵩刪寺減僧的建議，在建德三年（574年）下令禁止佛教傳流，史稱北周武帝滅佛，少林寺毀壞嚴重。北周大象二年（580年），北周靜帝恢復少林寺，將其改名為陟岵寺。
隋文帝崇佛，復改陟岵寺為少林寺，並賜給少林寺土地一百頃，再加上其他賞賜，少林寺成為擁有百頃良田和龐大寺產的大寺院。
至唐宋年間，少林寺擁有土地14000多畝，寺基540畝，樓台殿閣5000餘間，僧徒達2000多人。達摩開創的禪宗教派在唐朝興盛，是唐代佛教最大宗派。
民國元年（1912年），登封縣僧會司僧會雲松恆林和尚被地方士紳推舉為少林保衛團團總，他購置槍械，組織保衛團，訓練戰技以維持當地秩序。民國九年（1920年）秋，恆林率民團與土匪十戰，環寺數十村得以安居樂業，被譽為少林活佛。