少林寺有“天下第一名刹”之誉，是建于北魏太和二十年(公元496年)。少林寺建筑包括常住院及附近的塔林、初祖阉、二祖庵及达摩洞等。
少林寺常住院建筑在少溪河北岸，寺院宏大。从山门到千佛殿，共七进院落，总面积达3万平方米。山门的正门是一座面阔三间的单檐歇山顶建筑，它座落在2米高的砖台上，左右配以硬山式侧门和八字墙，整体配置高低相衬，十分气派。门额上有清康熙亲笔所提“少林寺”三个大字，更添一道辉煌的风景。
一进山门，弥勒佛供于佛龛之中，大腹便便，笑口常开，人称“大肚佛”、“皆大欢喜佛”。神龛后面立有韦驮的木雕像，神棒在握，是少林寺的护院神。过了山门，便是甬道，两旁碑石如林，故称碑林。锤谱堂就在山门内碑林西侧，里面有泥塑和木雕群像，演绎着少林武术的发生发展及其赫赫功绩等。
天王殿，经甬道过碑林后便是，它是一座三间重檐歇山顶殿堂，外面有两大金刚，内里则是四大天王像，好不威武。
穿过天王殿，其后有大雄宝殿。殿内供奉着佛教释迦牟尼、阿弥陀佛、药师的神像，屏墙后面悬塑观音像，两侧有十八罗汉侍立。大雄宝殿之后，又有藏阁，这是寺僧藏经说法的场所。殿前甬道有明万历年间铸造的大铁钟一只，重约650千克。该阁的东南面是禅房，是僧人参禅打坐的地方，对面的西禅房，则是负责接待宾客的堂室。
过了法堂便来到方丈室，这是方丈起居与理事的地方。乾隆曾西渡洛水至少林寺，即宿于此，并赋诗一首:“明日瞻中岳，今宵宿少林。心依六禅静，寺据万山深。树古风留籁，地灵夕作阴。应教半岩雨，发我夜窗吟。”室内有1980年日本所赠的铜质达摩像。东侧置放的是弥勒佛铜像，墙上挂有“佛门八大僧图”、“达摩一苇渡江图”。达摩亭在方丈室后，是一座单檐庑殿式建筑，相传是二祖慧可，立候达摩，断臂佛前之所。东配殿位于达摩亭西侧，是1983年重建，殿内有“南无阿弥陀佛”的石像和“达摩面壁影石”。
千佛殿又名毗卢阁，殿中供奉毗卢(即释迦牟尼)的佛像，面积达几百平方米，是寺内现存最大的殿宇。另外，千佛寺的东侧有白衣殿，西侧有地藏殿，都十分有名，值得一游。
少林寺的文物也十分丰富。寺内保存有珍贵的碑碣石刻，如武则天撰文的《大唐天后御制诗书碑》等多样文物。
少林寺西面不远处，就是国内现存的最大塔林。这些古塔是历代少林寺和尚的墓塔，共计230余座，占地面积约2.1万平方米。古塔因建筑年代不同而具有不同的建筑风格，它们造型典雅，石雕艺术精美，塔铭大多涉及到古代中外文化交流和少林武功的资料。
从塔林北行约1000米，就到达初祖庵。它三面临壑，背连五乳峰，景色幽雅秀丽，它是河南省现存最古老的、价值最高的一所木结构建筑，是为纪念达摩面壁而修建的。殿的檐柱、内柱、墙下雕石以及神台周围都有精美的浮雕。大殿神龛内供着达摩像。
从初祖阉出发，沿山路登上五乳峰，即可到达摩洞。洞内，有达摩和他的弟子的石像四尊。洞外，有一座明代万历年间建造的石牌坊。传说达摩曾在此面壁十年，由于功夫深厚，他的身影形状被印在山石上，留下了极富传奇色彩的“达摩影石”。周恩来总理有一句诗“面壁十年图破壁”，即来源于这一典故。
从少林寺往西南方向登钵盂峰，峰顶有一座佛殿，这就是二祖庵。相传禅宗二祖慧可，向菩提达摩学佛，断臂得到衣钵真传后，就在此养伤。殿前有四眼井，传说是慧可所凿。这四眼井相距甚近，但水味各异，名为“卓锡井”，当地人也称“苦、辣、酸、甜四眼井”。
