Il tempio di Shaolin venne fondato nel 495 d.C. ai piedi del lato occidentale della montagna Songshan Mountain, 13 chilometri a nordovest della città di Dengfeng, nella provincia dello Henan. Il decimo imperatore Xiaowen della dinastia dei Wei del nord (386-557) fece costruire il tempio per sistemare il monaco e Maestro Indiano Batuo (Buddhabhadra). Tempio Shaolin significa letteralmente “Tempio nella folta foresta della Montagna Shaoshi”.
All’inizio l’abate di Shaolin Batuo (Buddhabhadra) si dedicò alla traduzione delle scritture Buddiste e alla predicazione. In seguito arrivò al tempio un altro monaco indiano Bodhidharma; si racconta che questo monaco avesse attraversato il fiume Yangtze su una canna. Egli trascorse nove anni in meditazione nella caverna del picco Wuru e dette inizio alla tradizione cinese del Chan nel Tempio di Shaolin. Quindi, in seguito, Bodhidharma venne onorato come il primo Patriarca del Buddismo Chan. Dato che il Kung Fu Cinese ebbe origine nel Tempio di Shaolin, il tempio è stato riconosciuto originariodel Buddismo Chan e culla del Kung Fu.