松石寺の歴史は古く、寺に伝わる縁起によれば平安時代初期の大同年間（８０６～８０９）に、後に弘法大師と呼ばれた空海が３３歳の時にこの地に来て、起立華厳経の経文の一文字ずつ小石に書き写した。その小石を国家鎮護の為として裏山の頂にあった盤石に収め、この地に一宇を開いたのがこの寺の始まりという。
その後は「華厳山乗碩寺」と号し律宗の寺院として続いていたが次第に衰微していき、鎌倉時代に入ると荒廃していた。南北朝時代の貞治４年（１３６９）に雲血由（ウンシュウ）律師という僧によって寺の再興が成り、その寺号も林徳院に変わった。
室町時代中期の広山白陽律師の代に、曹洞宗を開いた道元の子孫にあたる天巽（リン）慶順に寺を譲ったことにより、それまでの律宗から曹洞宗に改宗して寺号も創建当初の乗碩寺に戻して開創したのであった。