不久，法海禅师行单上的苦行生活圆满结束，开始三年的闭关修行。各类劳作外缘均通身放下，一心参禅。三年圆满时，不开关门，师父灵佑禅师亲自到关门外直呼“法海”之名。禅师在关中应声而出，关房门窗毫无损坏，是圆满得道的标志。一时间，合寺内外僧俗大众皆来亲近问道，为避俗讳，乃受师命，游历江西庐山等地，终至江苏镇江氏俘山的一片荒林中驻锡禅修。时隔不久，由当地信众说明，乃知氏俘山中自己的驻地于东晋时曾建过名为泽心寺的道场。在密林的荒烟蔓草间，禅师居然寻获到已被毁坏的残佛，于是，法海禅师燃烧一节指，誓愿重修道场，为众生树立伽蓝。于是开山挖田，刻苦劳作，渐渐赢得当地民众支持，开始建设寺院。
在一次挖地基时，意外掘出一批黄金镒（镒：音‘议’,古代重量单位，20两为一镒），法海禅师决定将其上交镇江太守。太守李琦将此事奉奏皇上，唐宣宗深为感动，敕令将黄金直接拨发给寺院常住，作为朝廷供养，修建寺院，并敕寺院名金山禅寺。法海禅师成为金山禅寺开山初祖。后世禅和，都深深敬仰！
在寺院完工以前，禅师一直在金山寺侧的一个山洞中禅修，后来成为远近闻名的禅窟，是颇有影响的‘法海禅师禅修洞’。经过漫长的艰苦创建，金山禅寺最后圆满建成，成为江南地区佛教界最大的禅宗丛林，名震古今。法海禅师也被亲切地称作金山寺的“开山裴祖”。
在历史上，法海禅师是苦行得道、受到整个江苏地方民众敬仰的开山祖师，从来没有拆散别人家庭的历史说法。史书中仅有一则驱赶咬伤人兽的白色蟒蛇进入长江的记载。
