據漳州府誌與寺內現存的聖旨碑記載，此院建於唐朝垂拱二年（即公元686年）。石室禪院在有歷史記載的修建年代中——宋、元、明、清、民國均有考證。
明代倭寇侵擾閩海，戚繼光將軍領兵入閩，抗擊倭寇，至今石室禪院後山，仍然留有戚將軍抗倭的“遊城古寨”與“尖山古寨”遺跡，及當年紮兵駐寨時所用馬槽，這些歷史遺物，無不壹壹昭示，當年的豐功偉績。
石室禪院歷經興衰史遷，在明朝時傳為全盛。寺內有僧數百，但後來據說最多只能住99個出家人，再不增至100，其中有壹緣故，原來古石室禪院所在地風水極佳，名為“金雞抱卵”——（卵圓光形，喻比出家人），而寺院對面有壹山為蛇形，寺山之間壹河相隔，故而無恙，否則，蛇吞雞卵，極是不詳，後寺院來壹道士，自感受怠慢，便暗中鼓動鄉人造橋於河上。於是風水被破，“金雞”受“蛇”侵襲，難以護卵至百個。此後寺院漸漸衰落。
改革開放初，有人盜運石室禪院古石獅，車行半路莫名連續爆胎，竊者驚怕。就把石獅扔至附近甘蔗地，而由當地人尋回。據說古石獅嘴裏含的圓石，若有人想求小孩，多摸幾下就會如願。 文革期間，盛傳壹事。說是石室禪院內本有壹尊玉觀音，有壹教師，趁寺院慘遭浩劫之時，突發奇念，砍掉佛頭，背佛身回家，欲作壹玉茶幾，激怒護法善神，施以懲罰，其人路至海滄嵩嶼碼頭，還未上船，途中暴死。
1989年，宗教政策落實後，在霞陽村眾姓居士的辛苦努力下，掃除穢物，重塑金身，禪院開始重現香火。昔日的牛房，頓成悠古的寺院，香客絡繹不絕。當時的區委辦公室主任楊炳坤居士還把所有石室禪院的歷史資料整理成冊。
1996年底，受市佛協委托，兼當地居士邀請。忠明法師、朗明法師來此寺常住。兩位法師畢業於閩南佛學院，乃發起重興石室禪院之宏願，內重自修，舉辦各種法會，外重弘法，積極促進與各界交流，並在2000年初創立廈門市石室禪院慈善功德會。
2001年初開建的蔡尖尾山隧道打通後，禪院前面壹條主幹道將其直通海滄大橋，廈門及海滄交通愈加方便。
寺院後山，自古以來就相傳有十八景，如高山天湖、試劍石、仙腳石、石鼓、石旗、觀音崖、三魁嶺古道等自然景觀和人文遺產，為此也留下不少民間故事和神話傳說，令人發古之幽情，感今之盛世。
，並在2000年初創立廈門市石室禪院慈善功德會。功德會以“效仿佛陀慈悲，弘揚藥師精神”為宗旨，以“感恩、凈心、惜福”為理念，聯合了壹大批學佛青年及熱心人士參與慈善活動，舉行了諸如助學、濟貧、環保、救病、義賣、文化講座、老幼關懷等各種活動，在島內外產生很大影響，各大電視、報紙常有報導。