据传说，当他离家修道的那天，正是佛陀在菩提树下金刚座上夜睹明星成正等正觉的时候。大迦叶东南西北四处访师求道，诸师所说，大都不能满足他的所愿。两年后，他在鸳伽国时才有人告诉他说，释迦牟尼佛是当今的大觉者，现 在正带领着舍利弗、目犍连、 优楼频罗迦叶等千余人住在竹林精舍。他一听很欢喜，便取道折返竹林精舍。

竹林精舍，是佛陀组织教团最初住的道场，在王舍城北门外不远的地方。大迦叶到了王舍城，他不直接去访问佛陀，只跟随王舍城佛陀的信众，每天去听佛陀说法。他心里想，如果不是真正的佛陀，一定不能拜他为师。在他认为，即使不能遇到佛陀，没有老师，自己也可以修证到二乘独觉的果位。

佛陀的说法，佛陀的德慧，渐渐打动他的心，有一天，他听完佛陀说法后，想回城中，走近城门不远的地方，多子塔边，在一棵大树枝叶交错的下面，佛陀正在那儿静坐。他临走的时候，还见到佛陀坐在竹林精舍的法王座上，怎么现 在又会逢到佛陀?他看了又看佛陀肃静和威严之相，好象一座金山，终于觉得应该向前礼拜。他在佛陀的座前合掌顶礼之后，非常感动恳切的说道：「佛陀!请接受大迦叶的皈依，从此大迦叶是佛陀的弟子!」

佛陀知道大迦叶此刻的信念，说道：「大迦叶!你真是我的弟子，我真是你的老师。在这个世间上，如果没有证得正觉的人，是受不起你做弟子。你跟我来吧!」佛陀静静的站起来，往竹林精舍的方向走去，大迦叶跟在佛陀的身后，他恭敬、感动、欢喜，不知不觉的流下了眼泪。佛陀回过头来看看大迦叶，然后说道：「我很早就听说过你，我知道你最后会到我这里求道的，今天是你得度的日子，未来佛法的流传，需要你的地方很多，为众生以及为你自己，都要珍重!」回到竹林精舍，佛陀为大迦叶剃度，又为他讲说四谛十二因缘等法，佛陀的威德相好，佛陀的亲切慈音，可以说，证悟的气氛包围了大迦叶。佛陀的教化，使大迦叶如同干田遇到豪雨一般，在他剃度的第八日，他就开悟了。