在湖北的黄梅开坛讲学，手下有弟子五百余人，其中翘楚者当属大弟子神秀大师。神秀也是大家公认的禅宗衣钵的继承人。弘忍渐渐的老去，于是他要在弟子中寻找一个继承人，所以他就对徒弟们说，大家都做一首偈子（有禅意的诗），看谁做得好就传衣钵给谁。这时神秀很想继承衣钵，但又怕因为出于继承衣钵的目的而去做这个偈子，违法了佛家的无为而作意境。所以他就在半夜起来，在院墙上写了一首偈子“身是菩提树，心为明镜台。时时勤拂拭，勿使惹尘埃”。这首偈子的意思是，要时时刻刻的去照顾自己的心灵和心境，通过不断的修行来抗拒外面的诱惑，和种种邪魔。是一种入世的心态，强调修行的作用。而这种理解与禅宗大乘教派的顿悟是不太吻合的，所以当第二天早上大家看到这个偈子的时候，都说好，而且都猜到是神秀作的而很佩服的时候，弘忍看到了以后没有做任何的评价。因为他知道神秀还没有顿悟。
和尚们的谈论，被厨房里的一个火头僧—惠能禅师听到了。惠能当时就叫别人带他去看这个偈子，惠能是个文盲，他不识字。他听别人说了这个偈子，当时就说这个人还没有领悟到真谛啊。于是他自己又做了一个偈子，央求别人写在了神秀的偈子的旁边，菩提本无树，明镜亦非台，本来无一物，何处惹尘埃。有这首偈子可以看出惠能是个有大智慧的人（后世有人说他是十世比丘转世），他这个偈子很契合禅宗的顿悟的理念。是一种出世的态度，主要意思是，世上本来就是空的，看世间万物无不是一个空字，心本来就是空的话，就无所谓抗拒外面的诱惑，任何事物从心而过，不留痕迹。这是禅宗的一种很高的境界，领略到这层境界的人，就是所谓的开悟了。
弘忍看到这个偈子以后，问身边的人是谁写的，边上的人说是惠能写的，于是他叫来了惠能，当着他和其他僧人的面说：写得乱七八糟，胡言乱语，并亲自擦掉了这个偈子。然后在惠能的头上打了三下就走了。这时只有惠能理解了五祖的意思，于是他在三更的时候去了弘忍的禅房，在那里弘忍向他讲解了《金刚经》，并传了衣钵给他。然后为了防止神秀的人伤害惠能，让惠能连夜逃走。于是惠能连夜远走南方，隐居15年之后在曹溪宝林寺创立了禅宗的南宗。在第二天众人知道了这件事以后，曾派人去追惠能，但没有追到。后来神秀成为护国法师，形成“南能北秀”的格局。