大定九年冬天，王重阳率领马钰、谭处端、刘处玄和丘处机四名弟子前往河南汴州。次年春天，王重阳在汴州逝世，遗命尚未悟道的刘处玄听从师兄谭处端的教诲。随后在马钰的率领下，四人将王重阳暂葬于汴州，接着前往长安和终南山，拜会王重阳的道友和德谨、李灵阳，以及其早期弟子刘通微、史处厚和严处常。大定十二年（1172年），又在马钰的带领下，众人将王重阳遗体迁葬于终南山，并在墓旁结庐为亡师守丧。
大定十四年（1174年）守丧期满，于中秋节时，马钰、谭处端、刘处玄和丘处机在秦渡镇真武庙夜话，这时刘处玄表示会以“斗志”为修炼方向。与同门分别后，刘处玄前往洛阳，混迹于处身市井和花街柳巷之中，以磨练自己的心性。
