Ya'la masuk Islam tidak lama setelah Nabi Muhammad SAW diangkat menjadi Nabi dan mengirim santri-santrinya berdakwah ke beberapa wilayah di Jazirah Arab untuk menyebarkan Islam.
Ada yang dikirim ke Madinah, Syria, Kufah dan wilayah-wilayah lain di jazirah Arab.
Di Kufah, tidak sedikit yang akhirnya masuk Islam dan menjadi muslim yang baik, di antaranya adalah Ya'la bin Murrah.
Sejak masuk Islam, Ya'la mulai menyibukkan diri untuk mempelajari Islam di sebuah tempat yang didirikan oleh Nabi Muhammad SAW di rumah Al-Arqam.
Sebagai orang yang baru mempelajari Islam, Ya'la bin Murrah pernah punya pengalaman yang memalukan ketika ia harus dikritik dan ditegur langsung oleh Nabi Muhammad SAW karena ketahuan melumuri tubuhnya dengan khaluq (parfum yang cukup populer di Arab kala itu) yang menurut beliau justru tidak akan membawa kebaikan untuk dirinya.
Dalam hal ini, Ya'la bin Murrah bercerita yang artinya:
"Rasulullah saw melihatku sedang melumuri tubuhku dengan khaluq (parfum yang cukup populer di Arab saat itu), kemudian beliau bertanYa, 'Apa enGkau memiliki istri?' Ya'la bin Murrah meniawab, 'Tidak.' Rasulullah lantas bersabda, 'Pergi dan cucilah (Khaluq yang telah dipakai), cucilah, cucilah, dan jangan kamu ulangi lagi!" (HR. An-Nasa'i).
Teguran Nabi Muhammad SAW terhadap Ya'la tersebut dimaksudkan karena dalam ajaran Islam, melumuri tubuh dengan khaluq termasuk salah satu tindakan yang menyebabkan pelakunya dijauhi Malaikat, sebagaimana sabda Rasulullah yang artinya: