In 1932 fue a conocer al gran maestro de Kriya, Swami Shriyukteshwar Giri en su ashram de Serampore, Bengala Occidental. Complacido con las inclinaciones espirituales del joven Robinarayan, Shriyukteshwarji lo inició en el Kriya Yoga, le enseñó astrología cósmica y le suplicó que fuera a vivir a Karar, su ashram en Puri, Orissa. Debido a obligaciones profesionales y familiares Robi no pudo complacer los deseos de su maestro sino hasta seis años más tarde.

Cuando Paramahamsa Yogananda regresó a la India de Estados Unidos en 1935, Robinarayan fue bendecido al ser testigo de su estado de samadhi.
Aconsejado por Shriyukteshwarji, fue iniciado por Yoganandaji en el segundo Kriya.

En 1938 renunció al mundo y se internó en el ashram de Karar de su maestro en Puri, Orissa, comenzando la vida de un monje ascético como Brahmachari Robinarayan.

Durante su tiempo en Puri, tuvo la gran fortuna de conocer y recibir las bendiciones de muchos grandes maestros como Sri Anandamoyee Ma.
La Madre, quien también tenía un ashram en Puri, cariñosamente solía llamarlo "Sahib Baba" ya que lo había conocido antes de convertirse en monje, cuando todavía se vestía con ropa moderna occidental.

También compartió mucho tiempo con Nanga Baba Digambara Paramahamsa, el gran maestro relizado "revestido de cielo" quien vivía en un extremo lejano de Puri, cerca del templo Lokenath. Este misterioso santo también es conocido como Totapuri, el gurú de Ramakrishna, y se dice que vivió 350 años.

En 1941 recibió la iniciación en el tercer Kriya, impartida por Swami Satyananda Giri, amigo de infancia de Paramahansa Yogananda y en ese entonces Director del ashram de Karar.

Entre 1943-1945 él recibió las más altas iniciaciones en Kriya de Shrimat Bhupendranath Sanyal, el famoso padre de familia discípulo de Lahiri Mahasaya.

Unos meses más tarde, en 1941, mientras aún se encontraba recluido en su celda monástica, alcanzó el doble de la visión del imperecedero yogui Babaji Maharaj, quien lo bendijo y le profetizó que su misión era difundir al mundo entero el mensaje original de los maestros del Kriya Yoga.

Casi todas las noches lo encontraban meditando ante la Madre Kali, un aspecto de la Divina Madre que no tiene forma, la cual era la deidad que presidía en su celda monástica.

El 27 de septiembre de 1958, la Divina Madre se apareció ante él y lo bendijo con su fulgor sagrado, confirmándole su misión divina para la elevación espiritual del mundo.

En mayo 27 de 1959 hizo los votos de sannyas (iniciación monástica) ante Swami Bharati Tirtha, el Shankaracharya de Puri (una bendición excepcional!) y recibió el nombre de Swami Hariharananda Giri. Swami Bharati Tirtha fue un autor prolífico en las matemáticas védicas y tuvo el cargo de Shankaracharya (Pontífice) de la matemática Govardhan, Puri, de 1925 a 1960.