Dos meses después de ese despertar abandonó la ciudad de Madura. Se dio cuenta que su destino era otro. Dejó una carta para no preocupar a su familia en la que escribió: Voy en busca de mi Padre tal como El lo ha ordenado. Me he embarcado en una empresa virtuosa, por consiguiente, nadie debe llorar este acto ni gastar dinero en mi búsqueda. Y partió a Tiruvannamalai en busca de la colina de Arunachala. Su alma liberada del cuerpo buscaba todavía un fundamento permanente en el Yo con el cual había realizado su unidad.

Después de un largo viaje no exento de peripecias llegó a Tiruvannamalai, dirigiéndose inundado de gozo hasta el Templo de Arunachala, su lugar elegido. El santuario interior estaba abierto y vacío. Entró sintiéndose fuertemente impresionado y profundamente conmovido ante su Padre, Shiva, sumergido en la felicidad de su unión con él. Era el l0 de septiembre de 1896.

Desde ese instante se puede decir que empezó la segunda etapa de su vida posterior a la realización del Yo. Aquí volvió la mirada a su mundo interior, olvidándose por completo del mundo exterior. Permaneció durante seis meses en distintos lugares del Templo, completamente absorto en su meditación, recibiendo los escasos alimentos que le proporcionaban algunos devotos que llegaban al lugar. Estaba en constante estado de samadhi, sentado completamente inmóvil durante días y noches, absorto en la felicidad del Ser. En ese período de completo olvido de su cuerpo, fue atacado por hormigas y sabandijas, hasta tal punto que su cuerpo quedó plagado de heridas infectadas. Dadas sus condiciones físicas y, con el afán de protegerlo, lo trasladaron al Santuario de Subramanian sin que él revelara tener consciencia de lo que hacían con su cuerpo. Continuaba sentado en samadhi, siendo necesario que los devotos le introdujeran la comida en la boca, porque él no ponía la menor atención en alimentarse.

En total pasó dos años y cuatro meses en los Templos y jardines de Tiruvannamalai en completa inmovilidad. Su ascetismo no era para lograr la realización, sino el resultado de ella. A fines de 1898 se trasladó a vivir a la colina de Arunachala, lugar que no abandonaría hasta su muerte en 1950. La primera parte de ese tiempo vivió en diferentes cuevas ubicadas en las laderas, hasta que en 1922 se trasladó al pie de la colina donde más tarde se construiría el Ashram a su alrededor.