Свети Иларион се настанио у Дионизијату, где је живело 14 монаха под вођством игумана Евлогија (остатак братије подвизавао се на острвима Порос, Закинтос и Скопелос и вратио се у манастир 6. јуна 1830. године). Али пошто је тамо, као иу другим светогорским манастирима, постојао турски гарнизон (у Дионизијати - више од 50 људи), Иларион се убрзо преселио у пећину у близини манастира, где се трудио 2,5 године. Затим је Иларион провео још 3,5 године у пећинама Катунаки у тишини, једући само биље, корење и кестене. Његов духовни отац у то време био је светогорски старац Неофит (Караманлис).
Једном је неки монах сакупљао пужеве код пећине Илариона Грузиног. Откривши у њој старца, изнемоглог од болести и глади, монах му даде пужеве и исприча му о подвижнику у најближим испосницама; монаси су почели да му доносе храну и да траже духовни савет. Спутан значајним бројем посетилаца, Иларион је, затраживши благослов од Павла, настојатеља Новог скита у част Рођења Пресвете Богородице, отишао у повлачење, склонивши се у кулу Новог скита, где је провео око 3 године. Становник манастира монах Герасим му је сваких 15 дана доносио чварке и воду.
Монах Герасим је више пута био сведок како су се светом Илариону јављали демони. Једног дана је пронашао старешину полумртвог, претученог од „безбројних пукова демона који су марширали до његовог пристаништа (куле) из самог песка Светог Павла, на удаљености од пола сата путовања“. Старешина је изведен из куле и позван свештеник. Венедикт (Киотишвили), и он је убедио пустињака да напусти изолацију. Старац је премештен у келију светог Харалампије, „где се о њему старао о. Бенедикт“, затим у дионизијску катизму светог Јакова, брата Господњег. Али пошто су међу братијом у Дионизијату убрзо настали спорови о томе колико често треба причешћивати, и свака страна је покушавала да придобије Иларионову подршку, старац се после 2 месеца преселио у манастир Иверон, где је живео 6 месеци (1836). Овде је почео да раставља терет. књиге и саставио 1. каталог терета. библиотеке. Јеронима.
Антоније Свјатогорец такође истиче да је Иларион Гружин направио изводе из књига и рукописа (углавном житија светих) у укупном износу од 12 томова, које је на грузијском језику у Русији објавио игуман Зограф под насловом „Цветњак“ и без навођења аутора.
Опоравивши се од болести, Иларион се преселио у Иверску келију Светог Јована Богослова, где су се подвизавали грузијски монаси и где је „нашао право ћутање“. Два брата - калиграф Макарије и Савва (касније познати светогорски подвижник старац Савва Нови (1821-1908)) - молили су га да их узме под своју команду. Иларион је био срећан што има грчке ученике: Савва му је помогао да се усавршава у грчком језику. На молбу руских монаха Иларион је прихватио исповест у руском великомученику Пантелејмоновом манастиру (Русик). Да би избегао празнословље, отишао је на 5-10 дана код старца Бенедикта (Киотишвилија) у Иверонску келију пророка. Илија. Међутим, и тамо су га страдалници нашли, и старац се убрзо преселио у келију св. Архангелов, а 1843. године прешао у дионизијску келију светог Јакова, брата Господњег. Одбивши титулу исповедника, Иларион је ипак био принуђен да прихвати оне који су долазили по духовни савет. Убрзо су почели да га називају „исповедником светогорских исповедника“. Имајући потребу за усамљеношћу, он је периодично одлазио на неколико дана у дионизијску катизму светог Онуфрија.
Августа 1849. И. Г. је посетио црквени историчар и писац А. Н. Муравјов, који је за подвижника чуо од П. Јоселијанија, који је проучавао грузијске рукописе на Светој Гори. Муравјов је старешину назвао „непроцењивим благом – пустињаком, каквих је мало на Атосу“ и напоменуо да је старешина „ради крајње понизности одбио да служи свештенство“ (Муравјов. 1851. Том 1. стр. 290-292). Ученик Илариона Грузина Макарије 1851. године блаженопочиње, а Сава је рукоположен за ђакона, а затим за свештеника.
Сачувано је писмо јеромонаха Савве монаху Денасију, који се подвизавао у Русики, где се описује са каквом је дубоком стрепњом монах Иларион реаговао на вест о почетку Кримског рата 1853-1856. Сазнавши да је цариградски патријарх Антим ВИ (Јоаник) издао указ о читању молитве у свим светогорским манастирима за давање победе Турцима, старац се „престраши и рече: „Није хришћанин!” (Антоније Свјатогорец. П. 1985). По предсказању И.Г., монаси манастира Григоријата (види Манастир Св. Григорије монах на Атосу) који су читали молитву навукли су гнев Божији: млаз воде срушио је воденицу, а у манастиру се подигао жамор. Игуман и братија су молили старца Илариона да им покаже како да измоле опроштај од Бога и држали су се свих његових упутстава. Према речима архим. Херувими (Карамбелас), 1854. године, официри руског једрењака који је бацио сидро код Дионизијата, по налогу руског цара. Николај И се обратио Светом Илариону да сазна исход рата.
Старац, који није желео да буде поштован као пророк, одбио је, али је трећег дана, попуштајући убеђивању, рекао: „Русија ће издржати тешкоће, неће победити, али неће ни изгубити територије“ (Херувим (Карамбелас). 2000. С. 326).
Године 1857. у Дионизијати је настао сукоб због чињенице да је у просфори живео просфорац који је чувао мачке. Свети Иларион је оптужио игумана манастира Евлогија да је занемарио светитеља и саветовао му да изгради пространију просторију за просфору – „бар половину“ нове игуманове келије. Гневни игуман примора старца да напусти манастир, а свети Иларион се пресели у групу калива Мале Свете Ане, која се налази у близини пећине у којој се претходно подвизавао. Неки трговац му је купио катизму св. која је припадала манастиру. Онуфрија, где је старешина живео 5 година. Олтару келије била је потребна значајна поправка, али манастир није имао средстава за то. Новац се појавио неким чудом: један монах из Велике лавре, заузет прикупљањем средстава за свој манастир, срео је у Влашкој једну жену која му је предала 20 дуката и замолила га да их преда Илариону Гружину. Како се касније испоставило, старешина није знао ко је она и, одлучивши да новац није за њега, наредио је да се подели сиромасима.
Међутим, сабор Лавре је одлучио да се овим средствима обнови црква у старчевој келији: на захтев Илариона, нови храм је освећен у част Васкрсења Христовог.
Године 1859. старешину су посетили управник канцеларије Светог синода Руске православне цркве П. И. Саломон и службеник посебних задатака К. К. Зедерхолм (каснији јеромонах Оптинске испоснице Климент), који су пристизали да разреше духовна и црквена питања и одговоре на духовна и црквена питања: Саломоново писмо1862. Илариона од 4. фебруара 1863. године. Године 1859. десио се догађај који је постао познат ван Атоса. Јеронима. Григорије из манастира је у праву. Ана (Велика Света Ана) и игуман манастира Кутлумуш „прихватили су енглеско држављанство и пасош“. Иларион Грузин наложио је епитимију јеромонаху Григорију – изопштио га је од богослужења на 40 дана. Међутим, игуман Кутлумуш, изјављујући да јеромонах Григорије „слуша човека који не разуме ништа даље од своје дивље пустиње“, наредио је служење и помен имена енглеског протестантског посланика у проскомедији.
Исповедник јеромонаха Григорија и старца Илариона пооштрише епитимију, али игуман, сазнавши за то, погрди оба старца и натера јеромонаха да их одбаци. После литургије, јером. Григорију је почела крварење из носа, које се није могло зауставити, и он је умро.
Године 1862. Иларион Грузин и јеромонах Савва су се преселили у Русик и настанили се у келији печерских монаха, а годину дана касније - у келији великог мученика, коју је посебно за старца подигао његов руски поштовалац из Острогожска Е. Г. Хабаров. Ђорђа, црква у којој је освећена у октобру те године. У исто време, старешину је посетио и главни тужилац Светог Синода Руске Православне Цркве гр. А. П. Толстој (1856-1862). Међутим, разговор са старешином, о коме је гроф много чуо од своје жене, грузијске принцезе А. Г. Грузинске, створио је повољан утисак о Атосу.