A kis Gabika már nyolcévesen színpadra lépett. Alig tizenöt esztendős kamaszként a Szegedi Színház szerződtette: „táncos boy és kardalos" volt a beosztása. Apja támogatta ebben, hiszen úgy vélte, hogy minden mesterség lehet értékes, ha tisztességgel végzi az ember. 1941-ben úgy tűnt, hogy az ifjú Agárdy színészi álmai örökre szertefoszlanak — az oroszországi frontszínházhoz vezényelték. Hadifogságba esett, de szerencsére kilenc hónap elteltével kiszabadult, és visszatérhetett Magyarországra. 1942-ben a Miskolci Nemzeti Színház társulatához szegődött. Jól érezte magát vidéken, tíz esztendő elteltével azonban Budapestre költözött, hogy az ottani polgároknak is megmutassa tudományát.  

1952-ben a Budapesti Operettszínházban kapott lehetőséget. Egyik nagy tanítómestere Latabár Kálmán volt, aki így vélekedett magáról: „Apuskám, én nem vagyok színész, csak mulattató”. Agárdy nagy igazságokat tanult tőle. Például azt, hogy ha dadogó, púpos vagy sánta figurát alakít is a színész, nem szabad elfelejtenie, hogy ő is ember. Az ötvenes években a legtöbb időt mégis az első magyar musicalszínháznak, a Petőfinek az oszlopos tagjaként töltötte. Ebben az évtizedben a filmgyár is felfigyelt markáns alakjára. 1958-ban, a Csempészek című Máriássy Félix-moziban láthatta a nagyérdemű. A kor legszebb színésznőjeként számon tartott Bara Margittal szerepelt. Mihály szerepében nyújtott alakításának minden mozdulata — ahogyan rágyújt a kabátfedezékében, ahogyan kanalat követel a vacsorához, vagy amint éppen megpaskolja a befogott ló pofáját — szociográfiai tanulmányba illő. Jellegzetes bajusza, testtartása, férfias megjelenése, viharos természete predesztinálta ezekre a szerepekre. A hatvanas évek mozikorszakában ő volt az „ügyeletes zseni”. Filmklasszikusokban láthatta a nagyérdemű, úgymint: Egy magyar nábob, Kárpáthy Zoltán, Szegénylegények, Egy szerelem három éjszakája stb. Legemlékezetesebb alakítását Várkonyi Zoltán Egri csillagok című nagyszabású történelmi drámájában nyújtotta. Sárközy cigány bőrébe bújva megmutatta, hogy milyen is a körülményei által determinált ember, aki a maga módján mindenütt megállja a helyét. Sikerei ellenére sosem szerette a filmezést, úgy tartotta ugyanis, hogy az nem a színész, hanem inkább a rendező, operatőr művészete.

Élete legnagyobb lehetőségét kapta 1964-ben, amikor is Both Béla színigazgató szerződést ajánlott neki a Nemzeti Színházba. Haláláig nemzetis maradt. A drámairodalom legnagyobb alakjait formálhatta meg. Készen hozta a figurát. Kis szerep vagy nagy szerep — neki egyre ment. Egyforma alapossággal foglalkozott, készült rájuk. Variációkat mutatott. Vallotta, hogy egy igazi mesternek sem a komédia, sem a tragédia nem jelent problémát. A kabaré hálás műfaj, mert a nézők tapssal, kacagással fizetnek. Olyan azonban még nem volt, hogy egy tragédia után valaki az első sorból felszóljon: — Művész úr, itt egy százas, olyan jól megríkatott!

Ha kellett, akkor alkalmazkodott a rendezőhöz, a dramaturghoz és a partnerhez. Mégsem értette, hogyan meri valaki átírni a klasszikusokat, Vörösmartyt vagy Aranyt. Shakespeare-t meghamisítani főbenjáró bűn. Ő belejavított ugyan olykor a szövegeibe, de a nagy művekbe soha. Úgy vélte, hogy az illúziót meg kell hagyni a színpadon. Hadd legyen a vihar csakugyan vihar... Szerette, ha neki se árulta el senki, hogy Schwartz bácsi rázza a bádoglemezt a színfalak mögött. Egyik legjobb barátja ebből az időszakból Sinkovits Imre volt. Harmincnyolc évig öltöztek együtt. Sinkovits halála után senkit sem engedett maga mellé, egyedül szeretett készülődni.

A játékon kívül a festészet volt a legnagyobb szerelme. Az ecsettel még hatéves korában került kapcsolatba, amikor labdájával egyszer berúgta Erdélyi Mihály festőművész ablakát. Kollégáinak a festészet és a színjátszás közötti különbségről is vallott. A festő „bemázolja”, majd elteszi a képeit — azaz munkája megmarad —, a színművész alakítása pedig — ami este héttől tízig tart, és másmilyen csütörtökön, mint pénteken — illékony, eltűnik. Élete derekán így vallott: „Mindig a magam útját jártam. Tizenöt évig ócska, megtaposott, vidéki komédiásként tengődtem. Utána jó néhány esztendeig lenézett Broadway-színész voltam. A szerepeimet a legjobb tudásom szerint játszottam. Ha pedig erre képtelen vagyok, veszem a kalapomat.” 2006-ban örökre eltávozott. Síremlékére egy Márai-gondolatot véstek: „Amíg az embernek dolga van a földön, él”.