Režírovanie filmov bola podľa neho tá najväčšia zábava na svete. K filmu sa dostal z prostredia reklamy, kde začínal ako textár. V agentúre sa stretol s režisérom Jackom O'Connelom, ktorý ho prizval na spoluprácu na filme Stalo sa v Greenwich Village (1963). Neskôr spolupracoval aj s režisérmi ako Arthur Penn či Otto Preminger.
Temný a znepokojivý
Avildsenovým debutom bola snímka Turn on to Love (1969), väčšiu pozornosť si však získal až svojím tretím filmom Joe (1970), ktorý kritici označujú za jeho najtemnejší a najznepokojivejší. Nezávislý film s rozpočtom iba čosi vyše 100-tisíc dolárov sa stal hitom a v kinách utŕžil cez 19 miliónov dolárov. V príbehu robotníka (Peter Boyle), ktorý nenávidí „hipisákov“ a vlastne každého, kto sa nejako vymyká z normálu a rád by niekoho takého zabil, sa vo svojej prvej filmovej úlohe predstavila aj Susan Sarandonová. Vo filme Zachráňte tigra (1973) zveril hlavnú úlohu podnikateľa v textilnom priemysle, ktorý prechádza životnou krízou, Jackovi Lemmonovi a ten za ňu získal Oscara.
O niekoľko rokov neskôr sa Oscara dočkal aj Avildsen, keď ho v kategórii réžia získal v silnej konkurencii (Ingmar Bergman, Sidney Lumet, Alan J. Pakula) za film Rocky (1976), ktorý získal aj ďalšie dve sošky v kategóriách najlepší film a strih. „Keď sa ku mne ten scenár dostal vďaka starému priateľovi, povedal som, že sa nezaujímam o box a myslím si, že boxovanie je istým spôsobom hlúposť. Ale priateľ naliehal a naliehal, takže som si to nakoniec prečítal. A na druhej alebo tretej strane sa hrdina prihovára svojim korytnačkám. Očarilo ma to. Myslím si, že je to vynikajúca charakterová štúdia a krásny príbeh lásky,“ povedal o Rockym pre portál Baltimoresun.com Avildsen. Pod scenárom je podpísaný Sylvester Stallone, ktorý stvárnil aj hlavnú úlohu, a príbeh outsidera, ktorý v ringu dokáže 15 kôl vzdorovať boxerskému šampiónovi a majstrovi sveta Apollovi Creedovi, spravil z neznámeho herca hviezdu.
Ďalšie tri pokračovania Rockyho už nakrútil Stallone, Avildsen režíroval piatu časť. V nej mal Rocky zomrieť, štúdiám sa to však nepáčilo, a tak ho nechali nažive. Aj vďaka tomu sa Stallone k Rockymu mohol neskôr po rokoch vrátiť. Prvá časť filmu, ktorý The Ultimate Book of Sport Movies zaradila na prvé miesto rebríčka najlepších športových snímok, mala úspech aj u divákov. Film s ikonickou hudbou Billa Contiho a s rozpočtom pod milión dolárov len počas otváracieho víkendu v Amerike utŕžil 5 miliónov dolárov. Celosvetovo sa jeho tržby vyšplhali až na 225 miliónov dolárov a zarába dodnes.
Strážca amerického optimizmu
Ďalší príbeh outsidera, ktorý sa stal kultom, nakrútil Avildsen podľa scenára Roberta Marka Kamena. Jeho hrdinom je Daniel LaRusso (Ralp Macchio), ktorý sa s matkou presťahuje do Kalifornie a má problém s partiou miestnych karatistov, ktorí ho surovo zbijú. Spriatelí sa však so starým Japoncom Kesuke Mijagiom (Pat Morita), majstrom karate, ktorý ho naučí, že kartate nie je iba o úderoch, ale aj o rozvahe, pokoji a čistej mysli. „Karate Kid má toho istého ducha ako Rocky. Film pomohol mladým ľuďom ísť za dosiahnutím svojich cieľov. John je ,autor' zápasu a nádeje. Alebo ako povedal komik Mort Sahl: ,Avildsen je strážca amerického optimizmu',“ napísal v úvode knihy o Avildsenovi režisér Jean Bodon.
Okrem dvoch pokračovaní Karate Kida nakrútil Avildsen ešte krimikomédiu Šťastný nový rok (1987) v hlavných úlohách s Petrom Falkom a Charlesom Durningom a tiež drámu Opri sa o mňa (1989), v ktorej v úlohe nekompromisného riaditeľa školy zažiaril Morgan Freeman.
