A mozi világába már kicsi gyerekként beleszeretett, hiszen édesapja, Makk Kálmán mozigépészként dolgozott. Érettségi után gyakornokként helyezkedett el a budapesti Hunnia Filmgyárban, majd a Pázmány Péter Tudományegyetemre járt művészettörténet—filozófia—esztétika szakra. Felsőfokú tanulmányait a debreceni egyetemen folytatta, de Ranódy László elhívta a Sarló Filmvállalathoz. A Színház- és Filmművészeti Főiskolára később iratkozott be, filmrendező szakra, s még itt összebarátkozott Radványi Gézával. A Valahol Európa című filmben mint ügyelő dolgozott. A filmrendező szakot végül nem végezte el, kirúgták, egy kötelező feladatként kapott, úttörőtémájú filmjéből ugyanis az illetékesek hiányolták a szocialista realizmus ismertetőjegyeit. Később Nádasdy Kálmán levizsgáztatta, ezért diplomázhatott. 1951-ben lett tanár a Színház- és Filmművészeti Főiskolán. Első játékfilmje a Liliomfi, mely az 1995-beli cannes-i filmfesztiválon Arany Pálma-jelölést kapott. A főbb szerepekben Darvas Iván, Krencsey Marianne, Dajka Margit, Pécsi Sándor, Ruttkai Éva voltak láthatóak. Makk Károly a film készítésekor még harmincéves sem volt. Következő filmje a 9-es kórterem, ezután évente készített egy új alkotást (Mese a 12 találatról, A 39-es dandár, Fűre lépni szabad, Ház a sziklák alatt, Mit csinált felséged 3-tól 5-ig?, Bolondos vakáció).

A Déry Tibor novellái alapján 1970-ben elkészült Szerelem című alkotása Darvas Lili és Törőcsik Mari felejthetetlen alakításával újabb mérföldkő Makk Károly munkásságában. Az 1971. évi cannes-i filmfesztiválon az alkotás elnyerte a zsűri díját, színészi játékáért pedig a két főszereplő, Törőcsik Mari és Darvas Iván külön dicséretben részesült, emellett Makk Károlyt a Nemzetközi Katolikus Film- és Audiovizuális Szervezet által adományozott OCIC-díjjal tüntették ki. Törőcsik Marit a legjobb női alakítás kategóriában az 1971. évi Chicagói Nemzetközi Filmfesztiválon is díjazták. 

A Macskajátékkal Makk Károly újabb hatalmas hazai és nemzetközi sikert aratott. Az Örkény-mű nyomán készült filmben újra együtt dolgozott Dajka Margittal és Törőcsik Marival. Az 1974. évi cannes-i fesztiválon Arany Pálma-jelölést kapott, 1975-ben pedig a legjobb idegen nyelvű film kategóriában terjesztették fel Oscar-díjra. Az Egy erkölcsös éjszaka, a Magyar rekviem, az Egymásra nézve vagy Az utolsó kézirat szintén a maradandó filmjei közé tartoznak — ezek az alkotások is megjárták a cannes-i filmfesztivált. Utolsó rendezése a 2010-beli Így, ahogy vagytok volt, melyben Cserhalmi György, Nagy-Kálózy Eszter és Csányi Sándor játszotta a főszerepet.

Első felesége a 2016 márciusában elhunyt színésznő, Krencsey Marianne, a második Dőry Virág színésznő, jelmeztervező volt. Makk Károly későn lett édesapa. Harmadik feleségétől, Dömötör Hannától két gyermeke született: ötvennyolc éves volt, amikor Dömötör fia, és hatvanéves, amikor Lili lánya világra jött. 1959-ben Balázs Béla-díjjal, 1973-ban Kossuth-díjjal, 2014-ben a Nemzet Művésze díjjal tüntették ki, 2012-ben szülővárosában, Berettyóújfaluban róla neveztek el egy helyi mozit. 2014 novemberében jelentette meg Szeretni kell — Egy élet filmkockái című életrajzi könyvét. 2017. augusztus 30-án kilencvenegy éves korában hunyt el.