Ahmet Sezai Karakoç, 22 Ocak 1933 tarihinde Ergani, Diyarbakır'da doğdu. Babası Yasin Bey olup 1. Dünya Savaşı'nda Kafkas cephesinde çarpışırken Ruslara esir düşmüştür. Babası orta halli bir tüccardı. Dedesi Hüseyin Bey de Plevne Savaşı'na katılmış, Gazi Osman Paşa'nın teşekkürünü kazanmıştır. Annesinin ismi ise Emine idi ve ev hanımıydı. Ahmet Sezai Karakoç, İlkokul eğitimini 1938-1944 yılları arasında Ergani'de tamamladı. 1944 yılında sınavlara girip Maraş Ortaokulu'nda parasız yatılı olarak okumaya hak kazandı. 1947-1950 yılları arasında lise eğitimini yine parasız yatılı olarak Gaziantep Lisesi'nde tamamladı. Lise eğitimi boyunca Felsefe dersine ilgi duydu ve Felsefe okumaya karar verdi. Üniversite eğitimi için İstanbul'a geldi. Babası onun ilahiyat fakültesinden mezun olmasını istiyordu. İmkanları dahilinde eğitimine devam edebileceği yatılı tek bölüm Siyasal Bilgiler Fakültesi idi. Üniversite sınavlarına hazırlanırken kazanamama ihtimalini de göz önüne alarak her ihtimale karşı Felsefe bölümüne kayıt yaptırdı.
Ankara Üniversitesi Siyasal Bilgiler Fakültesini kazanarak başladığı yüksek öğrenimini 1955'te fakültenin Maliye Bölümünden mezuniyetle tamamladı. Mecburi hizmet sebebiyle Maliye Bakanlığında Hazine Genel Müdürlüğü Dış Tediyeler Muvazenesi bölümüne atandı.