Hakimlik görevinde bulunan Niyazi Bey ile Şerife Hanımın oğlu Cahit 1 Temmuz 1940'ta Ankara'da dünyaya gelir Şair, okuma-yazmayı, resim yapmayı ve Kur'an-ı Kerim okumayı, okula başlamadan önce, annesi Maraşlı Evliyazadelerden Şerife Hanım ile anneannesi ve mahalle hocalarından öğrendi.
Zarifoğlu, Şanlıurfa'da başladığı ilköğrenimini, 1951'de Kahramanmaraş'ta tamamladı.
Babasının görevi sebebiyle Zarifoğlu'nun çocukluğu Silvan, Baykan, Siirt, Siverek ve Kızılcahamam'da geçti. Usta kalem, lise son sınıfta edebiyat ve matematik derslerinden bütünlemeye kaldığı için 1955'te başladığı lise öğrenimini 1961'de bitirdi.
Kahramanmaraş'a dönerek kısa bir süre vekil öğretmenlik yapan Zarifoğlu bir gazetede çalışmaya başladı. Başarılı edebiyatçının ilk şiirleriyle denemeleri, yerel gazete ve dergilerde yayımlandı.