1943 yılında Kahire’de doğdu. İhsanoğlu, Mısır Ayn Şems Üniversitesi Fen Fakültesi’nden mezun olduktan sonra El-Ezher Üniversitesi’nde akademik hayata başladı. Türk kültürünü küçük yaşta aile çevresinde tanıyan İhsanoğlu, Kahire Milli Kütüphanesi’nde ve Ayn Şems Üniversitesi Edebiyat Fakültesi’nde Osmanlı kültürü ve edebiyatı ile ilgili araştırma ve eğitim çalışmaları yaptı.
1974′te Ankara Üniversitesi Fen Fakültesi’nde doktorasını tamamladıktan sonra, İngiltere’de Exeter Üniversitesi’nde doktora sonrası çalışmalar yaptı. İslâm ve Batı kültürüyle yakından teması olan İhsanoğlu, 1984′te profesör oldu.
İhsanoğlu, 24 yıl boyunca İslam Konferansı Örgütü (İKÖ) İslâm Tarih, Sanat ve Kültür Araştırma Merkezi’nin genel direktörlüğünün yürüttü. Bu görevinin yanı sıra İstanbul Üniversitesi Edebiyat Fakültesi Bilim Tarihi Bölümü ile Türk Bilim Tarihi Kurumu’nun başkanlığını ve İstanbul Üniversitesi Bilim Tarihi Müze ve Dokümantasyon Merkezi müdürlüğü görevlerinde bulundu. İhsanoğlu, 4 dil biliyor, evli ve 3 çocuk babası.