1962'de siyasi yaşama atılarak Adalet Partisine (AP) katıldı. Aynı yıl yapılan I. Kongre'de genel idare kuruluna seçildi. AP'lilerin af kampanyası sonucunda eski cumhurbaşkanı Celâl Bayar'ın 22 Mart 1963'te şartlı olarak serbest bırakılmasının ardından Ankara'da meydana gelen olaylar sırasında AP genel merkezinin saldırıya uğraması üzerine aktif siyasetten çekildi. Demirel'in bu tavrı yıllar sonra parti içindeki muhalifleri tarafından, 'şapkasını alıp kaçtı' ya da 'şapkasını bırakıp kaçtı' diye aleyhinde propagandaya dönüştürüldü.
Haziran 1964'te AP Genel Başkanı Ragıp Gümüşpala'nın beklenmeyen ölümü üzerine baş gösteren parti içi bunalım sırasında yeniden siyasete döndü. 28 Kasım 1964 tarihinde yapılan Adalet Partisi genel kongresinde Sadettin Bilgiç, Tekin Arıburun ve Ali Fuat Başgil'in de yarıştığı seçimde 1679 oydan 1072'sini alarak genel başkan seçildi. İsmet İnönü hükûmetinin düşürülmesinden sonra Şubat 1965'te Suat Hayri Ürgüplü başkanlığında AP, Yeni Türkiye Partisi (YTP), Cumhuriyetçi Köylü Millet Partisi (CKMP) ve Millet Partisi (MP) katılımıyla kurulmasını sağladığı 29. Türkiye Cumhuriyeti koalisyon hükûmeti'nde TBMM dışından başbakan yardımcısı ve devlet bakanı olarak görev aldı. Aynı yıl babası Yahya Demirel memleketi Isparta'nın İslamköy beldesinde belediye başkanı seçildi.
1965 genel seçimlerinde, Yeni Türkiye Partisi'nin silinmesiyle Demokrat Parti (DP) çizgisinin tek mirasçısı durumuna gelen Adalet Partisi aldığı %52,8 oy ile tek başına iktidar oldu. Demirel de bu seçimlerde Isparta milletvekili olarak ilk kez TBMM'ye seçildi. 27 Ekim 1965'te, 27 Mayıs sonrasının ilk koalisyonsuz hükûmeti olan 30. Türkiye Cumhuriyeti Hükûmeti'ni kurdu ve Türkiye'nin 12. başbakanı oldu.
Süleyman Demirel; İsmet İnönü, Celâl Bayar ve Ragıp Gümüşpala gibi Türk Kurtuluş Savaşı kahramanlarının yavaş yavaş siyaset arenasından çekildiği bu dönemde 'Cumhuriyet Kuşağı' olarak bilinen 1920'lerde dünyaya gelmiş siyasetçilerin ilk örneklerindendi.
AP hükûmetinin işbaşı yapmasından kısa süre sonra, Süleyman Demirel'in karşılaştığı ilk kriz, 27 Mayıs 1960'ta devlet başkanlığını, 1961 Anayasası'nın kabul edilmesinden sonra da cumhurbaşkanlığını üstlenen Cemal Gürsel'in, sağlık durumunun görevini sürdürmesine engel olduğu yolundaki rapor üzerine cumhurbaşkanlığının sona ermesiydi. Ordu komuta kademesini altüst ederek yapılan ve üzerinden henüz altı yıl geçmiş olan 27 Mayıs Darbesi'nin Türk Silahlı Kuvvetleri (TSK) içindeki etkilerinin sürdüğü bir ortamda TSK içindeki güç dengelerini çok iyi bilen ve bu nedenle çok önemli bir konumda olan Genelkurmay Başkanı Orgeneral Cevdet Sunay, Demirel tarafından ordunun AP'ye karşı olan tavrının yumuşatılması için cumhurbaşkanlığına aday gösterildi. 15 Mart 1966 tarihinde kendi isteği ile emekli olan ve kısa süre sonra kontenjan senatörü yapılan Sunay, 28 Mart 1966'da Türkiye Büyük Millet Meclisi tarafından Türkiye'nin beşinci Cumhurbaşkanı seçildi.
Süleyman Demirel'in 1965 ile 1971 arasında başbakan olduğu dönemde Boğaziçi Köprüsü, Ereğli Demir Çelik İşletmeleri ve Keban Barajı gibi büyük yatırımlara imza atıldı. Bu dönemde Türkiye’de enflasyon %5, kalkınma hızı %7 idi. Bu kalkınma hızı Japonya’dan sonra petrol ülkeleri dışında, dünyanın ikinci yüksek kalkınma hızıydı.
Bu gelişmelere karşın Adalet Partisi iktidarı toplumun aydın kesimleri ve özellikle öğrenci örgütlerince DP iktidarının 27 Mayıs sonrasındaki devamı olarak görüldü. 1961 Anayasası'nın sağladığı bazı temel haklar ve bunların kullanılması iktidarın giderek artan tepkileriyle karşılaşınca, 27 Mayıs 1960 öncesindeki gençlik protestolarının benzerlerini AP iktidarı da yaşamaya başladı. Öte yandan 1968'de Avrupa ve ABD'de yaygınlaşan gençlik hareketleri sosyalist düşünceyle yeni yeni ilişki kuran Türkiye'deki üniversite gençliğini de etkilemişti. Türkiye'deki ilk önemli öğrenci eylemi Haziran 1968'de Ankara Üniversitesi Dil ve Tarih-Coğrafya Fakültesindeki boykotla başladı. Bunu, öteki üniversite ve fakültelerde hızla yaygınlaşan boykot ve işgaller izledi. Akademik amaçlarla başlatılan bu eylemler daha sonra giderek siyasi içerik kazandı ve AP iktidarı için tedirginlik kaynağı oldu. Bunun ardından sağ ve sol görüşlü öğrenci grupları arasındaki çatışmalarda kan dökülmeye başladı. Huzursuzluğun, AP'yi DP'nin ardılı olarak gören Türk Silahlı Kuvvetleri (TSK) içinde de yankılanmasının ardından 'askerî müdahale' söylentileri yaygınlık kazandı. Kuvvet komutanlarının hükûmet başkanı Demirel'e ülkenin içinde bulunduğu duruma ilişkin mektup göndermeleri, sıradan gelişmeler hâline geldi.
1969'da, 27 Mayıs Darbesi'nden sonra, 1961 Anayasası'nın 68. maddesiyle Demokrat Partililere (DP) konan siyaset yasağının kaldırılması için, mayıs ve haziran aylarında İsmet İnönü ile Celâl Bayar karşılıklı olarak tarihî sayılabilecek ziyaretler gerçekleştirdiler. Bu ziyaretlerden sonra anayasa değişikliği için Cumhuriyet Halk Partisi'nin de (CHP) desteğini alan AP'nin önerisi TBMM'de onaylandı. Ancak bu gelişmeler, Türk Silahlı Kuvvetleri tarafından 27 Mayıs'ın restorasyonu olarak algılanmasına ve anayasa değişikliğine tepki göstermesine, Cumhurbaşkanı Cevdet Sunay'ın da anayasa değişikliğine karşı tavır almasına neden oldu. Tüm bu tepkiler AP'nin tavrını, anayasa değişikliği meselesinin 12 Ekim 1969'da yapılacak seçimler öncesi lüzumsuz bir gerginliğe neden olmaması ve Cumhuriyet Senatosunda görüşülmesinin seçim sonrasına bırakılması yönünde değiştirdi. AP'nin af konusundaki tutum değişikliği ile parlamentonun itibarının zedelendiğini ileri süren, Celal Bayar'ın kızı Nilüfer Gürsoy ve eski DP’li bakanlardan Samet Ağaoğlu'nun eşi AP Manisa Milletvekili Neriman Ağaoğlu, 31 Temmuz 1969 günü partilerinden ve milletvekilliklerinden istifa ettiler. Bu gelişme eski DP'lilerin AP’lilerle ihtilaflarının su yüzüne çıkması şeklinde yorumlandı.
12 Ekim 1969 tarihindeki genel seçimlerde de AP yüzde 47 oy alarak yine tek başına iktidar oldu ve Demirel ikinci hükûmetini kurdu (3 Kasım 1969). Ancak, halktan gelen bu destek AP'nin bölünmesini önleyemedi; partisi dışından gelen eleştiriler karşısında hoşgörülü, liberal bir siyaset izleyen Demirel, Adalet Partisi içinde başlayan muhalefete karşı aynı hoşgörüyü göstermedi. Kendisine bağlı 'Yeminliler' hizibindeki kişilerin kayırılması, ülkede günden güne artan toplumsal, iktisadi, siyasi karışıklıklara son verilmesi ve eski Demokrat Parti mensuplarının siyasi haklarının iadesi sorununun çözülmesi gibi istekleri dile getiren milletvekilleri partiden çıkarıldı. Bunun üzerine 72 AP'li senatör ve milletvekili, aynı istekleri içeren bir muhtırayı Demirel'e verdi (12 Ocak 1970). Demirel'in, 'Biz muhtırayla iş görmeyiz.' diyerek belirtilen istekleri göz ardı etmesi karşısında, 11 Şubat 1970'te, Saadettin Bilgiç ve Faruk Sükan'ın başını çektiği 41 AP'li milletvekili bütçe görüşmeleri sırasında, CHP ve öteki muhalefet partileriyle beraber ret oyu vererek Demirel'i istifaya zorladı. 41 milletvekilinin karşı oy vermesi üzerine bütçe 214 kabul oyuna karşılık 224 ret oyuyla güvenoyu alamadı ve Demirel ertesi gün başbakanlıktan istifa etti. Bu olaylardan sonra Celâl Bayar çevresindeki AP milletvekilleri istifa ederek eski Demokrat Parti'nin gerçek mirasçısı olma savındaki Demokratik Parti'yi kurdular. Aynı dönemde AP'nin İslamcı kanadının önemli bir bölümü partiden ayrılıp Necmettin Erbakan'ın kurduğu Millî Nizam Partisi'ne katıldı. Adalet Partisi'nde meydana gelen bu kopmalar, hükûmetin zayıflığından yakınanlar için önemli bir dayanak oluşturdu.
Demirel, Mart 1970'te yeni bir hükûmet kurdu ve aynı yıl yapılan 5. Kongre'de yeniden genel başkan seçildi.