Özal'ın Çankaya'ya çıkmasının ardından, 'dört eğilim' partisi olarak kurulan ANAP'ta, 'muhafazakar-liberal' çekişmesi başladı. Öyle ki; Özal'ın eşi Semra Özal, İstanbul İl Başkanlığı'n aday oldu , Abdülkadir Aksu, Cemil Çiçek, Hüsnü Doğan'ın da aralarında bulunduğu isimler pasifize edildi.
ANAP'ın en karışık olduğu 1991'deki 3'üncü Olağan Kongre'de, arkasına Özal'ın desteğini alan Yıldırım Akbulut'un karşısında, Mesut Yılmaz ve Hasan Celal Güzel aday olarak çıktı.
Çekişmeli geçen kongrede, muhafazakar kanattan Hasan Celal Güzel, Akbulut lehine adaylıktan çekilmesine karşın, Mesut Yılmaz, genel başkan seçildi.
Genel başkanlığı kaybeden Yıldırım Akbulut, Başbakanlık görevinden istifa etti. ANAP Genel Başkanı olarak Başbakanlık görevini üstlenen Yılmaz, 'yeni' ve 'gençlik' avantajını kullanmak istedi ve erken seçim istedi.
20 Ekim 1991'de yapılan genel seçimlerde, yüzde 24 oy almasına karşın, seçimden ikinci parti olarak çıktı ve muhalefete düştü.
Süleyman Demirel liderliğindeki Doğruyol Partisi (DYP), Sosyal Demokrat Halkçı Parti (SHP) ile koalisyon hükümetini kurdu. Mesut Yılmaz, 1995'e kadar anamuhalefet partisi lideri oldu.
Tek talihsizliği bulunduğu siyasi ortamda tek başına iktidar olamamasıydı. Partisinin hayatta kalabilmesi için kendisiyle aynı kafada olmayan, beceriksiz siyasetçilerle beraber olmak zorunda kaldı her dönem. Bu sebeple hiç de iyi olmayan bir yönetim sergiledi ancak şimdiki AKP'nin imkanları kendinde olsaydı kesinlikle ülkemiz şu an ki durumdan çok daha iyi bir konumda olurdu. Allah rahmet eylesin.