Hapisten çıkmasından sonra öğrenci hareketlerinden uzaklaştı ve Sinan Cemgil ve Hüseyin İnan'la birlikte Türkiye Halk Kurtuluş Ordusu'nu kurdu. Türkiye'de silahlı mücedele veren ilk siyasi örgüt olan THKO, bağımsız ve demokratik bir Türkiye için mücadele yürürttü. Sosyalist gençliğin katıldığı bu örgüt Hüseyin İnan, Sinan Cemgil, Yusuf Aslan, Alparslan Özdoğan, Deniz Gezmiş ve Cihan Alptekin tarafından kurulmuştu. Bir takım eylemlerden sonra 4 Mart 1971′de yayınlanan bir bildiri ile örgüt kamuoyuna tanıtıldı.
İlk silahlı eylemleri 29 Ocak 1970 tarihinde verdi ve 12 Mart dönemi boyunca faaliyetlerini sürdürdü. Daha sonra bu örgüt içinde Yusuf Aslan, Hüseyin İnan ve Deniz Gezmiş'in de bulunduğu idam kararının iptali için çalışmalarda bulundu. Kadir Manga ve Alparslan Özdoğan'nın Nurhak'ta, Cihan Alptekin ve Ömer Ayna'nın Kızıldere'de öldürülmesinden sonra Deniz Gezmiş, Yusuf Aslan ve Hüseyin İnan‘nın idamıyla bu örgüt dağıldı.
Deniz Gezmiş, 11 Ocak 1971′de Türkiye Halk Kurtuluş Ordusu adına Ankara İş Bankası, Emek Şubesi'nin soygununda yeraldı. Bu sırada Deniz Gezmiş hakkında tutuklama kararı çıkarılmıştı ve polisten kaçmaktaydı. 1971 yılında gerçekleşen 12 Mart darbesinin hemen ardından Yusuf Aslan ile birlikte Sivas'a giderken motorsikletlerinin bozulmasıyla gelen ihbarla 16 Kasım 1971′de tutuklandı. Gemenek'te yakalandıktan sonra Kayseri'ye getirildi. Ardından Ankara'ya o dönem içişleri bakanı olan Haldun Menteşeoğlu'na götürüldü.
16 Temmuz 1971′de Sıkıyönetim Mahkemesi, Altındağ Veteriner Okulu binasında Tuğgeneral Ali Elverdi başkanlığındaki, Baki Tuğ savcılığında toplandı. 9 Ekim 1971′de son bulan mahkeme'de TCK'nın 146. maddesinin ihlali gerekçesiyşe 9 Ekim 1971′de idama mahkum edildi. 6 Mayıs 1972 tarihinde Yusuf Aslan, Hüseyin İnan ile birlikte saat 1.00-3.00 arasında Ankara Merkez Kapalı Cezaevi'nde idam edildi.
Deniz Gezmiş‘in son istekleri hakkında kesin bir bilgi mevcut değildir. Yazar Erdal Öz'ün yaptığı görüşmlerde en son olarak Rodrigo'nun Aranjuez Konçertosunu dinlemek ve bir bardak çay içmek istediği geçse de avukatı bunu doğrulamamıştır. Ancak ölümünden sonra kendisi gibi devrimci arkadaşı Taylan Özgür'ün yanına gömülmek istediği babasına yazdığı mektupta yer almaktadır.