Ergün Atalay, 1978 yılında TÜVASAŞ iş yeri sendika temsilciliğine getirildi. 1982 yılında yapılan seçimlerde Demiryol-İş Sendikası Adapazarı Şube Mali Sekreteri seçilen Altay, 1992 yılında ise Şube Başkanı olarak seçildi. Ayrıca Demiryol-İş Sendikası Denetim Kurulu üyeliği yaptı.
1999 yılında Demiryol-İş Sendikası 6. Olağan Genel Kurulu'nda Genel Başkan oldu. 2003, 2007, 2011 ve 2015 yılında tekrardan bu göreve seçildi. Aralık 2002’de yedekten girdiği TÜRK-İŞ Yönetim Kurulu’nda Genel Eğitim Sekreterliği görevini üstlendi.
19, 20 ve 21. Olağan Genel Kurullarda Genel Mali Sekreterlik görevine seçildi. 3-6 Aralık 2015 ve 5-7 Aralık 2019 tarihlerinde gerçekleştirilen TÜRK-İŞ 22. ve 23. Olağan Genel Kurullarında ise Genel Başkanlık görevine yeniden seçilmeyi başardı. Atalay, o tarihten bu yana görevini sürdürmektedir.