Muharrem Yılmaz, 2 Ağustos 1957'de Bursa'da doğdu.
Galatasaray Lisesi'nden mezun olduktan sonra Uludağ Üniversitesi İktisadi ve İdari Bilimler Fakültesi'inde iktisat dalında yüksek öğrenimini tamamladı. Babası Sadık Yılmaz'ın 1975'te kurduğu Sütaş'ın 1989'da genel müdürü ve 2005'te yönetim kurulu başkanı oldu.
Türk Sanayicileri ve İşadamları Derneği'nin (TÜSİAD) 17 Ocak 2013'de gerçekleştirilen 43'üncü olağan genel kurulunda yönetim kurulu başkanlığı görevine seçildi.
17 Ocak 2013 tarihinden bugüne geçen sürede TÜSİAD Başkanı olarak görev yapan Muharrem Yılmaz 04.06.2014 (Bugün) tarihinde istifa etti.
