Mehmet Emin Yılmaz, 1952 yılında Siverek'te doğdu. 1971-1977 yılları arasında Dicle Üniversitesi Tıp Fakültesinde tıp doktoru eğitimimi tamamlayarak Sağlık Bakanlığına bağlı kuruluşlarda görev aldı. 1984-1988 yılları arasında Dicle Üniversitesi Tıp fakültesinde İç Hastalıkları ihtisasını tamamlayarak 1988 yılında İç Hastalıkları Uzmanı oldu. 1990 yılında Dicle Üniversitesi Tıp Fakültesi Nefroloji Bilim Dalında Yardımcı Doçent Doktor unvanıyla göreve başladı. 1995 yılında Doçent, 2005 yılında ise Profesör olarak atandı.

1999-2003 yılları arasında Sağlık Bakanlığı Diyaliz Bilim Kurulu Üyeliğinde bulundu. Dicle Üniversitesi Tıp Fakültesi İç hastalıkları Anabilim Dalı başkanı ve Nefroloji Bilim Dalı Başkanı olarak görev yapmaktadır. Üniversitelerarası Kurul tarafından YÖK Genel Kurulu üyeliğine yapılan seçimi 29 Haziran 2012'de Cumhurbaşkanı Abdullah Gül tarafından onandı ve 2016'ya dek bu görevde kaldı.