2 Ağustos 1948 tarihinde İzmir'de doğan Mehmet Eroğlu, çocukluk yıllarını edebiyat öğretmeni olan babası Faik Eroğlu'nun görev yaptığı Osmaniye ve Aydın'da geçirdi. Babasının tayin olduğu şehirlerden Uşak'ta başlayan ilköğrenimini kısa bir süre Edremit'te sürdürdükten sonra, ilkokulu 1960 yılında İzmir Karşıyaka'daki Ankara İlkokulu'nda tamamladı. Aynı yıl -şimdiki adı Bornova Anadolu Lisesi olan- İzmir Maarif Koleji sınavını kazanan Mehmet Eroğlu, 7 yıl süren bir yatılı öğrencilik döneminin ardından 1967 yılında bu liseden mezun oldu ve aynı yıl ODTÜ İnşaat Mühendisliği bölümüne girdi. Öğrenci derneği başkanlığını yaptığı bu fakülteden de 1971 yılında, 12 Mart Darbesi ardından kurulan sıkıyönetim mahkemesinde yargılanmasına başlandığı sırada mezun oldu. Mehmet Eroğlu, iki yıl süren yargılamanın (Dev-Genç Davası) sonucunda, 1973 yılında, Ankara 1 Nolu Sıkıyönetim Mahkemesince, TCK'nın 141-142 maddesine muhalefetten 8 yıl ağır hapis ve 2 yıl sürgün cezasına mahkûm edildi, ancak mahkûmiyetin 1974 genel affıyla ortadan kalkmasıyla, bu tarihten itibaren mühendis olarak çalışmasını sürdürdü. Yazmaya başlaması da bu döneme rastlamaktadır. 1974'de kaleme almaya başladığı ilk romanı Issızlığın Ortası'nın yazımı 1976'da bitti, ancak 1979 Milliyet Roman Ödülü'nü kazanmasına rağmen, 1980 yılındaki 12 Eylül darbesini izleyen karanlık günlerde -solcu ve anti-militarist unsurlar taşıdığı ve sakıncalı olduğu iddiasıyla- yayınevince romanın basımından vazgeçildi. Yazarın 1981'de tamamladığı Geç Kalmış Ölü adlı ikinci kitabı da, yayınevinin benzer gerekçeler ileriye sürmesi sonucunda ilk romanıyla aynı akıbeti paylaştı.
Mehmet Eroğlu'nun edebiyat dünyasıyla buluşması, yazmaya başlamasından on, -ödül kazanmasından ise beş yıl- sonra, ancak 12 Eylül darbesinin etkilerinin hafiflemesiyle mümkün oldu ve romanları 1984 yılından itibaren art arda yayınlanmaya başladı: 1984 yılında Issızlığın Ortasında (ilk yayımında Ortası, Ortasında olarak değiştirilmiştir) ve Geç kalmış Ölü; 1986'da Yarım Kalan Yürüyüş; 1989'da Adını Unutan Adam. Bu dört romanıyla Türk Edebiyatında kendine özgü, değişik ve sağlam bir yer edinen Mehmet Eroğlu birbirini bütünler nitelikteki ilk iki romanıyla Milliyet Roman Ödülü'nün ardından ülkemizin en değerli edebiyat ödüllerinden birisi olan Orhan Kemal Roman Armağanı ile Madaralı Roman Ödülleri'ni kazandı.
1989 yılında, on beş yıl boyunca çalıştığı kamu kesiminden siyasi baskılar sonucunda istifa etmek zorunda kalan Eroğlu, bu tarihten itibaren bir yandan mühendislik kariyerini sürdürürken, bir yandan da yazmaya devam etti ve 1994'de Yürek Sürgünü adlı beşinci romanını tamamladı. Daha sonraki beş yıl boyunca yazmanın yanı sıra, daha çok müzik ve senaryo yazımına ağırlık verdiğinden, altıncı romanı Yüz: 1981, 1999 yılında, sadece yazmak ve bir sivil toplum örgütünde gönüllü çalışmak amacıyla mühendislik yaşamını noktalamasının ardından, ancak 2000 yılında yayımlanabildi.
Eroğlu'nun sinema çalışmaları TRT'de yayınlanan Sızı (1994, 4 Bölüm), Issızlığın Ortası (1998, 4 Bölüm) ve Tutku Çemberi (2000, 13 Bölüm) adlı televizyon dizilerinin yanı sıra, 1996 yılında İstanbul Film Festivali'nde En İyi Türk filmi ve Uluslararası Sinema Yazarları ve Eleştirmenleri -Fibresci- ödüllerini kazanan 80. Adım ve 1997 Antalya Altın Portakal Jüri Özel Ödülüyle, 1997 Adana Altın Koza En İyi 3. film ödüllerini kazanan Solgun Bir Sarı Gül gibi, sinema filmi senaryolarını da içermektedir.
1999 yılından bu yana Ankara'da, Um:ag (Uğur Mumcu Araştırmacı Gazetecilik Vakfı) bünyesinde sürdürülen Yazma Seminerleri kapsamında yaratma cesareti, kurgu ve senaryo yazım teknikleri dersleri vermekte, Uygulamalı Yazma İşlikleri düzenlemektedir. Zamanın Manzarası adlı yedinci romanı 2002 Ekim'inde, sekizinci romanı Kusma Kulübü Şubat 2004'te, Düş Kırgınları ise 2005 Eylül'ünde yayımlanan yazar, Ankara'da yaşamaktadır.