Bakunin Moskova’nın Kuzeybatısı'nda, Torzok ve Kuvşinovo arasındaki Piramukhino köyündeki aristokrat bir ailenin çocuğudur. 14 yaşındayken Topçuluk Üniversitesinde askerî eğitim aldığı St. Petersburg’a gitti. Eğitimi 1832 yılında tamamlandı ve Rusya İmparatorluk Muhafız Alayı’na düşük rütbeli bir subay olarak atandı ve Minsk’e, Gardinas’a, Litvanya’ya (artık Belarus) gönderildi. Babası Bakunin’in askerî veya sivil göreve devam etmesini istiyorduysa da, o 1835 yılında ikisini de terk ederek, felsefe okumayı umut ettiği Moskova’ya geçti.

Bakunin Moskova’da eski üniversitelilerden oluşan bir grupla arkadaşlık kurdu ve ardından sistematik bir idealist felsefe çalışmasına başladı. Özellikle de Schelling, Fichte ve Hegel’e yoğunlaştı. Başından beri o ve arkadaşları çalışmalarını, o dönem modern bilimin başkenti sayılan Berlin’e bir seyahat yaparak tamamlamak istiyorlardı. Bakunin’in âilesi bu yolculuğun masraflarını karşılamayı reddetti; ama sonunda yumuşadılar ve 1840 yılında yolculuğa çıktı.
O sıralar Bakunin’in plânı üniversitede profesör olmaktı (arkadaşlarının deyimiyle “doğruluğun râhibi”). Fakat daha sonra “Sol Hegelciler” adı verilen radikal öğrencilerle karşılaştı ve onlara katıldı. Berlin’deki sosyalist harekete dâhil oldu. Buradan Proudhon ve George Sand’le karşılaşacağı, Polonyalı sürgünlerin lideriyle tanıştırılacağı Paris’e geçti. Paris’ten İsviçre’ye seyahat etti. Burada bir süre kalarak sosyalist hareketlerde faâl olarak bulundu.
İsviçre’deyken, Bakunin Rusya hükûmeti tarafından Rusya’ya çağrıldı ve çağrıyı reddetmesi üzerine mallarına el konuldu. 1848 yılında Paris’e döndüğünde, Rusya’ya karşı ateşli bir saldırı başlattı ve bu Bakunin’in Fransa’dan sürülmesine neden oldu. 1848’in devrimci hareketleri kendisine demokratik ajitasyon yapan köktenci bir kampanyaya katılma fırsatını verdi ve 1849 Mayısındaki Dresden ayaklanmasına katılması nedeniyle tutuklandı ve ölüm cezasına çarptırıldı. Bununla birlikte idam hükmü ömür boyu hapse çevrildi ve Rus yetkililere teslim edildi. Hapsedildi ve 1855 yılında doğu Sibirya’ya gönderildi.

Bakunin Amur bölgesine gitmek için izin talep etti ve buradan kaçmayı başararak Japonya’ya, ardından da 1861 yılında Amerika Birleşik Devletleri'nden İngiltere’ye geçti. Geri kalan yaşamını batı Avrupa’da, özellikle de İsviçre’de sürgünde geçirdi. 1869 yılında Sosyal Demokratik Birliği kurdu. Bununla birlikte Birinci Enternasyonal’in uluslar arası bir organizasyon olduğu ve yalnızca ulusal organizasyonların üyeliğe kabûl edildiği bahanesiyle Bakunin’in kurduğu birlik Birinci Enternasyonal’e alınmadı. Oluşturulduğu yıl dağılan bu birliği oluşturan çeşitli gruplar daha sonra Enternasyonal’e ayrı ayrı katıldılar.
1870 yılında Bakunin Lyons’taki başarısız bir ayaklanmaya önderlik etti. Ayaklanma daha sonra Paris Komünü için örnek teşkil etti. Karl Marx ve Friedrich Engels daha sonra bu komünü onayladılar ve onu proletarya diktatörlüğünün bir örneği olarak tanımladılar; bununla birlikte Marx Lyons’taki ayaklanmanın erken ve maceracı bir ayaklanma olduğu görüşündeydi. Çünkü başarısızlıkla sonuçlanmıştı. Aynı zamanda da Bakunin'in önderliğinde olması böyle bir değerlendirmeyi getirebilirdi.