ابومهدی در سال ۱۹۷۰ میلادی به «الدعوه الاسلامیه» عراق پیوست. در دهه ۱۹۷۰ با افزایش نفوذ این حزب در میان جوانان و شخصیت‌های مذهبی و سرکوب آن از سوی حکومت حزب بعث، الدعوه به یک جریان انقلابی تبدیل شد که به مقاومت مسلحانه در برابر حکومت می‌پرداخت.
حاکمان بعثی عراق در سال ۱۹۷۵ پنج نفر از اعضای حزب الدعوه را اعدام و در سال ۱۹۸۰ نیز شبانه شهید «سید محمدباقر صدر» را تیرباران کردند. دشمنی حزب الدعوه و دولت صدام حسین پس از قتل محمدباقر صدر رهبر معنوی این جنبش در ۱۹۸۰ میلادی به اوج خود رسید.
شهید ابومهدی موفق شد در سال ۱۹۸۰ به کویت برود و در کویت همراه با دیگر نزدیکان خود، ابتدا حزب الدعوه و بعدها یک گروه جهادی را پایه‌گذاری کند. در کویت بود که برای اولین بار نام او در اقداماتی علیه امریکا مطرح شد.