بعد از قیام مختار و تسلط بر کوفه و در میان راه قیام، دشمن میان مختار و ابراهیم اختلاف افکنده وبه تفرقه افکنی پرداخت.این حیله دشمن موجب شد که میان ابراهیم ومختار جدایی وفاصله ایجاد شده و گویا ابراهیم در ادامه کار از نهضت مختار کناره گرفته بود، از این رو در پی حادثه حمله مصعب بن زبیر در پیوستن به مختار تعلل و سستی می ورزید و حتی گفته شده به نامه های مکرر و پشت سر هم مختار پس از شکست اولیه اش از قوای مصعب ، توجهی نکرده، نزد او باز نگشت .

همین کناره گیری او از مختار باعث شده بود که بعد از شهادت مختار، مصعب بن زبیر از یک سو و عبدالملک مروان از سوی دیگر در او طمع ببندند تا ابراهیم را که مردی پر نفوذ و مدیر بود، را با خود همراه سازند؛ از این رو مصعب نامه ای به ابراهیم نوشته به او وعده داد که در صورتی که حکومت ابن زبیر را بپذیرد، امارت مناطق شمالی عراق را به او می سپارد .نامه ی مشابهی نیز از سوی عبدالملک مروان «خلیفه اموی شام »به دست ابراهیم رسید. ابراهیم با یاران و مشاورانش در این باب به مشورت پرداخت و سرانجام تصمیم گرفت با مصعب بن زبیر همراه شود، پس نامه ای به مصعب نوشت و با گروهی از یاران خود از موصل یا نصیبین - مقر حکومت خود - حرکت کرد و به کوفه آمد و با مصعب ملاقات کرد .

سرانجام ابراهیم در سال 72 هجری در پی شکست لشکر عراق از سپاهیان عبدالملک مروان که برای تصرف عراق به جنگ مصعب بن عمیر فرستاده شده بودند، در 13 جمادی الاولی در سن چهل سالگی کشته شد و نزدیک سامراء به خاک سپرده شد.