اغتاله أبو لؤلؤة غلام المغيرة فطعنه ثلاث طعنات إحداهن تحت سرته وهي التي قضت عليه وتعزو بعض المصادر سبب ذلك الى ان المغيرة جعل عليه خراجا ثقيلا فشكا حاله الى عمر فزجره وقال له : ما خراجك بكثير من أجل الحرف التي تحسنها .

فتأثر أبو لؤلؤة وأضمر له الشر في نفسه واجتاز عليه فى وقت آخر فسخر منه عمر قائلا : بلغني أنك تقول : لو شئت أن أصنع رحى تطحن بالريح لفعلت , فاندفع أبو لؤلؤة وقد لسعته سخريته فاخبره بما يبيت له من الشر قائلا : لأصنعن لك رحى يتحدث الناس بها .

وفي اليوم الثاني قام بعملية الاغتيال , وقيل ان اغتياله كان وليد مؤامرة دبرها الناقمون على سياسته التي انتهجت منهج الشدة والقسوة وخلقت الطبقية بين المسلمين , ومهما يكن من أمر فقد حمل عمر الى داره وجراحاته تنزف دما وبادر أهله فأحضروا له طبيبا فقال له : أي الشراب أحب إليك؟. فقال : النبيذ ؛ فسقوه منه فخرج من بعض طعناته فقال الناس : خرج صديدا ثم سقوه لبنا فخرج من بعض طعناته فيئس منه الطبيب وقال له :لا أرى أن تمسى ولما أيقن ولده عبد الله بموته قال له : يا أبة , استخلف على امة محمد (صلى الله عليه واله) فانه لو جاءك راعي إبلك أو غنمك وترك إبله أو غنمه لا راعى لها لمته وقلت له : كيف تركت أمانتك ضائعة؟! فكيف بأمة محمد (صلى الله عليه واله) فاستخلف عليهم , فنظر إليه نظرة ريبة فقال له : إن استخلف عليهم فقد استخلف أبو بكر وإن أتركهم فقد تركهم رسول الله (صلى الله عليه واله) , وأقام عبد الله في حديثه برهانا تدعمه الفطرة على ضرورة نصب الوصي وتعيين ولى العهد وان من أهمله يستحق اللوم والتقريع وهو أمر واضح لا مجال للشك فيه والعجب من عمر وهو في ساعاته الأخيرة كيف يقول إن رسول الله (صلى الله عليه واله) ترك امته ولم يستخلف عليها أحدا من بعده!! وهو (صلى الله عليه واله) الحريص على امته الذي يعز عليه عنتها واختلافها وانشقاقها وقد لاقى في سبيل هدايتها أعظم العناء وأشقه ولعل الوجع قد غلب على عمر فنسي النصوص المتضافرة من رسول الله (صلى الله عليه واله) في أمير المؤمنين (عليه السلام) وأنه ولى عهده وخليفته من بعده وتناسى بيعته له يوم غدير خم وقوله له : بخ بخ لك يا علي أصبحت مولاي ومولى كل مؤمن ومؤمنة ؛ ولكن إنا لله وإنا إليه راجعون.