مرض عبد الملك مرضه الذي توفي فيه و لم تجده معالجة أطبائه فقد أخذ يدنو إليه الموت سريعا و كان فيما يقول المؤرخون قلقا مضطربا تراوده اعماله المنكرة و ما اقترفه من الظلم و الجور و سفك الدماء بغير حق فكان يضرب على رأسه و يقول : وددت أني اكتسبت قوتي يوما بيوم و اشتغلت بعبادة ربي عز و جل و طاعته‏ .

و عهد بالملك من بعده إلى ولده الوليد و أوصاه بالإرهابي السفاح الحجاج خيرا و قال له: و انظر الحجاج فأكرمه فإنه هو الذي وطأ لكم المنابر و هو سيفك يا وليد و يدك على من ناواك فلا تسمعن فيه قول أحد و أنت إليه أحوج منه إليك و ادع الناس إذا مت إلى البيعة فمن قال: برأسه هكذا فقل: بسيفك هكذا .

و مثلت هذه الوصية اندفاعاته نحو الشر حتى في الساعات الأخيرة من حياته فقد أوصى بالسفاح الأثيم الحجاج خيرا و هو الذي أغرق البلاد في المحن و الخطوب و أشاع الثكل و الحزن و الحداد بين المسلمين كما أوصى بالقتل لكل من تحدثه نفسه بعدم الرضا بالحكم الأموي و لم يبق بعد هذه الوصية إلا لحظات حتى وافته المنية  و كانت وفاته في يوم الاربعاء في‏ النصف من شوال سنة86هـ و قد سئل عنه الحسن البصري فقال: ما أقول في رجل كان الحجاج سيئة من سيئاته.