توفي أبو محمد موسى الهادي في ربيع الآخر عام 170 هـ،واختلف في سبب موته فقيل إنه دفع نديماً له من جرف على أصول قصب قد قطع فتعلق النديم به فوقع فدخلت قصبة في منخره فماتا جميعاً وقيل أصابته قرحة في جوفه، ويرى بعض المؤرخين أن وفاة الهادي كانت وفاة طبيعية، بينما يرى البعض أنه اغتيل من قبل الخيزران أم هارون الرشيد التي أمرت جواريها أن يقتلنه فخنقنه، ويعتقد أن سبب الاغتيال هي رغبة الهادي خلع أخيه هارون الرشيد من ولاية العهد، وجعلها لابنه جعفر. وقيل كانت أمه حاكمة مستبدة بالأمور الكبار وكانت المواكب تغدو إلى بابها فزجرهم عن ذلك وكلمها بكلام وقح وقال: لئن وقف ببابك أمير لأضربن عنقه أما لك مغزل يشغلك أو مصحف يذكرك أو سبحة فقامت ما تعقل من الغضب فقيل إنه بعث إليها بطعام مسموم فأطعمت منه كلباً فانتثر فعملت على قتله لما وعك بأن غموا وجهه ببساط جلسوا على جوانبه.