جعفر بن يحيى مع شعبة الخفتاني وهرثمة بن أعين وإبراهيم بن حميد المروروذي، وأتبعهم عدة من خدمه وثقاته؛ منهم مسرور الخادم إلى منزل جعفر بن يحيى، وإبراهيم بن حميد وحسين الخادم إلى منزل الفضل بن يحيى، ويحيى بن عبد الرحمن ورشيد الخادم إلى منزل يحيى ومحمد بن يحيى، وجعل معه هرثمة بن أعين، وأمر بقبض جميع ما لهم، وكتب إلى السندي الحرشي بتوجيه جيفة جعفر إلى مدينة السلام، ونصب رأسه على الجسر الأوسط وقطع جثته، وصلب كل قطعة منها على الجسر الأعلى والجسر الأسفل. ففعل السندي ذلك، وأمضى الخدم ما كانوا وجهوا فيه، وحمل عدة من أولاد الفضل وجعفر ومحمد الأصاغر إلى الرشيد، فأمر بإطلاقهم، وأمر بالنداء في جميع البرامكة: ألا أمان لمن آواهم إلا محمد بن خالد وولده وأهله وحشمه؛ فإنه استثناهم؛ لما ظهر من نصيحة محمد له، وعرف براءته مما دخل فيه غيره من البرامكة. وخلى سبيل يحيى قبل شخوصه من العمر، ووكل بالفضل ومحمد وموسى بني يحيى، وبأبي المهدي صهرهم حفظة من قبل هرثمة بن أعين، إلى أن وافى بهم الرقة، فأمر الرشيد بقتل أنس بن أبي شيخ يوم قدم الرقة، وتولى قتله إبراهيم بن عثمان بن نهيك، ثم صلب. وحبس يحيى بن خالد مع الفضل ومحمد في دير القائم، وجعل عليهم حفظة من قبل مسرور الخادم وهرثمة بن أعين، ولم يفرق بينهم وبين عدة من خدمهم، ولا ما يحتاجون إليه، وصير معهم زبيدة بنت منير أم الفضل ودنانير جارية يحيى وعدة من خدمهم وجواريهم. ولم تزل حالهم سهلة إلى أن سخط الرشيد على عبد الملك بن صالح، فعمهم بالتثقيف بسخطه، وجدد له ولهم التهمة عند الرشيد، فضيق عليهم.
وذكر الزبير بن بكار أن جعفر بن الحسين اللهبي حدثه أن الرشيد أتي بأنس بن أبي شيخ صبح الليلة التي قتل فيها جعفر بن يحيى، فدار بينه وبينه كلام، فأخرج الرشيد سيفا من تحت فراشه، وأمر أن تضرب عنقه، وجعل يتمثل ببيت قيل في قتل أنس قبل ذلك:
تلمظ السيف من شوق إلى أنس ... فالسيف يلحظ والأقدار تنتظر
قال: فضرب عنقه، فسبق السيف الدم، فقال الرشيد: رحم الله عبد الله بن مصعب. وقال الناس: إن السيف كان سيف الزبير بن العوام.