مات بعد مولده بثلاث سنين فكيف يكتب عنه! والضعف على حديثه بين، وبكر هذا كتب عنه أحمد بن حنبل ومات سنة أربع ومائتين فكيف يكتب عنه ووفاته قبل مولده بهذه المدة! قال: وكانت كتبه التي تحدث منها محكوكة الظهر، وحدث بأحاديث انفرد بها الحفاظ الأجلاد، يعني فسرقها منهم.
وقال ابن زولاق: ولي من قبل خمارويه بن أحمد بن طولون في سنة ثمان وسبعين، وكان ينظر في المظالم قبل ذلك، ثم أظهر ولاية من المعتمد، وكان بين موت بكار وولايته فترة بقيت فيها مصر بغير قاض سبع سنين، نظر فيها ابن عبدة في المظالم أربعا قبل أن يلي القضاء.
قال ابن زولاق: كان يذهب إلى قول أبي حنيفة، وكان متملكا جبارا سخيا جوادا مفضالا، كان له مائة مملوك ما بين خصي وفحل، وكان يعرف الحديث.
واعتذر ابن زولاق: عما رمي به من الكذب بأن موسى بن هارون الحافظ ببغداد، كان خرج لنفسه مجلسا عن جماعة من الشيوخ وحدث به وكتب عنه، فاتفق أن بعض أصحاب الحديث خرج لأبي عبيد الله مجلسا صادف بعض أولئك الشيوخ ببعض تلك الأحاديث فحدث به أبو عبيد الله، فظن من لم يطلع على صورة الحال أن أبا عبيد الله سرقه من موسى وليس كذلك، وإنما وقع ذلك اتفاقا. قال: وقد قال القاضي أبو الطاهر الذهلي: إنه كتب المجلس المذكور عن موسى بن هارون، ثم كتب المجلس الآخر عن أبي عبيد الله.
وقال الخطيب: حدثني محمد بن علي بن يعقوب، حدثنا محمد بن عبد الله يعني الحاكم: سمعت أبا علي حامد بن محمد الهروي يقول: كان أبو عبيد الله القاضي ببغداد منصرفا من قضاء مصر وكان في مصر يعرف بأبي عبيد الله بن حربويه وكان أولا يحدث عن أبي الأشعث وطبقته ثم ارتقى إلى بندار وأبي موسى ثم ارتقى إلى إبراهيم بن الحجاج وأبي الربيع. قال: فحكى لي إبراهيم بن حمزة قال: فقال لي يوما: يا أبا إسحاق، عزمت على أن أحدث عن الحوضي والطيالسي.