قرأ الأدب على أبيه أبي يعقوب يوسف بناحية جوين، ثم دخل نيسابور وتفقه على أبي الطيب سهل بن محمد الصعلوكي، ثم رحل إلى مرو، وقصد أستاذه أبا بكر عبد الله بن أحمد القفال المروزي، ولازمه وأخذ عنه المذهب والخلاف وأحكم طريقته، وعاد إلى نيسابور، وقعد للتدريس والفتوى ومجلس المناظرة، وصنف التصانيف المشهورة في الفقه وغيره.
وقد كان سمع الحديث بمرو من أستاذه أبي بكر القفال وغيره.
وبنيسابور من أبي نعيم عبد الملك بن الحسن الإسفراييني وغيره، وببغداد من أبي الحسين محمد بن الحسين بن الفضل القطان وغيره، وبالكوفة من أبي محمد جناح بن نذير وغيره، وبمكة شرفها الله تعالى من أبي عبد الله محمد بن الفضل بن نظيف الفراء المصري.
روى عنه أبو القاسم سهل بن إبراهيم، وجماعة من الأئمة.
وتوفي في ذي القعدة سنة ثمان وثلاثين وأربع مائة رضي الله عنه.
ورواه عنه ابنه الإمام إمام الحرمين أبو المعالي عبد الملك ابن الإمام أبي محمد عبد الله بن يوسف بن عبد الله بن يوسف بن محمد بن حيويه الجويني.
مولده في الثامن عشر من المحرم سنة تسع عشرة وأربع مائة.