 سيبويه ثم اشتغل بالموسيقى، فسئل عن مسألة بحضرة الزجاج ، فأخطأ في جوابها ، فوبخه الزجاج وقال : مثلك يخطئ في هذه المسألة ؟ والله لو كنت في منزلي ضربتك ، ولكن المجلس لا يحتمل ذلك ، وما زلنا نشبهك في الزكاء بالحسن بن رجاء، فقال : قد ضربتني يا أبا إسحاق، وقد شغلني الموسيقى عن هذا الشأن ، ثم رجع إلى الكتاب3، ونظر فى دقائق مسائله، وعول على مسائل الأخفش والكوفيين، وخالف أصول البصريين في مسائل كثيرة . أخذ عنه أبا القاسم الزجاجي والسيرافي والفارسي والرماني . ولم تطل مدته، ومات شابا في ذى الحجة سنة ست عشرة وثلاثمائة .
وله من التصانيف : الأصول الكبير ، يقارب كتاب سيبويه في الحجم، وهو عندى - ولله الحمد - وهى نسخة صحيحة في آخرها : فرغ من كتابته أحمد بن على بن أحمد بن تميم الرقي يوم الجمعة، وهو يوم عاشوراء من سنة تسعين وثلاثمائة ، وذلك بالمحمدية أعني الري ، انتهى .
وكان يقال : ما زال النحو مجنونا حتى عقله ابن السراج بأصوله .
وحكى الرماني قال : ذكر كتابه الأصول بحضرته ، فقال قائل : هو أحسن من المقتضب ، فقال ابن السراج : لا تقل هكذا، وأنشد :
ولو قبل مبكاها بكيت صبابة بسغدى شفيت النفس قبل التتدم
ولكن بكث قبلي فهيج لي البكا بكاها فقلت الفضل للمتقدم
وقال ابن خلكان(1) : هو من أجود الكتب المصنفة ، واليه المرجع عند اضطراب القول واختلافه، وكثيرا ما يستمد منه الرضي الاستراباذيي فى شرح الكافية لا سيما في باب الإخبار بالذى ، فإنه عول عليه فيه ؛ وله من التصانيف أيضا مجمل الأصول ، و الموجزء، وشرح كتاب سيبويه لم يكمل، واحتجاج القراءة ، والشعر والشعراء ، وغيرذلك .