وكان أبو علي هذا قد نشأ في بغداد، وتعلم على شيوخها، وجد في التحصيل، فحصل الحديث، واللغة، والأدب، والنحو، والصرف. من مشايخ مشهورين كالهروي في الحديث، وابن درستويه أحد النحاة المشهورين والأدباء المعروفين، والزجاج أحد تلامذة المبرد، والأخفش الصغير، وهو أيضا تلميذ المبرد، ونفطويه، وابن السراج، وابن الأنباري، وابن أبي الأزهر، وابن قتيبة وغيرهم، ووعى أكثر علمهم، وأقام في بغداد خمسا وعشرين سنة يحصل مع الجد، حتى أتقن هذه العلوم. وعرف بين الأندلسيين بسعة الاطلاع في العلم والرواية، وطول الباع في اللغة وفنونها، قال ابن الفرضي: «فسمع الناس منه، وقرءوا عليه كتب اللغة، والأخبار، والأمالي، وعظمت استفادتهم منه».
ويكاد المؤرخون يجمعون على أنه كان أحفظ أهل زمانه، وساعد على الانتفاع به ذكاء أهل الأندلس، وقوة حفظهم. لقد كان أبو علي القالي يروي أنه في طريقه إلى الأندلس نزل المغرب، فكان كلما أمعن في المغرب من تونس إلى طنجة يرى أهله يقلون في الذكاء تدريجيا، فحزر أن أهل الأندلس يكونون من أغبى الناس على هذا القياس، فخاب ظنه ورآهم من أذكى الناس. وربما كان له فضل كبير في حب الحكم بن عبد الرحمن الناصر للعلم، إذ كان أبو علي أستاذه؛ ولذلك جمع الحكم في الأندلس مكتبة عظيمة ذكرناها من قبل. ومن أشهر كتبه كتاب الأمالي ونوادره. قال ابن حزم: كتاب نوادر أبي علي وهو «ذيل الأمالي» مبار لكتاب «الكامل» الذي جمعه المبرد.
ولئن كان كتاب المبرد أكثر نحوا وخبرا، فإن كتاب أبي علي أكثر لغة وشعرا. وله غير كتاب «الأمالي» كتاب «الممدود والمقصور»، وكتاب «الإبل ونتاجها»، وكتاب «حلى الإنسان»، وكتاب «فعلت وأفعلت»، وكتاب «تفسير المعلقات السبع»، وكتاب «البارع في اللغة» رتبه على حروف المعجم. قالوا: إنه نحو ثلاثة آلاف ورقة. وقالوا: إنه لم يؤلف مثله.
وقد ظل في قرطبة يبث علمه إلى وفاته سنة 358ه، وقد علمنا أنه رحل إلى الأندلس سنة 330ه، فتكون مدة إقامته في الأندلس، ونشره علمه 28 سنة، وهي مدة لا يستهان بها. ويظهر أنه تأثر كثيرا بشيخه ابن دريد، فإنه يروي عنه كثيرا بعض القطع الأدبية، وكان ابن دريد هذا لا يتحرج من أن يخترع حديثا لأعرابي وأعرابية، أو حتى قصيدة من القصائد؛ شأنه في ذلك شأن الروائيين اليوم، ولكنه يرويها على أنها حقيقة وقعت، وقصده منها التعليم أكثر من أن يكون قصده التاريخ، ولكن أبا علي القالي أخذها كما يأخذ الحديث على أنها حقائق تاريخية. وطريقته في «الأمالي» أنه يذكر نصا من النصوص؛ آية قرآنية، أو حديثا، أو خبرا، أو قصيدة، ويراعي في اختيار كل قطعة أن تكون مشتملة على لفظ غريب، أو ألفاظ غريبة، ثم بعد رواية النص يشرح الغريب شرحا دقيقا، فمثلا يسوق الآية:
وغدوا على حرد قادرين ، ثم يأخذ في شرح كلمة
حرد
وعلى هذا القياس. ويظهر أيضا أنه كان يعد موضوعا خاصا في ذهنه لكل درس؛ درس في ترتيب أسنان الإبل وأسمائها، ودرس في تفسير كلمة أمر، وإيراد آية:
وإذا أردنا أن نهلك قرية أمرنا
إلخ، ودرس في قصيدة ذي الإصبع العدواني، التي منها:
يا عمرو إلا تدع شتمي ومنقصتي ... ... ... إلخ
وتفسير ما ورد فيها من الغريب، وهكذا.
وقد فات ابن حزم أن يلاحظ أيضا أن كتاب «الأمالي» أخف روحا من كتاب «الكامل»، وأن أبا علي القالي حدد مقصده من الكتاب أن يكون أدبا محتويا على غريب يشرحه، ولم يخرج عن ذلك.
وكان يعاصره تقريبا ويؤدي نفس الغرض، ابن عبد ربه، فقد ألف كتابه «العقد»؛ لينقل إلى أهل الأندلس معارف المشارقة، غاية الأمر أن ابن عبد ربه أندلسي صميم من مالقه، وأبا علي القالي مشرقي رحل إلى الأندلس؛ وكتاب «الأمالي» أدب يعني بالغريب، وكتاب «العقد» يعنى بالأخبار والسير والطرائف والظرائف من كل باب، وإن شئت فقل: إن كتاب «الأمالي» لفظي، و«العقد» معنوي، وربما كان هذا سببه أن ابن عبده ربه أديب يشرب ويحب ويسمع الغناء، ويقول الشعر الظريف في الغزل وفي الشراب وغير ذلك، أما أبو علي فعالم فقط في اللغة والأدب.