وأنشطة الجمعية متشعبة وشاملة يصعب الحديث عنها كلها ولذلك سنقتصر على ذكر نشاطها التعليمي الذي كان من أهدافه الرئيسية إحياء اللغة العربية لغة القرآن والإسلام بعد أن حاول المستعمر إقصاء اللغة تمهيداً لإقصاء الدين. ولا شك أن هذه مهمة صعبة، وهي أمل كل المصلحين الذين عاشوا قبل هذه الفترة وبعدها، فقد كان من المجمع عليه عندهم أن أهم وسيلة لترقية الأمة ونقلها من ذلها وضعفها هو التربية والتعليم، لإنشاء أجيال جديدة تتسم بالسلوك الإسلامي والفهم العميق لهذا الدين، وقد حققت الجمعية كثيرًا من هذا مما يعتبر في عصرها من المعجزات.

كانت المدارس الحكومية قليلة جدًا، وهي خاضعة خضوعًا تامًا لإشراف الإدارة الفرنسية في مناهجها ومدرسيها، بل كانت فرنسا تتعمد التجهيل، يقول محمد فريد وجدي الذي زار الجزائر 1901: "هجرت ربوع العلم وخربت دور الكتب وصارت الديار مرتعًا للجهل وكادت تدرس معالم اللغة العربية الفصحى" (15).

ويقول الشيخ الإبراهيمي: "إن مدارساً عامرة بهذا الصنف من الأطفال الذي لم يجد إلى التعليم الحكومي سبيلاً، وإن عدده لكثير إنه ليقارب التسعين بالمائة من أبناء الأمة"(16).

قصدت الجمعية لهذا الخلل، فشجعت الجمعيات الإصلاحية في كل مدينة لإنشاء مدرسة، وهذه الجمعية تتكفل بدفع رواتب المعلمين وتشجيع الأهالي على التبرع، وكانت جمعية العلماء تشرف على هذه الجمعيات المحلية وتشرف على اختيار المدرسين، وقد بلغ عدد هذه المدارس عام 1935 سبعين مدرسة ويقدر عدد التلامذة بحوالي 30.000 بين صبي وفتاة.