اختلف أصحاب المقالات والتاريخ في هوية عبد الله بن سبأ ، و من ذلك اختلفوا في بلده و قبيلته ، يذكر القلقشندي في قلائد الجمان (ص 39 ) : أن يعرب بن قحطان ولد يشجب ، و ولد ليشجب ( سبأ ) و اسم سبأ هذا عبد شمس ، و قد ملك اليمن بعد أبيه ، و أكثر من الغزو والسبي ، فسمي ( سبأ ) وغلب عليه حتى لم يسم به غيره ، ثم أطلق الاسم على بنيه .. و هم الوارد ذكرهم في القرآن .

على أن المصادر التاريخية لا تذكر شيئاً واضحاً عن أصل السبأيين ، و الذي ينتسب إليهم عبد الله بن سبأ ، و من المحتمل أنهم كانوا في الأصل قبائل بدوية تتجول في الشمال ثم انحدرت نحو الجنوب إلى اليمن حوالي ( 800 ق م ) ، و هي عادة العرب في التجوال ، أو نتيجة ضغط الآشوريين عليهم من الشمال ، واستقروا أخيراً في اليمن وأخذوا في التوسع . راجع : محاضرات في تاريخ العرب للدكتور صالح العلي (1/21) .

و منهم من ينسب ابن سبأ إلى ( حمير ) ، و هي قبيلة تنسب إلى حمير بن الغوث بن سعد بن عوف بن مالك بن زيد بن سدد بن حمير بن سبأ الأصغر بن لهيعة بن حمير بن سبأ بن يشجب هو حمير الأكبر ، و حمير الغوث هو حمير الأدنى و منازلهم باليمن بموضع يقال له حمير غربي صنعاء . أنظر : معجم البلدان لياقوت الحموي (2/306) .

ومن الذين قالوا بذلك : ابن حزم في كتابه الفصل في الملل والأهواء ( 5/46) ، حيث يقول : والقسم الثاني من فرق الغالية يقولون بالإلهية لغير الله عز وجل ، فأولهم قوم من أصحاب عبد الله بن سبأ الحميري .