وكان أبوه ممن تقدم إلى الشام مع أبي عبيدة بن الجراح- وجعل خليفته خالد ابن عرفطة، وجعل عاصم بن عمرو التميمي ثم العمرى على الساقه، وسواد ابن مالك التميمي على الطلائع، وسلمان بن ربيعة الباهلي على المجردة، وعلى الرجل حمال بن مالك الأسدي، وعلى الركبان عبد الله بن ذي السهمين الخثعمى، فكان أمراء التعبئة يلون الأمير، والذين يلون أمراء الأعشار، والذين يلون أمراء الأعشار أصحاب الرايات، والذين يلون أصحاب الرايات والقواد رءوس القبائل، وقالوا جميعا: لا يستعين أبو بكر في الردة ولا على الأعاجم بمرتد، واستنفرهم عمر ولم يول منهم أحدا.
كتب إلي السري، عن شعيب، عن سيف، عن مجالد وعمرو بإسنادهما، وسعيد بن المرزبان، قالوا: بعث عمر الأطبة، وجعل على قضاء الناس عبد الرحمن بن ربيعة الباهلي ذا النور، وجعل إليه الأقباض وقسمة الفيء، وجعل داعيتهم ورائدهم سلمان الفارسي.
كتب إلي السري، عن شعيب، عن سيف، عن أبي عمرو، عن أبي عثمان النهدي، قال: والترجمان هلال الهجري والكاتب زياد بن أبي سفيان.
فلما فرغ سعد من تعبيته، وعد لكل شيء من أمره جماعا ورأسا، كتب بذلك إلى عمر، وكان من أمر سعد فيما بين كتابه إلى عمر بالذي جمع عليه الناس وبين رجوع جوابه ورحله من شراف الى القادسية قدوم المثنى بن حارثة وسلمى بنت خصفة التيمية، تيم اللات، إلى سعد بوصية المثنى، وكان قد أوصى بها، وأمرهم أن يعجلوها على سعد بزرود، فلم يفرغوا لذلك وشغلهم عنه قابوس بن قابوس بن المنذر، وذلك أن الآزاذمرد بن الآزاذبه بعثه إلى القادسية، وقال له: ادع العرب، فأنت على من أجابك، وكن كما كان آباؤك فنزل القادسية، وكاتب بكر بن