تزوج سلمان امرأة من كندة ورزق منها أولاداً ذكروا منهم محمداً وعبد الله وعبد الرحمن . روى الكشي:1/68، عن الإمام الصادق(عليه السلام) قال: «تزوج سلمان امرأة من كندة فدخل عليها ، فإذا لها خادمة وعلى بابها عباءة ، فقال سلمان: إن في بيتكم هذا لمريضاً ، أوقد تحولت الكعبة فيه؟ فقيل: المرأة أرادت أن تستر على نفسها فيه . قال: فما هذه الجارية ؟ قالوا: كان لها شئ فأرادت أن تُخدم . قال: إني سمعت رسول الله(صلى الله عليه وآله) يقول: أيما رجل كانت عنده جارية ، فلم يأتها أولم يزوجها من يأتيها ثم فجرت ، كان عليه وزر مثلها ».

  وعاشت معه حتى توفيت في المدائن، فكتب له أمير المؤمنين (عليه السلام) يعزيه: «بسم الله الرحمن الرحيم، قد بلغني يا أبا عبد الله مصيبتك بأهلك، وأوجعني بعض ما أوجعك . ولعمري لمصيبة يتقدم أجرها خير من نعمة يسأل عن شكرها ولعلك لا تقوم بها، والسلام عليك» . (تاريخ دمشق:21/429).

وتزوج بعدها أمةً له إسمها بقيرة وكانت عنده حتى توفي .(الطبقات:4/92).

ورزق من زوجته الكندية أولاداً ، فقد رووا عن ابنه عبد الله ، كما في تاريخ دمشق: 21/403، وذكر أخبار إصبهان:1/52، والمنفردات لمسلم /105. وعن ابنه عبد الرحمن، كما في أسد الغابة:5/440، وعن ابنه محمد، كما في مستدركات رجال الحديث:7/114.

ورووا عن ابنه يحيى بن سلمان، كما في تاريخ دمشق: 5 /227. وعامر بن سلمان، كما في المنفردات لمسلم بن الحجاج /104. ولعله هو عمر بن سلمان كما في كشف الظنون:2 /1488. رووا عن ابنه زاذان بن سلمان، كما في الدر النظيم /321 .

وذكر في فهرست منتجب الدين/52، ذريةً له من ولده محمد هو: الشيخ بدر الدين الحسن بن على بن سلمان بن أبى جعفر بن أبي الفضل... بن محمد بن سلمان الفارسى رضى الله عنه صاحب رسول الله (صلى الله عليه وآله)، نزيل أشناباد السد من الري، واعظ فصيح صالح.

وقال في مستدركات رجال الحديث:2/454: (ينتهي إلى إبراهيم بن سلمان بن محمد بن سلمان الفارسي بعشرين واسطة».

وفي نفس الرحمن في فضائل سلمان/561: «قيل إنه (سلمان) عاد إلى إصفهان في زمان عمر، وقيل: كان له أخ بشيراز له نسل ثَمَّ، وبنت بإصفهان لها نسل، وبنتان بمصر، وقيل كان له ابن يقال له: كثير» .

علم سلمان بوفاته، وجاء علي (عليه السلام) من المدينة وصلى عليه ورجع من يومه، روى الكشي (1/66) بسنده عن ابن أبي عمير عن عمر بن يزيد، قال: «قال سلمان: قال لي رسول الله (صلى الله عليه وآله): إذا حضرك أو أخذك الموت، حضر أقوامٌ يجدون الريح ولا يأكلون الطعام، ثم أخرج صرة من مسك فقال: هبةٌ أعطانيها رسول الله(صلى الله عليه وآله) ، قال: ثم بلها ونضحها حوله ، ثم قال لامرأته: قومي أجيفي الباب ، فقامت وأجافت الباب ، فرجعت وقد قُبض رضي الله عنه » !

وفي رواية الطبقات:4/92: «أصاب سلمان صُرَّة مسك يوم فتحت جلولاء فاستودعها امرأته، فلما حضرته الوفاة قال: هاتي هذه المسكة فمرسها في ماء، ثم قال: إنضحيها حولي فإنه يأتيني زوار الآن. قال ففعلت، فلم يمكث بعد ذلك إلا قليلاً حتى قبض » . وفي رواية: أصاب مسكاً عند فتح مدينة بلنجر في أرمينيا، وهي اليوم في داغستان .  فكأن الرواة استكثروا عليه هدية النبي(صلى الله عليه وآله) فجعلوا المسك من مناطق شارك في فتحها ، لكن مع وجود العطر من النبي (صلى الله عليه وآله) فلا يفضل سلمان ولا الملائكة عليه عطراً  آخر . والأمر المهم في الموضوع أن سلمان رضي الله عنه يعرف وقت وفاته، ويستقبل ملائكة الموت بالعطر ! 

وفي الطبقات:4/92: «لما حضرته الوفاة دعاني وهو في عِلِّيَّةٍ له لها أربعة أبو أب فقال: إفتحي هذه الأبواب يا بقيرة، فإن لي اليوم زواراً لا أدري من أي هذه الأبواب يدخلون عليِّ، ثم دعا بمسك له فقال أديفيه في تنور ففعلت، ثم قال: إنضحيه حول فراشي ، ثم انزلي فامكثي ، فسوف تطلعين فتريني على فراشي . فاطلعت فإذا هو قد أخذت روحه، فكأنما هو نائم على فراشه».

وفي رواية: يحضرني خلق من خلق الله يجدون الريح ولا يأكلون الطعام ، ثم اجفئي عليَّ الباب وانزلي . قالت: ففعلت وجلست هنيهة فسمعت هسهسة . قالت: ثم صعدت فإذا هو قد مات ».

وقد توفي سلمان في خلافة عمر، وقيل في خلافة عثمان . (الطبقات:4/93).

وروى في الخرائج (2/562) «أن علياً(عليه السلام) دخل المسجد بالمدينة غداة يوم وقال: رأيت في النوم رسول الله(صلى الله عليه وآله) البارحة ، وقال لي: إن سلمان توفي ، ووصاني بغسله وتكفينه والصلاة عليه ودفنه ، وها أنا خارج إلى المدائن لذلك .

  فقال عمر: خذ الكفن من بيت المال. فقال علي (عليه السلام) : ذاك مكفيٌّ مفروغٌ منه . فخرج والناس معه إلى ظاهر المدينة، ثم خرج وانصرف الناس، فلما كان قبل الظهيرة رجع وقال: دفنته. وكان أكثر الناس لم يصدقوه، حتى كان بعد مدة ووصل من المدائن مكتوب: إن سلمان توفي ليلة كذا، ودخل علينا أعرابي فغسله وكفنه وصلى عليه ودفنه ، ثم انصرف ! فتعجبوا كلهم» .

وفي الدرجات الرفيعة في طبقات الشيعة/219، أن جابر بن عبد الله الأنصاري وغلامه قنبر ذهبا مع علي(عليه السلام) الى المدائن لتغسيل سلمان ، فدخل علي(عليه السلام) وكشف الرداء عن وجهه فتبسم سلمان وهمَّ أن يجلس ، فقال له أمير المؤمنين(عليه السلام) : عد إلى موتك . فلما صلى عليه كنا نسمع تكبيراً شديداً، وكنت رأيت معه رجلين فسألته عنهما، فقال: أحدهما أخي جعفر والآخر الخضر، ومع كل واحد منهما سبعون صفاً من الملائكة . وقد أشار إلى هذه الحكاية أبو الفضل اليمنى في قوله:

سمعت منى يسيراً من عجائبه

                    وكل أمر عليٍّ لم يزل عجبا

دَرَيْتَ عن ليلةٍ سار الوصيُّ بها

                    إلى المدائن لما أن لها طلبا

فألحدَ الطهرَ سلماناً وعاد إلى

                    عراص يثرب والإصباح ما قربا

كآصفٍ قبل رَدِّ الطرف من سبأ

                   بعرش بلقيس وافى يخرق الحجبا

أراك في آصف لم تغل فيه بلى

                   بحيدر أنا غال أوردُ الكذبا !

إن كان أحمد خير المرسلين فذا

                   خير الوصيين أو كل الحديث هبا).