لم تكن الغالبية العظمى من يهود اليمن تنتسب الى سلالة بني اسرائيل، وانما الى الأقوام اليمنية التي اعتنقت الديانة اليهودية أيام حكم دولة حمير. وليس هناك أي دليل كتابي أو أثري على انتشار اليهودية في أي من مناطق جزيرة العرب خلال العصور التوراتية في القرن 14 ق.م.، فأقدم الجماعات اليهودية التي ظهرت في الجزيرة لا تتعدى في وجودها القرن الأول السابق على ميلاد المسيحية. وهناك روايات مختلفة تحاول التعرف على وقت وكيفية وصول المهاجرين اليهود الأوائل الى الجزيرة العربية. وفي حين يذهب بعضهم الى أن الجماعات الأولى من اليهود الذين وصلوا الى اليمن جاءوا من بابل للقيام ببعض الأعمال التجارية، فإن هذا لا يعدو أن يكون نوعاً من التخمين. جاء المصدر التاريخي الأول في هذا الشأن عن طريق الرومان. ويحكي لنا الكاتب الجغرافي الاغريقي استرابو - الذي عاش عند نهاية القرن الأول السابق للميلاد - قصة الحملة العسكرية التي بعث بها يوليوس قيصر امبراطور الرومان الى الجزيرة العربية العام 25 ق.م. بقيادة أوليوس جالوس، بعد هزيمته لكليوباترا ومارك انطوني واستيلائه على مصر. وكان قيصر يهدف من هذه الحملة السيطرة على مراكز التجارة القائمة في بلاد اليمن، حيث توجد الأحجار الكريمة والبخور والعطور التي كانت تباع في أسواق الشرق الأوسط وأوروبا مقابل مبالغ هائلة من الذهب والفضة. بدأت الحملة مسيرتها من ميناء كيلوباتريس المطل على البحر الأحمر - الذي أصبح يعرف باسم السويس في ما بعد - حيث قام الرومان بتشييد 120 سفينة لنقل الجنود والعتاد، وسار الأسطول في البحر الأحمر بمحاذاة الساحل، بينما نزل الجيش على البر في شمال الحجاز وسار جنوباً في بلاد الأنباط متجهاً الى اليمن. ويقول استرابو - الذي صاحب هذه الحملة بنفسه - في المجلد السابع من كتابه الجغرافي ان الجيش كان يتكون من عشرة آلاف جندي جاءت غالبيتهم من بين أفراد القوات الرومانية والمرتزقة المعسكرين في مصر، الى جانب ألف من رجال النبط العرب أرسلهم ملكهم عبيدة الذي كان حليفاً للرومان آنذاك، وخمسمئة من يهود فلسطين. إلا أن الأنباط خدعوا الرومان، وبدلاً من أن يدلوهم على الطريق السهلة التي تسير فيها القوافل التجارية بانتظام بين جنوب الجزيرة العربية وشمالها، قادوهم في طرق جبلية وعرة ليس بها ماء ولا زاد، فوصل الجيش الروماني الى نجران - بعد مسيرة ستة أشهر - وهو في حالة شديدة من التعب والانهاك، كما انتشرت الأوبئة بين الجنود. وعلى رغم تمكنهم من السيطرة على نجران بسهولة، وكانت منطقة خصبة تنتشر بها منابع المياه، فإن الرومان واجهوا صعوبات عدة بعد ذلك عند محاولتهم السير جنوباً في بلاد اليمن. لهذا اضطر القائد الروماني أوليوس جالوس الى التراجع عن خطته الأولى بغزو اليمن والاسراع بالعودة الى مصر. ومع هذا فإن معظم جنود جيشه الذين أصابهم الاعياء والمرض، بقوا مشتتين في الأراضي العربية خصوصاً في منطقة نجران، ومن بينهم الفرقة اليهودية التي جاءت من فلسطين، والتي لم نعد نسمع عنها شيئاً بعد ذلك. وهكذا نرى أن الفرقة اليهودية التي صاحبت الحملة الرومانية على الجزيرة العربية عند بداية الربع الأخير من القرن الأول ق.م.، كانت أول من وصل من اليهود الى نجران واستقر بها المقام هناك بعد انسحاب الرومان. ولم يذكر استرابو وجود أية أقوام يهودية بمناطق الحجاز وعسير التي مرت بها الحملة الرومانية، على رغم أنه تحدث بالتفاصيل عن أسماء الأماكن وأنواع الأقوام التي مر بها، وأعطى وصفاً تفصيلياً عن أساليب حياتهم وأنواع منتجاتهم الغذائية. وظل الوجود اليهودي في جنوب الجزيرة العربية محصوراً في نجران لقرون عدة الى أن اعتنق بعض ملوك حمير الديانة اليهودية. فقد عرف جنوب الجزيرة العربية - خلال القرن الرابع للميلاد - محاولة لنشر الديانة المسيحية من قبل الدولة الرومانية، على أثر اعتناقها لهذه الديانة. وعندما اعتنقت الحبشة المسيحية في ذلك القرن، أصبح الأحباش هم الذين يقومون بعملية التبشير المسيحية في اليمن. والغريب أن أهل نجران الذين عاشوا جيراناً لليهود ما يزيد على أربعة قرون كانوا أول من استجاب للدعوة المسيحية حتى أصبح المسيحيون غالبية في هذه المنطقة وتحولت نجران الى مركز للمسيحية في جنوب الجزيرة العربية. ولما كانت الدولة الرومانية تهدف الى السيطرة على طريق التجارة والاستحواذ على الأرباح الهائلة التي كان يجنيها التجار العرب، فلم يستجب أهل حمير لهذه المحاولة على أساس أنها خدعة سياسية تهدف الى السيطرة على بلادهم. ويبدو أنه - كرد فعل على هذه المحاولة - عمد المسؤولون اليمنيون الى اعتناق الديانة اليهودية بصفتها معارضة للمسيحية وكان اليهود يعيشون بينهم في نجران، فاعتنق الحكام هذه الديانة التي سرعان ما انتشرت بين الناس. وهكذا جاء اعتناق اليمنيين لليهودية في البداية - عن طريق يهود نجران الذين وصلوا الى هناك مع الحملة الرومانية - كرد فعل سياسي لصراعهم مع الرومان والأحباش. وازداد عدد اليهود في اليمن بشكل كبير عندما اعتنق ملكها يوسف أسعار المعروف باسم ذي نواس للديانة اليهودية في أوائل القرن السادس الميلادي فتبعه عدد كبير من قومه، قبل حوالي قرن واحد من ظهور الدعوة الاسلامية في الحجاز. ويذكر فيلوستورجيوس مؤرخ الكنيسة الرومانية الذي عاش في القرن الميلادي الرابع ان الامبراطور الروماني قسطنطين الذي اعتنق المسيحية في الربع الأول من هذا القرن هو الذي ادخل الديانة المسيحية الى جنوب الجزيرة العربية عندما أرسل المبشرين الى هناك، وهم الذين قاموا ببناء كنيستين احداهما في عدن والأخرى في ظفار. إلا أن اليهود نظموا حملة مضادة لتحريض أهل البلاد على مقاطعة المبشرين النصارى في الوقت الذي اعتنقت بلاد الحبشة المسيحية. ظهرت مملكة حمير في بداية القرن الثاني قبل الميلاد، وشمل نفوذها أولاً المنطقة المطلة على البحر الأحمر من اليمن غربي دولة سبأ، في الأرض التي كانت تابعة لدولة قتبان من قبل، ثم امتد نفوذها شرقاً ليشمل أراضي سبأ وريدان وحضرموت وكذلك أخضعت منطقة نجران. وأصبحت مدينة ريدان - التي صارت تعرف بعد ذلك باسم ظفار - عاصمة لحمير، كما صار ملك حمير يلقب بملك سبأ وذو ريدان وحضرموت. وبحسب ما جاء في كتاب "التيجان في ملوك حمير" لابن هشام، فإن أسعد أبو كرب ملك حمير - بين 385 و420م - كان أول من اعتنق اليهودية من ملوك هذه الدولة، إلا أن هذه الديانة لم تصبح وراثية بين الحميريين كما أنها لم تنتشر كثيراً بين صفوف شعب حمير إلا بعد ذلك بأكثر من مئة عام، عندما اعتنق آخر ملوك حمير - وهو يوسف أسعار المعروف باسم ذي نواس - اليهودية في أواخر أيامه. وأصبح ذو نواس حليفاً لملوك الفرس الذين ساعدوه في مواجهة الدولة الحبشية المسيحية التي كانت تغير عليه بتحريض من الروم البيزنطيين. إلا أن ذو نواس لم يتمكن من الصمود طويلاً أمام هجمات الأحباش، وسقط سريعاً العام 525. وبموته انتهت دولة حمير في جنوب الجزيرة العربية وتمكنت الحبشة من فرض سيطرتها على بلاد اليمن. وخلال فترة سيطرتهم على اليمن، شجع الحبشيون الجماعات المسيحية في البلاد، بينما فرضوا الحصار على نشاطات الجماعات اليهودية هناك. واستمر الوضع كذلك مدة نصف قرن الى أن قام الفرس بغزو بلاد اليمن العام 575، فانقلب الوضع تماماً وأصبح لليهود حرية كاملة في نشاطاتهم بينما واجهت الجماعات المسيحية العديد من أنواع الاضطهاد، الى أن اعتنقت اليمن الدين الاسلامي العام 628، فصار اليهود والمسيحيون من أهل الكتاب متساوين في المعاملة. وكان لسقوط دولة حمير أمام الجيوش المسيحية الحبشية العام 525 أثره في توقف انتشار الديانة اليهودية في اليمن، ثم جاء انهيار سد مأرب بعد ذلك ليزيد من الضعف الاقتصادي ما دفع عدداً من القبائل الجنوبية الى الهجرة من اليمن شمالاً والانتشار في أرض الحجاز. ومع أنه تم استخراج بقايا أثرية عدة في جنوب الجزيرة العربية وكتابات تعود الى القرن الثامن قبل الميلاد، فلم يتم العثور على أية دلائل تشير الى وجود اليهود هناك قبل وصولهم مع الحملة الرومانية في القرن الأول السابق للميلاد. بل ان يهود الفلاشا الذين ظهروا بعد ذلك في بلاد الحبشة اعتنقوا هذه الديانة عن طريق يهود اليمن، ومع أن القصة الأسطورية السائدة تقول ان الفلاشا هم سلالة بعض النبلاء الذين رافقوا الأمير منيليك - ابن سليمان وملكة سبأ - عند عودته الى بلاد أمه في الحبشة في أوائل القرن العاشر ق.م.، إلا أن الكتابات والدلائل الأثرية تشير الى أن الفلاشا لا ينتمون الى الجنس السامي العربي وانما الى الجنس الافريقي الحامي. وقد اعتنق هؤلاء الديانة اليهودية عن طريق الجماعات اليهودية التي كانت موجودة في جنوب الجزيرة العربية خصوصاً عندما جاء النجاشي ببعض الأسرى اليهود من اليمن الى بلاده على اثر هزيمتهم في القتال خلال القرن الميلادي السادس. وما يؤكد هذا أن يهود الفلاشا يعتمدون على نصوص الكتب المقدسة التي ترجمتها الكنيسة الحبشية الى لغتها، ويختلفون عن باقي اليهود في نقاط جوهرية إذ يمارسون الرهبنة المسيحية ولا يعرفون الشروحات التلمودية. هذا ما كان عليه الحال في الجنوب، أما في المناطق الشمالية للجزيرة العربية فأقدم ما عثر عليه الأثريون من اسماء يهودية باللغات الآرامية والنبطية واللحيانية - مكتوبة على قليل من شواهد القبور في بعض مناطق شمال الحجاز خصوصاً عند العلا ديدان القديمة ومدائن صالح - يرجع فقط الى القرن الأول السابق للميلاد. إلا أنه عند مجيء الاسلام كانت هناك قبائل يهودية تعيش في مناطق مختلفة من الجزيرة العربية. فإلى جانب يهود نجران واليمن في الجنوب، كانت هناك تجمعات يهودية أخرى متوطنة في منطقة يثرب أهمها قبيلتان هما بنو نضير وبنو قريظة، يليهما بنو قينقاع. وعاش اليهود في هذه المنطقة مع بعض القبائل اليمنية غير اليهودية التي هاجرت الى هناك على اثر انهيار سد مأرب، مثل الأوس والخزرج. كما كان هناك عدد من الجماعات اليهودية تعيش كذلك بمنطقة وادي القرى في الشمال، خصوصاً في خيبر وفدك وتهماء. وليس هناك معلومات محددة عن الموطن الأصلي الذي جاء منه هؤلاء اليهود الذين استقروا في الشمال او الزمن الذي هاجروا فيه الى جزيرة العرب، ومع هذا فلا يصعب علينا التعرف على أصل هذه الجماعات لو أننا نظرنا الى الأحداث التاريخية التي مر بها يهود فلسطين. فقد قام الرومان بتدمير مدينة القدس وحرق معبدها العام 70 ميلادية، فاختفى الكهنة اليهود تماماً من فلسطين بعد ذلك. وظلت القدس أنقاضاً الى أن زارها الامبراطور الروماني هادريان العام 130 فقرر إعادة بنائها. وأطلق الرومان على المدينة الجديدة التي أقاموها على أنقاض القدس اسم "اليا كابيتولينا"، وأقاموا بها معبداً لجوبيتر في موقع المعبد القديم. عندئذ جاء المسيحيون وبعض اليهود ليسكنوا المدينة التي بناها الرومان، إلا أن اليهود سرعان ما تمردوا على السلطات الرومانية مرة أخرى العام 132 بقيادة سيمون بن كوجنا الذي اعتقدوا بأنه مسيحهم وأطلقوا عليه اسم "بار كوخبا" أي "ابن النجم". واستمر تمرد اليهود ثلاث سنوات الى أن قتل الرومان بار كوخبا وحرم الامبراطور هادريان عليهم دخول مدينة اليا الجديدة أو الاقتراب من أسوارها. عندئذ يئس اليهود تماماً من مقاومة الرومان فترك معظمهم أرض فلسطين وهاجروا شمالاً الى الشام وأوروبا وغرباً الى مصر وشرقاً الى بلاد الأنباط ومنها جنوباً الى الجزيرة العربية. وهكذا نجد أن ظهور الأقوام اليهودية في شمال الحجاز يتوافق مع زمن هجرتهم الجماعية من فلسطين، التي تمت على مرحلتين: الأولى بعد دمار القدس العام 70، والثانية بعد العام 135 على أثر فشل ثورتهم ضد الرومان عندما حرم عليهم الامبراطور هادريان دخول منطقة القدس.