يعود في نسبه إلى قبيلة آل علي جابر اليافعيين، الذين استوطنوا منطقة خشامر في حضرموت، ونشروا فيها دعوة التوحيد وحاربوا الجهل والخرافة وعرفوا بتمسكهم بالكتاب والسنة الصحيحة وعقيدة السلف الصالح. أحب تلاوته ملايين المسلمين وقلده الكثير من الأئمة؛ بسبب أسلوب تلاوته المميزة، لم تكن لديه رغبة في الإمامة مطلقا، ولكن أقحم فيها إقحاما وقد كان الباعث الأساسي على حفظ كتاب الله إنما حفظه وتعقله وتدبر معانيه، ولم يكن المقصود منه أن يكون به إماماً، لكن قدّر الله له أن يتولى الإمامة في مسجد الغمامة بالمدينة النبوية. لفت إليه أنظار المسلمين من جميع أنحاء العالم، فقد آتى الله الشيخ صوتاً شجياً جميلاً في قراءة القرآن وتجويده، حتى كان أعجوبة عند الناس، وقد فقد صوته فترة خضع فيها للعلاج، بعد خروجه مع الملك خالد إلى المسجد الحرام وقدمه للصلاة عند تعيينه بالحرم، ترك الإمامة في المسجد الحرام بعد عام 1409 ه ولم يلتزم بالإمامة في مسجد آخر، وإنما كان المصلون يطلبون منه التقدم للصلاة بهم في عدة مساجد إذا كان الشيخ موجوداً عند إقامة الصلاة، وكان يطلب من الشيخ إمامة الناس بالتراويح في مسجد بقشان بجدة بحكم أنه أقرب المساجد إلى بيت الشيخ، وكونه مسجداً جامعاً، وقد أم الشيخ فيه المصلين عام 1410 ه وبعده بعدة سنوات ثم إن الشيخ أتعبه المرض فلم يقدر على الوقوف طويلاً فكان يصلي نصف الصلاة ويكمل الصلاة معه شاب آخر، ثم لم يعد الشيخ يؤم بالناس التراويح؛ لأن الوقوف يثقل عليه. كان حلم الشيخ علي جابر أن يحصل على الدكتوراة بعد حصوله على الماجستير عام 1400 ه، بعد انقطاع دام سنوات عديدة، لكنه استطاع أن يتقدم بأطروحته في الفقه المقارن لنيل درجة الدكتوراة في رسالته، بعنوان فقه القاسم بن محمد بن أبي بكر الصديق، التي نوقشت في الثاني والعشرين من شهر رمضان المبارك عام 1407 ه، وحصل بموجبها على مرتبة الشرف الأولى، حصل على الدكتوراة وفي الوقت نفسه كان إماماً لصلاة التراويح في المسجد الحرام، ثم أصبح بعد ذلك عضواً من أعضاء التدريس بجامعة الملك عبدالعزيز بجدة حيث يدرس الفقه المقارن. توفي مساء يوم الأربعاء الثاني عشر من شهر ذي القعدة 1426ه، في مدينة جدة بعدما عانى كثيراً من المرض، بعد أن أجرى عملية جراحية للتخلص من الوزن الزائد رجعت بآثار سلبية ومضاعفات على صحته، مما استدعى مراجعته للمستشفى شهوراً طويلة ودخوله مراراً لغرفة العناية المركزة.