Sekembalinya ke Kota Tarim, beliau mengasaskan Rubath Darul Musthofa pada tahun 1414H / 1994M dengan tiga matlamat: (1) mengajar ilmu agama secara bertalaqqi dan menerimanya daripada ahlinya yang bersanad; (2) mentazkiah diri dan memperbaikkan akhlak; dan (3) menyebarkan ilmu yang bermanfaat serta berdakwah menyeru kepada Allah s.w.t. Selain Beliau merupakan pendiri pondok pesantren Darul Musthofa, Tarim - Yaman. Dan beliau merupakan Guru dari para guru Ahlusunnah Wal Jama'ah di seluruh dunia. Salah satu murid beliau di Indonesia yang berhasil adalah Allahyarham Habibana Munzir bin Fuad Al-Musawa, pendiri Majelis Rasulullah SAW. Mufti Agung Mesir periode 2003-2013 Syaikh Ali Jum'ah memberikan kesaksiannya atas kewalian Habib Umar bin Hafizh, ulama kharismatik Yaman yang juga Zurriyah Nabi. Dalam video yang diunggah Ulum Channel di kanal YouTube Tahun 2019 lalu, Syaikh Ali Jum'ah bertemu dengan Habib Umar bin Hafizh yang datang ke acara peringatan Tahun Baru 1439 Hijriyah di Mesir, 2017 lalu. Sejak tahun 1989 pesantren sudah aktif mengirimkan santri untuk melanjutkan belajar ke luar negeri, seperti: Universitas Al Azhar Kairo Mesir, Rubat al-Maliki Makkah, Rubat al-Jufri Madinah, Universitas Islamiyah Madinah, Rubat Darul Musthofa Yaman, Rubat as-Syatiri Tarim-Yaman, Universitas Al-Ahgaff Yaman, Universitas Darul Ulum Syar'iyah .

darul musthofa tarim yaman