Pada akhir tahun 1938 M, Nahdhatul Ulama yang  berdiri pada tahun 1926, sesuai dengan tujuan pembentukannya, salah satunya ialah berikhtiar memperbanyak madrasah-madrasah, yaitu Madrasah Awaliah 2 tahun, Madrasah Ibtidaiyah 3 tahun, Madrasah Tsanawiah 3 tahun, Madrasah Mu'aliimin Wustha 2 tahun dan Madrasah Mu'alimin Ulya 3 Tahun. Madrasah-madrasah ini didirikan di tingkat cabang sampai tingkat ranting Nadhatul Ulama, termasuk di Wonosobo  yang memiliki tidak kurang 75 Madrasah Ibtidaiyyah dan Madrasah Tsanawiyyah dan Madrasah Mu'alimiin.

            Satu diantaranya adalah Madrasah Mu'alimin NU.Bermula pada tahun 1951, KH. Masykur Bin KH Abu Hamid mendirikan madrasah dengan nama Madin Bumen, dengan menggunakan musholla peninggalan KH.Abu Hamid. Satu tahun kemudian musholla tersebut dibangun menjadi gedung madrasah dengan luas 240 m² dengan fasilitas tersebut, KH.Masykur membuka pengajian umum.Pada saat itu, terdapat dua lokal asrama yang terdiri dari 6 kamar, 1 unit WC, kolam dan gedung musolla.Melihat  perkembangan minat belajar masyarakat sekitar, maka pada tahun 1954 dibukalah Madrasah Mu'allimin NU yang dipimpin langsung oleh Bpk. KH. Masykur dengan menggunakan Gedung Madrasah  yang selama ini dijadikan tempat pengajian umum di dusun Bumen, Bumirejo, Mojotengah, Wonosobo. Berjalan selama 3 tahun kemudian pada tahun 1957, atas dasar petunjuk Badan musyawirin berdirinya Madrasah, Madrasah tersebut dipindahkan di kampung kauman, Kota Wonosobo dengan pertimbangan :

1. Agar Madrasah tersebut dipindahkan ke tempat yang strategis.
2. Kesulitannya untuk mendapatkan informasi dan merekrut guru.

            Madrasah ini hanya bertahan selama enam tahun, meskipun demikian telah menghasilkan alumni yang sampai saat ini sebagian besar menjadi tokoh-tokoh besar di Wonosobo, dan kini gedung tersebut telah dibangun untuk kantor NU cabang Wonosobo. Adapun gedung yang semula digunakan untuk Madrasah Mu'allimin NU dipindah menjadi tempat pengajian umum.

            Pada Tahun 1973 Di kompleks Pengajian umum tersebut didirikan pondok pesantren "Al-Futuhiyyah" Bumen, dengan KH.Masykur sebagai pengasuh.Sistem pendidikan yang dipergunakan adalah tradisional, yaitu sorogan dan bandongan. Bapak KH. Masykur meninggal dunia pada tahun 1981, pada saat itu, Wonosobo benar-benar kehilangan  seorang tokoh besar, yang sangat berperan dalam memajukan pendidikan islam di Wonosobo, tak ada seorangpun yang tidak merasa kehilangan beliau karena suri tauladan beliau.

            Atas dasar musyawarah keluarga, pesantren dipimpin oleh Bapak KH. Munir Abdullah (Gus Munir). Pembangunan terus ditingkatkan, hasilnya pada tahun1982 berhasil mendirikan Mardasah Tsanawiyah putra, dan pada tahun 1983 mendirikan Pesantren putri serta Madrasah Tsanawiah putri yang tempat belajarnya terpisah dengan putra. Pada tahun 1991, Bapak KH.Munir Abdullah meninggal dunia. Wonosobo kembali kehilangan satu tokoh Ulama yang sangat berperan dalam memajukan pendidikan Islam di Wonosobo.

                Kemudian Pondok Pesantren Al-Futuhiyyah Ali Masykur dipimpin oleh Bapak KH. Ahmad Rofiq Masykur bin KH. Masykur. Sedangkan Madrasah Diniyah Al-Futuhiyyah Ali Masykur Ali Masykur dipimpin oleh K. Mukhlas Masykur, adik kandung KH.Ahmad Rofiq Masykur. Dari tahun ke tahun Pondok Pesantren terus berkembang. Dan sampai saat ini pembangunan Pondok Pesantren Al-Futuhiyyah Ali Masykur masih terus ditingkatkan. Pada tahun 2014 pengasuh merintis penyelenggaraan pendidikan formal dalam satu yayasan dengan membuka SMP yang diberi nama SMP Alfa Ali Masykur. Hingga akhir ini SMP tersebut terus mengalami peningkatan dalam pembangunan dan banyak mendapatkan prestasi baik akademik maupun non akademik, begitu pula Ponpes Al-Futuhiyyah Ali Masykur.