Keterbelakangan baik secara mental, maupun ekonomi yang dialami bangsa Indonesia, akibat penjajahan maupun akibat kungkungan tradisi, telah menggugah kesadaran kaum terpelajar untuk memperjuangkan martabat bangsa ini, melalui jalan pendidikan dan organisasi. Gerakan yang muncul 1908 tersebut dikenal dengan “Kebangkitan Nasional”. Semangat kebangkitan memang terus menyebar ke mana-mana – setelah rakyat pribumi sadar terhadap penderitaan dan ketertinggalannya dengan bangsa lain. Sebagai jawabannya, muncullah berbagai organisasi pendidikan dan pembebasan.
Kalangan pesantren yang selama ini gigih melawan kolonialisme, merespon kebangkitan nasional tersebut dengan membentuk organisasi pergerakan, seperti Nahdlatul Wathan (Kebangkitan Tanah Air) pada 1916. Kemudian pada tahun 1918 didirikan Taswirul Afkar atau dikenal juga dengan “Nahdlatul Fikri” (kebangkitan pemikiran), sebagai wahana pendidikan sosial politik kaum dan keagamaan kaum santri. Dari situ kemudian didirikan Nahdlatut Tujjar, (pergerakan kaum saudagar). Serikat itu dijadikan basis untuk memperbaiki perekonomian rakyat. Dengan adanya Nahdlatul Tujjar itu, maka Taswirul Afkar, selain tampil sebagai kelompok studi juga menjadi lembaga pendidikan yang berkembang sangat pesat dan memiliki cabang di beberapa kota.
Suatu waktu Raja Ibnu Saud hendak menerapkan asas tunggal yakni mazhab Wahabi di Mekkah, serta hendak menghancurkan semua peninggalan sejarah Islam maupun pra Islam, yang selama ini banyak diziarahi karena dianggap bidah. Gagasan kaum Wahabi tersebut mendapat sambutan hangat dari kaum modernis di Indonesia, baik kalangan Muhammadiyah maupun PSII di bawah pimpinan HOS Tjokroaminoto. Sebaliknya, kalangan pesantren yang selama ini membela keberagaman, menolak pembatasan bermazhab dan penghancuran warisan peradaban tersebut.
Dengan sikapnya yang berbeda itu kalangan pesantren dikeluarkan dari anggota Kongres Al Islam di Yogyakarta pada tahun 1925. Akibatnya kalangan pesantren juga tidak dilibatkan sebagai delegasi dalam Mu’tamar ‘Alam Islami (Kongres Islam Internasional) di Mekkah yang akan mengesahkan keputusan tersebut. Sumber lain menyebutkan bahwa K.H. Hasyim Asy’ari, K.H. Wahab Hasbullah dan sesepuh NU lainnya melakukan walk out.
Didorong oleh minatnya yang gigih untuk menciptakan kebebasan bermazhab serta peduli terhadap pelestarian warisan peradaban, maka kalangan pesantren terpaksa membuat delegasi sendiri yang dinamakan Komite Hejaz, yang diketuai oleh K.H. Wahab Hasbullah.
Atas desakan kalangan pesantren yang terhimpun dalam Komite Hejaz, dan tantangan dari segala penjuru umat Islam di dunia, maka Raja Ibnu Saud mengurungkan niatnya. Hasilnya, hingga saat ini di Mekkah bebas dilaksanakan ibadah sesuai dengan mazhab mereka masing-masing. Itulah peran internasional kalangan pesantren pertama, yang berhasil memperjuangkan kebebasan bermazhab dan berhasil menyelamatkan peninggalan sejarah dan peradaban yang sangat berharga.
Berangkan komite dan berbagai organisasi yang bersifat embrional dan ad hoc, maka setelah itu dirasa perlu untuk membentuk organisasi yang lebih mencakup dan lebih sistematis, untuk mengantisipasi perkembangan zaman. Maka setelah berkordinasi dengan berbagai kiai, akhirnya muncul kesepakatan untuk membentuk organisasi yang bernama Nahdlatul Ulama (Kebangkitan Ulama) pada 16 Rajab 1344 H (31 Januari 1926). Organisasi ini dipimpin oleh K.H. Hasyim Asy’ari sebagai Rais Akbar.
Untuk menegaskan prisip dasar orgasnisai ini, maka K.H. Hasyim Asy’ari merumuskan kitab Qanun Asasi (prinsip dasar), kemudian juga merumuskan kitab I’tiqad Ahlussunnah Wal Jamaah. Kedua kitab tersebut kemudian diejawantahkan dalam khittah NU, yang dijadikan sebagai dasar dan rujukan warga NU dalam berpikir dan bertindak dalam bidang sosial, keagamaan dan politik