Ia adalah ulama sekaligus menjadi Panglima Hizbullah (Tentara Allah). Hizbullah adalah organisasi semi militer pada masa pendudukan Jepang. Para anggotanya adalah pemuda-pemuda Islam yang mendapat pelatihan militer guna menghadapi pasukan pemerintah pendudukan Jepang. Panglima Hizbullah itu adalah K.H. Zaenul Arifin.
Zaenul Arifin dilahirkan di Barus, Tapanuli, pada tahun 1909. Masa kecilnya lebih banyak dihabiskannya di pesantren-pesantren untuk mendalami ilmu keagamaan, sedangkan pendidikan formalnya hanya sampai Sekolah Dasar. la kemudian bergabung dalam organisasi Nahdatul Ulama (NU). Ketika NU sebagai partai Politik dilarang oleh Jepang, ia bergabung dengan Majelis Syuro Muslimin Indonesia (Masyumi) dan dipercaya menjadi kepala bagian umum.
Sosok dan kepemimpinannya yang tegas menjadikan Zaenul Arifin kemudian ditunjuk menjadi Panglima Hizbullah. Anggota-anggota Hizbullah yang mendapat latihan militer kerap terlibat bentrok dengan pasukan Jepang.
Setelah Indonesia merdeka, terdapat banyak laskar-laskar kesatuan bersenjata di Indonesia selain terdapat Badan Keamanan Rakyat yang dibentuk pada tanggal 23 Agustus 1945. Pada tanggal 5 Oktober 1945, BKR kemudian melebur menjadi Tentara Keamanan Rakyat (TKR) dan seterusnya menjadi Tentara Republik Indonesia (TRI). Semua organisasi dan laskar bersenjata bergabung dengan TRI hingga terbentuk Tentara Nasional Indonesia (TNI) pada tanggal 3 Juni 1947. Laskar Hizbullah pimpinan K.H. Zaenul Arifin turut bergabung dalam Tentara Nasional Indonesia dan K.H. Zaenul Arifin dipercaya menjadi Sekretaris Pucuk Pimpinan TNI.
K.H. Zaenul Arifin pernah ditunjuk menjadi anggota Badan Pekerja Komite Nasional Indonesia Pusat (BPKNIP). la juga ditunjuk menjadi anggota Dewan Permusyawaratan Rakyat Sementara (1950 - 1953) dan juga Ketua Dewan Perwakilan Rakyat Gotong Royong (DPRGR). Pada masa Kabinet Ali Sastroamijoyo I (30 Juli 1953 – 12 Agustus 1955), K.H. Zaenul Arifin dipercaya menjadi Wakil II Perdana Menteri.
K.H. Zaenul Arifin wafat di Jakarta pada tanggal 2 Maret 1963. Jenazahnya dimakamkan di Taman makam Pahlawan Kalibata Jakarta. Pemerintah Indonesia mengangkat K.H. Zaenul Arifin seoagai Pahlawan Pergerakan Nasional beberapa bulan setelah tahun wafatnya, 1963.