Tempat kelahiran beliau berada disekitar 2 kilometer ke arah utara dari kota Jombang, tepatnya di Pesantren Gedang . Gedang sendiri merupakan salah satu dusun yang terletak di desa Tambakrejo kecamatan Jombang.
Sejak masa kanak-kanak Kiai Hasyim hidup dalam lingkungan Pesantren Muslim tradisional Gedang.
Keluarga besar bukan saja pengelola pesantren, tetapi juga pendiri pesantren yang masih cukup populer hingga saat ini. Ayah Kiai Hasyim (Kiai Asy'ari) merupakan Pendiri Pesantren Keras (Jombang).
Sedangkan kakeknya dari jalur ibu (Kiai Utsman) dikenal sebagai pendiri dan pengasuh Pesantren Gedang yang pernah menjadi pusat perhatian, terutama dari santri-santri Jawa pada akhir abad ke-19. Sementara kakek ibunya yang bernama Kiai Sihah dikenal luas sebagai pendiri dan pengasuh Pesantren Tambak Beras Jombang.
Pada umur lima tahun Kiai Hasyim berpindah dari Gedang ke desa Keras, sebuah desa di sebelah selatan kota Jombang karena mengikuti ayah dan ibunya yang sedang membangun pesantren baru.
Baca Juga: Mengenal Jenderal Listyo Sigit, Kapolri Dengan Kekayaan Rp 8,3 Miliar
Di sini, Kiai Hasyim menghabiskan masa kecilnya hingga berumur 15 tahun, sebelum akhirnya, meninggalkan keras dan menjelajahi berbagai pesantren ternama saat itu ke Makkah.
Pada usianya yang ke-21, Kiai Hasyim menikah dengan Nafisah, salah seorang putri Kiai Ya'qub (Siwalan Panji, Sidoarjo). Pernikahan itu dilangsungkan pada tahun 1892 M / 1308 H.
Tidak lama kemudian, Kiai Hasyim bersama istri dan mertuanya berangkat ke Makkah guna menunaikan ibadah haji.