Masjid Zahir dibangun pada 1912 oleh Tunku Mahmud, putra Sultan Tajuddin Mukarram Shah. Tujuan pembangunan masjid ini dimaksudkan sebagai makam para prajurit Kedah yang gugur saat mempertahankan Kedah dari perebutan Siam pada 1821. Arsitektur masjid ini terinspirasi dari Masjid Azizi di Kota Langkat, Sumatera Utara, Indonesia. Ciri khas masjid ini adalah adanya lima kubah yang menyimbolkan lima rukun Islam.
