Sebelum Nabi Muhammad saw. berhasil menciptakan suatu masyarakat Muslim di Madinah, Jazirah Arabia terdiri atas kelompok-kelompok masyarakat plural. Al-Qur’an menggambarkan tiga macam ummah (kelompok masyarakat) yaitu:
Pertama, umat Islam, yaitu mereka yang memberikan responsi positif terhadap wahyu Ilahi yang dibawakan oleh Nabi Muhammad saw. dan para nabi-nabi sebelumnya.
Kedua, kelompok antitesis dari kelompok pertama yaitu mereka yang ingkar terhadap wahyu Ilahi. Kelompok ini masuk dalam kategori musyrik, yaitu mereka yang tidak percaya pada ke-Esaan Tuhan, atau dengan kata lain menyekutukan Tuhan, dan kafir, yaitu mereka yang menutupi kebenaran dan anugerah yang diberikan Allah kepada mereka. Kelompok ini dianggap kelompok yang tidak bersyukur, tidak mengakui kemurahan Tuhan, dan dinamakan orang-orang yang tidak percaya kepada-Nya.
Ketiga, ahlulkitab, berada di antara kelompok satu dan dua merupakan kelompok yang telah menerima kitab suci penganut Yahudi, Kristen, dan sebagian ulama Sabien.
Khusus menyangkut ahlulkitab dalam Islam, terdapat tiga status yang dapat dikenali yaitu: pertama, kehidupan temporal sebagai anggota masyarakat, kedua kitab suci mereka, dan ketiga status mereka di hari kemudian.
Sebagai anggota masyarakat, status ahlulkitab tidak berbeda dengan anggota masyarakat Muslim lainnya secara umum. Khusus bagi ahlulkitab, konsep al-dhimmah diberlakukan pada mereka. Istilah al-dhimmah merujuk pada suatu perjanjian permanen yang diikat antara penguasa Muslim dan warga negara ahlulkitab, yang merupakan komitmen mengikat yang tidak dapat dilanggar.
Dalam kaitan ini, Nabi Muhammad saw. bersabda, “Barang siapa membunuh seseorang yang dalam dirinya telah diikat perjanjian (zimmah), maka pada hakikatnya pelaku telah melanggar perjanjian Allah terhadap korban, karena itu ia (pembunuh) tidak akan dapat mencium aroma surga”.
Perjanjian di sini mengatur kewajiban kedua belah pihak, di mana penguasa berkewajiban memberikan proteksi atas diri, harta, rumah peribadatan, serta kebebasan beribadat. Sebaliknya, ahlulkitab diwajibkan membayar jizyah (pajak) pada pemerintah. Al-jizyah merupakan bagian integral dari perjanjian, yang posisinya sebagai imbalan atas proteksi pemerintah dan pembebasan dari kewajiban mengikuti perang (wajib militer).
Meskipun al-zimmah dan al-jizyah sudah tidak relevan lagi diterapkan masa kini, bahkan oleh negara Islam sekalipun, makna terkandung di dalamnya, yang berupa kebebasan warga negara memilih agama dan melaksanakan ibadah, menunjukkan dasar toleransi Islam terhadap agama lain. Menurut Mourice Borrmans, seorang pendeta asal Perancis dan Guru Besar pada Universitas Urbania, Roma, konsep zimmah yang diberlakukan oleh Islam merupakan usaha awal menuju pluralisme agama.
Untuk menyanggah kritikan yang sering dilontarkan bahwa Islam menempatkan orang-orang non-Muslim ke dalam klasifikasi warga negara kelas dua, konsep zimmah harus dilihat dari perspektif pengaturan hubungan antar sesama manusia yang dicanangkan Islam. Pertama, prinsip dasar Islam yang menghormati kebebasan seseorang terutama menyangkut pilihan agama. Al-Qur’an menjelaskan bahwa, Islam tidak membenarkan paksaan terhadap pilihan agama (lihat QS. [2]: 256, [10]: 99-100, dan [18]: 19).
Dari kaca mata ini, konsep zimmah justru memberikan peluang besar bagi non-Muslim untuk berkembang dan maju tanpa kekhawatiran akan kelangsungan agamanya. Sejarah mencatat bahwa non-Muslim, pada masa awal Islam, mendapat posisi penting dalam pemerintahan Islam. Bahkan, beberapa di antara mereka diangkat menjadi menteri dan penasihat pemerintah, khususnya dari golongan Kristen Nestorian. Tidak sedikit orang-orang dari golongan Kristen tersebut yang diberi tugas oleh pemerintahan Islam untuk menerjemahkan khazanah pengetahuan Yunani yang tersimpan dalam bahasa Yunani ke dalam bahasa Arab.
Salah seorang di antara mereka, yang dikenal telah menerjemahkan berpuluh-puluh kitab Yunani adalah Hunayn Ibn Ishaq (wafat sekitar 875 M). Namun, sikap umat Islam di atas, menjadi berubah karena dipengaruhi situasi politik, terutama setelah pengusiran dan pengeksekusian yang dilakukan dunia Kristen terhadap umat Yahudi dan Islam.
Perlu dijelaskan di sini bahwa, konsep jizyah bukan hasil inovasi Islam. Orang-orang Yunani, Romawi, dan Persia telah memberlakukannya sebelum Islam. Jizyah mulai diberlakukan pada tahun ke-8 Hijrah seusai perang Tabuk, yaitu setelah umat Islam menguasai Mekkah dan Tabuk. Pada masa ini, praktis hampir seluruh suku Arab yang tadinya beroposisi terhadap Islam tunduk dibawa pengaruh Islam.
Pada saat itu, Nabi mengadakan perjanjian, suku-suku Muslim diwajibkan membayar zakat, sedangkan bagi suku Arab, yang antara lain menetapkan bahwa bagi penduduk non-Muslim disepakati membayar jizyah sebagai imbalan proteksi diberikan oleh pemerintahan Islam. Perlu ditambahkan proteksi yang ditambahkan di sini bahwa jizyah hanya diwajibkan pada mereka yang sanggup mengangkat senjata, sedangkan mereka yang tidak dalam kategori tersebut (tua atau cacat) dibebaskan.
Di samping itu, jizyah hanya dapat diberlakukan apabila pemerintahan Islam berjanji untuk melakukan kewajiban proteksi. Untuk itu, di masa khalifah ketiga Usman bin Affan, jizyah tidak diberlakukan pada Cyprus ahlulkitab karena pemerintahan tidak dapat menjamin keselamatan mereka dari gangguan dunia luar.
