Khalifah Abdul Malik bin Marwan telah mewarisi kebijakan Diwan yang diadopsi sejak zaman Khalifah Umar bin al-Khatthab. Karena ini merupakan sistem administrasi yang diadopsi dari bangsa non-Arab, Persia dan Romawi, maka tenaga ahli dan bahasa yang digunakan masih ahli dan bahasa asal. Di masa Abdul Malik bin Marwan, tatakelola administrasi ini meliputi Diwan Kharaj, Diwan Jundi, Diwan Rasail, Diwan Khatim dan Diwan Barid.
Karena bahasa yang digunakan dalam Diwan ini tidak sama, maka perbedaan di masing-masing wilayah tidak bisa dielakkan. Misalnya, antara ketentuan jizyah, usyur tanah, dan usyur perdagangan di Irak dan wilayah Persia dengan wilayah Syam dan Mesir. Ini mempunyai dampak yang tidak baik terhadap kebijakan perekonomian di wilayah khilafah.
Selain itu, banyak tenaga non Arab yang digunakan untuk mengisi pos-pos Diwan tersebut, diakui atau tidak mempunyai pengaruh yang negatif. Meski ini hanya aspek administratif, tetapi negara akhirnya banyak bergantung kepada orang-orang non Arab, yang umumnya belum memeluk Islam. Dari sekian Diwan di atas, satu-satunya Diwan yang disterilkan oleh Abdul Malik bin Marwan adalah Diwan Jundi, demi mengamankan kepentingan negara. Diwan inilah satu-satunya yang mempunyai karaktek Arab, dan diisi oleh orang-orang Arab, Muslim.
Selain itu, dalam riwayat lain dituturkan, sebagaimana dinukil oleh al-‘Allamah Syeikh Abdul Qadim Zallum, dalam kitabnya, al-Amwal fi Daulati al-Khilafah, bahwa suatu ketika petugas administrasi yang notabene adalah non Muslim, hendak melakukan pencatatan administrasi, tetapi malangnya tintanya habis. Dia pun mengencingi dawatnya, sehingga air najis ini digunakan untuk mencatat dokumen. Ketika berita ini sampai kepada Khalifah Abdul Malik bin Marwan, maka Khalifah naik pitam. Sejak saat itulah, orang-orang non Arab ini tidak lagi digunakan. Demikian juga bahasa mereka. Momentum ini juga dijadikan sebagai momentum reformasi administrasi. Sejak saat itu, proses Arabisasi administrasi mulai dilakukan.
Proses Arabisasi ini membutuhkan waktu beberapa tahun, hingga bahasa Arab benar-benar menjadi bahasa resmi administrasi dan birokrasi. Perubahan dokumen dari bahasa non Arab ke dalam bahasa Arab, termasuk tenaga administrasinya, sehingga pengisian pos-pos kepegawaian oleh orang-orang Arab.
Dampak dari kebijakan Arabisasi ini adalah:
- Tersebarnya bahasa Arab di wilayah-wilayah yang ditaklukkan dengan cepat.
- Penduduk di wilayah-wilayah non Arab menerima Islam, terlebih ketika bahasa Arab merupakan bahasa Alquran dan hadits Nabi. Dengan begitu, kepentingan mereka sebagai Muslim pun terjaga.
- Negara pun mempunyai identitas keislaman yang semakin kuat, yaitu karakter Arab, sebagai tsaqafah dan peradaban.
Proses inilah, yang diakui atau tidak, ikut mempercepat penguasaan bangsa-bangsa non Arab yang baru ditaklukkan terhadap bahasa Arab. Bahasa kitab suci (Alquran), dan hadits Nabi mereka, juga bahasa ibadah mereka. Ini ditambah kebijakan Khalifah Abdul Malik bin Marwan dalam penerbitan mata uang Dinar dan Dirham yang khas, yang juga dicetak dengan menggunakan khath Arab.