Di antara kebaikan-kebaikan Sulaimana bin Abdul Malik adalah bahwa dia berkenan menerima nasihat dari seorang ulama ahli fikih, Raja’ bin Haiwah al-Kindi, yang mengusulkan ketika Sulaiman dalam keadaan sakit dan akhirnya wafat, agar mengangkat Umar bin Abdul Aziz sebagai penerusnya. Akhirnya Sulaiman menetapkan surat wasiat yang tidak memberi celah bagi setan sedikit pun (Ashr ad-Daulatain al-Umawiyah wa al-Abbasiyah, Hal: 37). Ibnu Sirin mengatakan, “Semoga Allah merahmati Sulaiman, dia mengawali kekhalifahannya dengan menghidupkan shalat dan mengakhirinya dengan menunjuk Umar bin Abdul Aziz sebagai penerusnya.”

Khalifah Sulaiman wafat tahun 99H, Umar bin Abdul Aziz menshalatkan jenazahnya, tertulis dalam stempelnya, “Aku beriman kepada Allah dengan ikhlas.” (Siyar A’lam Nubala, 5: 11-12).

Ada beberapa riwayat tentang pengangkatan Umar bin Abdul Aziz sebagai khalifah. Di antara riwayat-riwayat tersebut adalah yang dikisahkan oleh Ibnu Sa’ad dalam ath-Thabaqat dari Suhail bin Abu Suhail, dia berkata, Aku mendengar Raja’ bin Haiwah berkata, “Di hari Jumat, Sulaiman bin Abdul Malik memakai baju berwarna hijau dari wol, dia bercermin dan berkata, ‘Aku adalah raja muda’. Lalu dia keluar untuk menunaikan shalat Jumat bersama rakyat, dia langsung sakit begitu pulang, manakala sakitnya semakin keras dia menulis wasiat untuk anaknya Ayyub. Ayyub adalah anak yang belum dewasa, aku berkata kepadanya, ‘Apa yang engkau lakukan wahai Amirul Mukminin? Di antara kebaikan seseorang yang mengalir ke kuburnya adalah bahwa dia mengangkat orang shaleh sesudahnya’. Sulaiman berkata, ‘Surat wasiat ini, aku masih beristikharah kepada Allah, masih mempertimbangkan, dan belum memutuskan dengan pasti.’

Satu atau dua hari setelah itu Sulaiman membakar surat tersebut, kemudian dia mengundangku. Dia bertanya, ‘Bagaimana pendapatmu tentang Dawud bin Sulaiman?’ Aku menjawab, ‘Dia berada di Konstantinopel, Anda sendiri tidak tahu dia masih hidup atau telah mati’. Sulaiman bertanya, ‘Siapa menurutmu wahai Raja’?’ Aku menjawab, ‘Terserah Anda wahai Amirul Mukminin’. Aku berkata demikian karena aku sendiri masih mempertimbangkan. Sulaiman berkata, ‘Bagaimana menurutmu Umar bin Abdul Aziz?’ Aku menjawab, ‘Demi Allah, yang aku tahu bahwa dia adalah laki-laki yang utama, muslim pilihan’. Sulaiman berkata, ‘Benar, dialah orangnya, tetapi jika aku mengangkatnya dan tidak mengangkat seorang pun dari anak-anak Abdul Malik, maka hal itu bisa memicu perpecahan, mereka tidak akan membiarkannya memimpin selama-lamanya, kecuali jika aku menetapkan seseorang dari mereka setelah Umar. Aku akan mengangkat Yazid bin Abdul Malik sesudah Umar. –Pada saat itu Yazid sedang tidak berada di tempat, dia menjadi Amirul Haj- Hal itu akan membuat anak-anak Abdul Malik tenang dan menerima’. Aku berkata, ‘Terserah Anda’.

Sulaiman bin Abdul Malik menulis surat tangannya, ‘Dengan nama Allah yang Maha Pengasih lagi Maha Penyayang. Ini adalah surat wasiat Sulaiman bin Abdul Malik, Amirul Mukminin, untuk Umar bin Abdul Aziz. Sesungguhnya aku menyerahkan khilafah kepadanya sesudahku dan sesudahnya kepada Yazid bin Abdul Malik, dengarkanlah dan taatilah, bertakwalah kepada Allah, janganlah berselisih, karena musuh-musuh kalian akan berharap mengalahkan kalian’. Lalu Sulaiman menstempel surat tersebut.

Sulaiman kemudian meminta Ka’ab bin Hamid, kepala pasukan pengawal khalifah, agar mengumpulkan keluarganya. Ka’ab melaksanakan dan mengumpulkan mereka. Setelah mereka berkumpul, Sulaiman berkata kepada Raja’, bawalah surat wasiatku kepada mereka, katakan kepada mereka bahwa itulah surat wasiatku, minta mereka untuk membaiat orang yang aku tunjuk’. Raja’ melaksanakannya, ketika Raja menyampaikan hal itu, mereka berkata, ‘Kami mendengarkan dan menaati siapa yang tercantum di dalamnya’. Mereka berkata, ‘Bolehkah kami menemui Amirul Mukminin untuk mengucapkan salam?’ Raja’ menjawab, ‘Silahkan’. Mereka pun masuk, Sulaiman berkata kepada mereka, ‘Itu adalah wasiatku, -Sulaiman menunjuk kepada surat yang ada di tangan Raja’ dan mereka melihat surat tersebut- Itu adalah pesan terakhirku, dengarkanlah, taatilah dan baiatlah orang yang aku sebutkan namanya dalam surat wasiat tersebut’. Raja’ berkata, ‘Maka mereka membaiatnya satu per satu’. Kemudian Raja’ membawa surat yang berstempel itu keluar’.”

Raja’ berkata, “Manakala mereka telah meninggalkan tempat itu, Umar datang kepadaku, dia berkata, ‘Wahai Abu al-Miqdam, sesungguhnya Sulaiman sangat menghormati dan menyayangiku, dia bersikap lembut dan baik, aku khawatir dia menyerahkan sebagian perkara ini kepadaku, maka aku meminta kepadamu dengan nama Allah kemudian dengan kehormatan dan kasih sayangku, agar engkau memberitahuku jika perkaranya demikian, sehingga aku bisa mengundurkan diri saat ini sebelum datangnya suatu keadaan dimana aku tidak mampu merubahnya lagi’. Raja’ menjawab, ‘Tidak demi Allah, aku tidak akan mengabarkan satu huruf pun kepadamu’. Maka Umar pergi dengan kesal.”

Raja’ berkata, “Maka Hisyam bin Abdul Malik menemuiku dan berkata, ‘Sesungguhnya antara diriku dengan dirimu terdapat hubungan baik dan kasih sayang lama, aku pun tahu berterima kasih, katakan kepadaku apakah aku orang yang disebut dalam surat tersebut? Jika aku adalah orangnya, maka aku tahu. Jika orang lain, maka aku akan berbicara, orang sepertiku tidak patut dipandang sebelah mata, perkara seperti ini tidak pantas dijauhkan dari orang sepertiku, katakan kepadaku. Aku berjanji dengan nama Allah kepadamu tidak akan menyebutkan namamu selama-lamanya’.”

Raja’ berkata, “Aku menolak permintaan Hisyam, aku berkata, ‘Tidak demi Allah, aku tidak akan membuka satu huruf pun kepadamu dari apa yang telah dirahasiakan Sulaiman kepadaku’. Hisyam pun pergi sambil menepukkan satu tangannya ke tangan yang lain, dia berkata, ‘Kepada siapa perkara ini diserahkan jika tidak kepadaku, apakah kami ini dianggap bukan anak Abdul Malik? Demi Allah, sesungguhnya aku adalah putra Bani Abdul Malik yang sebenarnya’.”

Raja’ berkata, “Aku menemui Sulaiman bin Abdul Malik, ternyata dia sudah wafat, namun aku masih mendapati saat-saat sakratul mautnya, setiap kali dia menghadapinya, maka aku menghadapkannya ke arah kiblat, Sulaiman mengucapkan dengan tersendat-sendat, ‘Wahai Raja’, saatnya belum tiba sekarang’. Sampai aku mengulangnya dua kali, pada kali ketiga Sulaiman berkata, ‘Sekarang wahai Raja’, jika kamu ingin sesuatu, maka aku bersaksi bahwa tidak ada sesembahan yang haq selain Allah dan bahwa Muhammad adalah hamba dan utusan-Nya’.”

Raja’ berkata, “Maka aku menghadapkannya ke arah kiblat, dan Sulaiman wafat. Aku memejamkan kedua matanya, aku menyelimutinya dengan sebuah kain hijau, aku menutup pintu, istrinya mengutus seorang utusan untuk meminta izin melihat keadaannya, aku berkata kepadanya, ‘Dia telah tidur dan berselimut’. Utusan itu telah melihat Sulaiman yang telah berselimut kain, dia pulang menyampaikannya kepada istrinya, istrinya tenang karena dia mengira bahwa Sulaiman tidur.”

Raja’ berkata, “Aku meminta seseorang yang kupercayai untuk berdiri di pintu, aku berpesan kepadanya untuk tidak beranjak sampai aku sendiri yang datang kepadanya dan tidak memperkenankan siapa pun untuk masuk menemui khalifah. Lalu aku memanggil Ka’ab bin Hamid al-Ansi, aku memintanya untuk mengumpulkan keluarga Amirul Mukminin, mereka pun berkumpul di masjid Dabiq, aku berkata kepada mereka, ‘Berbaiatlah kalian’. Mereka menjawab, ‘Kami telah berbaiat, sekarang berbaiat lagi?’ Aku berkata, ‘Ini adalah pesan Amirul Mukminin, berbaiatlah untuk mematuhi perintahnya, mengakui siapa yang disebutkan namanya dalam surat wasiat yang distempel ini’. Mereka pun satu per satu membaiat untuk kedua kalinya.”

Raja’ berkata, “Ketika mereka bersedia membaiat untuk kedua kalinya, maka aku yakin telah menata urusan ini sebaik mungkin, aku mengucapkan, ‘Jenguklah Khalifah Sulaiman, karena beliau telah wafat’. Mereka berkata, ‘Inna lillahi wa inna ilaihi rajiun’. Kemudian aku membacakan isi surat wasiat Sulaiman, ketika aku menyebut nama Umar bin Abdul Aziz, Hisyam berkata, ‘Kami tidak akan membaiatnya selama-lamanya’. Raja’ mengatakan, ‘Demi Allah, aku akan memenggal lehermu, berdiri dan berbaiatlah’. Lalu Hisyam berdiri dengan “menyeret” kedua kakinya.

Raja’ melanjutkan, “Aku memegang pundak Umar bin Abdul Aziz, aku mendudukkannya di atas mimbar, sementara Umar bin Abdul Aziz mengucapkan, ‘Inna lillahi wa inna ilaihi