Saiyidina Ali R.A. bukan sahaja seorang sahabat besar Rasullullah S.A.W. serta yang paling dicintai oleh baginda bahkan beliau juga seorang manusia luarbiasa yang memiliki ilmu bagaikan lautan, kefasihan lidahnya yang tiada bandingan sebagai seorang ahli sastera dan pidato, di samping seorang pahlawan yang tiada seorangpun dapat menafikan kehandalannya di antara barisan pahlawan-pahlawan yang terbilang.
Beliau telah memeluk Islam ketika berumur 8 tahun dan merupakan kanak-kanak yang mula-mula sekali memeluk Islam. Setengah riwayat menyatakan bahawa beliaulah yang paling dahulu Islam dari Saiyidina Abu Bakar Al-Siddiq R.A. Saiyidina Ali Bin Abu Talib termasuk ahli keluarga Rasulullah S.A.W. sendiri kerana beliau adalah anak saudara baginda yang membesar dalam asuhan dan pemeliharaan Nabi S.A.W. Saiyidina Ali R.A. dilahirkan dalam Kaabah, kiblat yang menjadi kerinduan ummat Islam. Mula-mula yang dilihatnya ialah Muhammad S.A.W. dan Siti Khadijah sedang sembahyang. Ketika beliau ditanyakan kenapa memeluk Islam tanpa lebih dahulu mendapat izin ayahnya, Ali R.A. menjawab, "Apa perlunya aku benmesyuarah dengan ayah demi untuk mengabdi kepada Allah?
Pada mulanya agama Islam hanya berkembang di sekitar lingkungan rumah Rasulullah S.A.W. sahaja, yakni berkisar pada diri Rasulullah S.A.W., isterinya Siti Khadijah, Ali dan Zaid Bin Haritsah. Pada suatu hari Nabi Muhammad S.A.W. telah mengundang sekelian sanak saudaranya pada satu jamuan di rumahnya. Setelah mereka itu datang maka Rasulullah S.A.W. pun menerangkan kepada mereka itu tentang agama Islam yang dibawanya itu. Maka Abu Lahab memutuskan pembicaraannya serta menyuruh hadirin yang lain supaya meninggalkan jamuan makan itu. Pada keesokan harinya Rasulullah S.A.W. mengadakan pula jamuan makan, dan setelah selesai bensantap, maka bersabdalah Rasul S.A.W.
"Saya rasa tak ada seorang yang membawa sesuatu yang lebih mulia daripada yang ku bawa sekarang. Maka siapakah di antara kalian yang akan menolongku? Tatkala mendengarkan rayuan Rasul itu mereka semua marah lalu bangkit untuk meninggalkan rumah itu. Tetapi Ali yang masih lagi belum baligh ketika itu lantas bangun seraya berkata, "Hai Rasulullah, akulah yang akan menolongmu. Aku akan memerangi sesiapa sahaja yang akan memerangimu , lalu disambut oleh hadirin dengan tertawa sambil melihat-lihat Abu Talib dan anaknya itu. Kemudian meneka meninggalkan rumah Rasul itu sambil mengejek-ejek.
Saiyidina Ali R.A. pernah benkata, "Aku telah menyembah Allah S.W.T. lima tahun sebelum disembah sesiapapun dari ummat Muhammad ini. Bahkan beliau adalah salah seorang yang pertama bersembahyang bersama Rasulullah S.A.W. Dalam hubungan ini Anas Bin Malik R.A. pernah berkata, "Muhammad diangkat menjadi Rasulullah pada hari Isnin, sedang Ali Bin Abu Talib sudah ikut sembahyang bersama baginda Rasul pada keesokan harinya.
Abu Talib, bapa saudara Rasul adalah seorang yang miskin lagi susah hidupnya serta mempunyai ramai anak. Maka dengan maksud untuk meringankan beban Abu Talib itulah atas fikiran. Nabi S.A.W., Saiyidina Abbas Bin Abu Muttalib telah mengambil Ja'afar menjadi tanggungannya sedang Rasul sendiri mengambil Ali. Dengan hal demikian tumbuhlah Ali Bin Abu Talib sebagai seorang pemuda di tengah-tengah keluarga Rasulullah dan langsung memperoleh asuhan dan baginda. Saiyidina Ali R.A. banyak mengambil tabi'at Nabi S.A.W. dan beliaulah yang terdekat sekali hubungannya dengan Rasul serta yang paling dicintainya. Demikian akrabnya Saiyidina Ali R.A. dengan Rasulullah S.A.W. hinggakan beliau hampir-hampir tidak pernah berpisah sejengkal pun dari Rasulullah S.A.W. baik di waktu suka mahupun di waktu susah. Pergonbanannya terhadap Islam dan Rasulnya adalah demikian besar sekali dan akan selamanya menjadi contoh keutamaan yang tiada bandingannya dalam sejarah ummat Islam.
Tatkala Rasulullah S.A.W. melakukan hijrah ke Madinah di atas penintah Allah S.W.T. bagi menyelamatkan dirinya dari rencana pihak musyrikin Quraisy yang bertujuan hendak membunuhnya, maka kepada Saiyidina Ali R.A. ditugaskan oleh baginda untuk tidur di tempat tidurnya pada malam yang sangat genting itu. Walaupun tugas itu sangat berat dan merbahaya sekali namun Saiyidina Ali R.A. sebagai sifatnya seorang pejuang yang sejati, telah menyanggupi tugas tersebut dengan hati yang ikhlas dan gembira, kerana beliau mengerti bahawa berpeluang menyerahkan nyawanya demi untuk menebus seorang Rasul. Bahkan beliau juga mengerti bahawa tugas yang dilaksanakannya itu akan merupakan pengorbanan yang tidak ada tolok bandingannya di kemudian hani.
Setelah Rasulullah S.A.W. selamat sampai ke Madinah, tidak lama kemudiannya tibalah pula rombongan Saiyidina Ali R.A. Apakala ramai kaum Muhajinin sampai di kota Madinah itu, Rasullullah S.A.W. telah mempersaudarakan antana golongan Muhajirin dengan golongan Ansar. Tetapi anihnya dalam hubungan ini Rasulullah tidak mempersaudarakan Saiyidina Ali R.A. dengan sesiapapun juga, hanya baginda berkata kepada Saiyidina Ali, demikian sabdanya, "Wahai Ali, engkau adalah saudaraku di dunia dan saudaraku juga di Akhirat. Demikian jelaslah bahawa baginda telah mempersaudarakan Saiyidina Ali dengan diri baginda sendiri. Kesayangan Rasulullah S.A.W. terbukti dengan menjodohkan Saiyidina Ali R.A. dengan puteri yang paling disayanginya iaitu Fatimah AzZahrah, seorang wanita yang paling utama di syurga, padahal sebelum itu Fatimah sudah pernah dilamar oleh Saiyidina Abu Bakar dan Saiyidina Umar Al Khattab R.A. tetapi Rasul menolaknya dengan lemah lembut dan dengan cara yang bijaksana.
Sebagai seorang yang gagah berani dan sahabat yang paling disayangi baginda Rasul, Saiyidina Ali R.A. tidak pernah ketinggalan dalam mana-mana peperangan baik besar mahupun kecil yang dilakukan oleh Rasulullah S.A.W. Beliau telah melakukan peranan yang penting dalam Peperangan Badar yang terkenal itu. Ketika itu beliau merupakan seorang pemuda yang gagah dan tampan masih dalam lingkungan 20an lagi. Dalam peperangan itulah buat pertama kalinya Rasulullah S.A.W. telah menyerahkan panji-panji peperangan kepada Saiyidina Ali R.A. dimana beliau telah menjalankan tugasnya dalam peperangan tersebut dengan cemerlang sekali. Setelah peperangan tamat para sahabat tidak menemui Nabi S.A.W. di tengah-tengah mereka. Dalam keadaan mereka tertanya-tanya itu tiba-tiba muncul Rasulullah S.A.W. bersama Saiyidina Ali R.A. seraya baginda bersabda, "Saya sebenarnya ada di belakang kalian sedikit kerana merawati perut Ali yang luka. Dari peristiwa ini dapatlah dilihat betapa besarnya kecintaan baginda tenhadap Saiyidina Ali R.A. dan bagaimana pula besarnya pengorbanan Ali R.A. dalam menegakkan kemuliaan Agama Islam.
Dalam apa jua peperangan yang dilakukan oleh Rasulullah S.A.W., Saiyidina Ali R.A. tetap berada di samping baginda. Pada suatu ketika iaitu dalam Perang Tabuk, tiba-tiba Rasulullah S.A.W. tidak membenarkan Saiyidina Ali R.A. untuk menyertai baginda hingga sikap Rasulullah S.A.W. itu telah dijadikan modal fitnah oleh pihak musuh-musuh Islam serta kaum munafik konon baginda tidak senang hati terhadap Saiyidina Ali R.A. Jika tidak demikian masakan baginda menegahnya menyertai perang. Sebagai seorang yang benar dan mencintai kebenaran Saiyidina Ali R.A. kurang berasa senang mendengar desas-desus yang kurang menyenangkan itu lantas beliau terus menjumpai Rasul untuk meminta penjelasan. Sebagai menghilangkan keraguan beliau itu, Rasul lalu bersabda kepadanya, "Tidakkah engkau rela hai Ali, kedudukanmu di sisiku seperti kedudukan Harun di sisi Musa ?" Mendengankan kata-kata Rasulullah s.a.w yang menyejukkan jiwanya itu maka barulah puas Saiyidina Ali R.A.
Perkataan Rasul itu terang memperlihatkan betapa besarnya kecintaan dan penghormatan baginda terhadap dirinya.
Dalam Perang Khaibar pula di mana sebuah ibu kota kaum Yahudi sukar dapat ditakluki oleh angkatan tentera Islam, Saiyidina Ali R.A. telah memainkan peranannya yang utama sekali. Pada mulanya pihak Islam gagal untuk menakluki kota tersebut sekalipun telah dilakukan pengepungan beberapa hari lamanya. Dalam detik-detik yang sukar itulah akhirnya Rasulullah S.A.W. bersabda "Saya akan menyerahkan panji-panji peperangan esok pada seorang lelaki yang mencintai Allah dan RasulNya dan dicintai oleh Allah dan RasulNya".
Sekelian panglima pasukan masing-masing mengharapkan agar dirinya akan diserahkan panji-panji tersebut kerana setiap mereka bercita-cita hendak mendapatkan kemuliaan yang begitu besar sebagai seorang yang mencintai Allah dan RasulNya dan dicintai pula oleh Allah dan RasulNya. Pada keesokan harinya, setelah selesai sembahyang subuh Rasulullah S.A.W. lantas mencari-cari Saiyidina Ali R.A. Nyatalah bahawa Saiyidina Ali R.A. tidak ada di situ kenana ketika itu Ali R.A. mengidap sakit mata. Kemudian bersabdalah Rasul "Panggillah Ali ke mari menjumpai saya, Saiyidina Ali R.A. yang sedang sakit kedua matanya itu lalu datang mengadap Rasulullah S.A.W. seraya baginda pun meludah kepada mata beliau yang sakit itu. Maka dengan serta merta sahaja sembuhlah mata beliau. Kemudian Rasul pun menyerahkan panji-panji kepada Saiyidina All R.A. Maka benteng yang sudah berhani-hari tidak dapat ditembus itu akhirnya dapat dikalahkan di bawah pimpinan panglima Ali Bin Abu Talib R.A.
Satu lagi peperangan di mana Saiyidina Ali Bin Abu Talib R.A. memperlihatkan kegagahan dan keberaniannya yang luarbiasa ialah tatkala berlakunya Perang Khandak atau Ahzab. Perang ini adalah antara pihak Islam dengan angkatan musyrik Mekah yang mendapat bantuan dari puak-puak Arab yang lain serta orang-orang Yahudi. Orang-orang Islam telah menggali parit-parit yang digelarkan Khandak di sekeliling kota Madinah sebagai jalan untuk membendung kemaraan pihak musuh danipada memasukinya. Jumlah pihak musuh adalah kira-kira 10,000 orang tetapi mereka tidak dapat masuk kerana tenhalang oleh parit-parit. Namun begitu mereka terus mengepung kota itu selama 15 hari lamanya. Kemudian Allah S.W.T. turunkan angin ribut dari tentera Allah yang tak kelihatan memukul dan menerbangkan khemah-khemah serta alat perang musuh sehingga mereka pun mengundurkan diri dengan penuh kekecewaan.
Semasa peperangan inilah diriwayatkan bahawa beberapa pahlawan musynik Quraisy telah dapat menyeberangi parit dengan mengenderai kuda. Di antara mereka ialah Amru Bin Abdi Wid, Ikrimah Bin Abu Jahal dan Dhiraar Ibnul Khattab. Apakala mereka itu telah berada di seberang parit, tiba-tiba Amru Bin Wid telah bertempik meminta lawan untuk beradu kekuatan dengan pihak pahlawan-pahlawan Islam. Dia mencabar seraya berkata, "Siapa di antara kalian yang berani berlawan denagan aku, silakan! Cabaran itu lantas disambut oleh Saiyidma Ali R.A. yang kemudiannya terus meminta izin dari Rasulullah S.A.W. untuk melawan pahlawan musyrik itu. Kata Ali R.A., "Saya akan melawan dia, ya Nabi Allah, Izinkanlah saya. Tetapi Rasulullah S.A.W. telah menahannya dengan sabdanya, "Duduklah engkau hai Ali! Tidakkah engkau tahu dia Amru.
Amru kemudian minta lawan lagi berulang-ulang hingga dua kali. Setiap ia mencabar, Saiyidina Ali R.A. telah berdiri menyahutnya tetapi Rasulullah senantiasa menyuruhnya duduk sambil mengingatkan bahawa lawannya itu bukan padannya kenana Amru itu memang terkenal gagah lagi perkasa. Namun begitu Saiyidina Ali R.A. tetap juga mengatakan, "Sekalipun dia itu Amru, hai Nabi Allah, saya tidak takut melawannya. Izinkanlah saya menemuinya. Akhinnya Rasulullah S.A.W. mengizinkannya untuk melawan musuh yang keadaan orangnya lebih tua, lebih besar lagi lebih berpengalaman dari dirinya itu. Sebelum Saiyidina Ali R.A. pergi mendapatkan musuhnya yang menanti itu, Rasulullah S.A.W. telah membekalnya dengan pedangnya lalu kemudian berdoa ke hadrat Allah S.W.T. untuk keselamatan Saiyidina Ali Bin Abu Talib R.A.
Tidak lama kemudian tampillah Saiyidina Ali R.A. ke hadapan. Manakala Amru melihatnya dia tidak dapat mengenalinya kerana muka dan kepala Saiyidina Ali R.A. bertopeng besi lalu ditanyainya:
Siapa engkau, hai pahlawan?
Jawapnya, "Ali!
Tanya Amru lagi, "Ali, anak Abdul Manaf?
Jawab Ali R.A. "Ali, anak Abu Talib
Mendengar nama itu Amru enggan hendak melawannya seraya katanya untuk memperkecilkan kehandalan Ali R.A. "Wahai anak saudanaku! Lebih baik orang lain sahaja engkau suruh melawan aku. Panggillah paman-pamanmu yang lebih kuat danipadamu. Aku benci menumpahkan darahmu, kerana aku memandang ayahmu seonang sahabat baikku.
Saiyidina Ali R.A. lalu menjawab, "Tetapi aku, demi Allah, tak benci menumpahkan darahmu. Demi mendengarkan jawapan itu maka menjadi marahlah Amru dan mulalah ia hendak menyerangnya. Tetapi Saiyidina Ali R.A. lalu benkata, "Macamana aku hendak bertempur denganmu padahal engkau di atas kuda. Turunlah ke mari sama-sama aku di bawah.
Mendengar itu Amru telah menghambur dari kudanya, dihunusnya pedangnya itu dan untuk menunjukkan garangnya ditetak kudanya dicencangnya mukanya supaya tak boleh lari. Kemudian ía mara ke hadapan mendapatkan Saiyidina Ali R.A. yang disambut pula olehnya dengan mengacukan perisainya yang dibuat daripada kulit. Amru telah menetaknya, perisainya tersiat sedang pedangnya pula melekat di situ dan mengenai kepala Saiyidina Ali R.A. Maka Saiyidina Ali R.A. pun membalas menetak bahu Amru. Ia lalu tersungkur rebah serta mati di situ juga. Saiyidina Ali R.A. lantas memekikkan takbir, "Allahu Akbar yang disambut pula dengan pekikan takbir yang bengemuruh di angkasa oleh kaum Muslimin yang menyasikannya, sebagai tanda kesyukunan di atas kemenangannya. Dan dengan kematian Amru itu kawan-kawannya yang lain bertempiaran lari mengundurkan diri.
Rasulullah S.A.W. selalu memilih Saiyidina Ali R.A. untuk diberikan tugas dalam pekerjaan-pekerjaan yang amat berat, yang memerlukan keberanian yang luarbiasa serta ketabahan yang besar. Pada suatu masa, Rasulullah S.A.W. telah mengutus pahlawan Islam Khalid Bin Walid ke negeri Yaman untuk melaksanakan tugas sebagai pemenintah dan mubaligh Islam di negeri itu. Setelah bekerja selama enam bulan ternyata Khalid tidak berjaya memperoleh hasil yang diharapkan walaupun setelah bekerja bertungkus lumus. Kemudian Rasulullah S.A.W. pun mengutus pula Saiyidina Ali R.A. untuk menggantikan tempat Khalid Bin Walid sebagai mubaligh dan pemenintah di sana. Demi apakala penduduk Yaman mendengar bahawa Saiyidina Ali R.A. yang telah mereka kenal Sebagai Harimau Padang Pasir itu ditugaskan sebagai pemerintah yang baru maka bersegeralah mereka berkumpul hingga akhirnya Saiyidina Ali R.A. dapat melakukan sembahyang subuh bersama-sama mereka itu.
Setelah selesai sembahyang subuh, Saiyidina Ali R.A. pun membacakan surat dakwah di hadapan para hadirin. Maka seluruh penduduk dan kaum Hamdan sekeliannya memeluk Islam pada hari itu. Dalam laporan yang dikirimkan oleh beliau kepada Rasulullah S.A.W. Saiyidina Ali R.A. telah mengisahkan peristiwa yang telah terjadi itu. Setelah Rasul S.A.W. membaca laporan tersebut segeralah baginda sujud menyembah Allah sebagai tanda syukur atas kejadian itu senaya bersabda, "Sejahteralah penduduk Hamdan.
Selaku pemerintah dan mubaligh di Yaman, Saiyidina Ali R.A. juga telah diperintahkan untuk menjadi hakim dalam bidang pengadilan. Oleh kenana beliau berasa dirinya kurang ahli dalam bidang pengadilan itu maka dengan terus-terang dan ikhlas beliau berkata kepada Rasul S.A.W., "Ya Rasul Allah, saya tidak mengerti dan tidak mempunyai keahlian yang cukup mengenai hal pengadilan ini.
Mendengar perkataan Saiyidina Au R.A. itu segeralah Rasulullah S.A.W. menyapu dada beliau dengan tangan Rasulullah S.A.W. sendiri sambil bersabda, "Ya Allah, bukalah dada Ali untuk menerima ilmu dan lapangkanlah ucapannya dalam soal pengadilan". Adalah diriwayatkan bahawa berkat doa Nabi Muhammad S.A.W. itu Saiyidina Ali Bin Abu Talib R.A. kemudiannya menjadi seorang hakim yang bijak lagi adil hukumannya. Baik di zaman Saiyidina Abu Bakar Al-Siddiq R.A. mahupun di zaman Saiyidina Umar Al Khattab R.A. selalulah Saiyidina Ali R.A. diajak bermesyuarah dalam memutuskan sesuatu masalah yang dihadapi oleh Khalifah-Khalifah itu. Bahkan Saiyidina Umar Al Khattab R.A. biasanya enggan memutuskan sesuatu keputusan sebelum lebih dahulu Saiyidina Ali R.A. diajaknya berunding.
Demikianlah beberapa kisah riwayat tentang peranan yang pernah dilakukan oleh Saiyidina Ali Bin Abu Talib di zaman hidupnya Rasulullah S.A.W. Ketika Rasulullah S.A.W. wafat, Saiyidina Ali R.A. tidak mempunyai kesempatan untuk menyertai pertemuan para sahabat dan golongan Muhajirin dan Ansar di Balai Bani Saidah hingga terpilihnya Saiyidina Abu Bakar Al-Siddiq sebagai Khalifah. Sebabnya ialah ketika itu beliau sibuk menguruskan jenazah Rasulullah S.A.W. Pada hari yang penuh dukacita itu, beliau sama sekali tidak menghiraukan permesyuaratan yang berlangsung di Balai Bani Saidah itu kerana beliau sibuk dengan tugas-tugas pengkebumian jenazah Rasulullah S.A.W. serta mententeramkan sekelian keluarga Rasul S.A.W.
Permesyuaratan di Balai Bani Saidah hampir-hampir sahaja menimbulkan keadaan yang kacau tetapi akhirnya dapat ditenteramkan dengan terpilihnya Saiyidina Abu Bakar R.A. sebagai Khalifah pertama sesudah Rasulullah S.A.W. Pada mulanya Saiyidina Ali R.A. enggan memberikan persetujuannya terhadap pemilihan Abu Bakar Al-Siddiq R.A. sebagai Khalifah, bukan kerana benci atau kurang senang terhadap Saiyidina Abu Bakar R.A. bahkan kerana rasa hati beliau yang sedang remuk redam disebabkan hilangnya Rasulullah S.A.W. Enam bulan kemudian setelah isteri beliau iaitu Siti Fatimah meninggal dunia, maka baharulah Saiyidina Ali Bin Abu Talib R.A. memberikan persetujuannya secara rasmi terhadap pengangkatan Saiyidina Abu Bakar R.A. sebagai Khalifah. Saiyidina Abu Bakar R.A. pun selaku pemerintah ummat yang agung, tidak pernah meninggalkan Saiyidina Ali R.A. di dalam permesyuaratan penting.
Apakala Saiyidina Umar Al Khattab menjadi Khalifah yang kedua, Saiyidina Ali R.A. tetap memperoleh kemuliaan dan penghormatan dan Saiyidina Umar R.A. sepertimana yang dinikmatinya semasa pemenintah Abu Bakar R.A. Walaupun diketahui bahawa Umar Al Khattab terkenal sebagai sahabat yang sangat ahli dan bijak dalam bidang hukum, namun baginda sering minta bantuan kepada Saiyidina Ali R.A. di dalam menyelesaikan beberapa hal yang sulit-sulit bahkan pernah diriwayatkan orang bahawa Saiyidina Umar Al Khattab R.A. tidak suka merundingkan soal-soal yang sulit tanpa dihadiri oleh Saiyidina Ali Bin Abu Talib.
Setelah wafat Saiyidina Umar Al Khattab jawatan Khalifah akhirnya jatuh pula ke tangan Saiyidina Uthman Bin Affa'n R.A. Namun begitu Saiyidina Ali R.A. tetap memberikan persetujuannya serta ketaatannya kepada Khalifah Uthman R.A. sekalipun dirinya juga bercita-cita agar terpilih sebagai Khalifah. Sungguhpun demikian, kesayangan Khalifah Uthman yang berlebih-lebihan terhadap kaum kerabatnya sendiri menyebabkan pandangan Saiyidina Ali R.A. dalam beberapa hal berubah terhadap Khalifah. Bahkan sebahagian danipada penduduk melihat seolah-olah terdapat keretakan dalam hubungan antara dua tokoh besar itu. Keadaan inilah yang menyebabkan setengah-setengah pihak yang memusuhi Saiyidina Ali R.A. menuduh Saiyidina Ali R.A. terlibat dalam pembunuhan Saiyidina Uthman Bin Affan R.A. Padahal yang sebenarnya Saiyidina Ali R.A. sama sekali tidak bertanggungjawab dalam perkara yang terjadi ke atas Khalifah Uthman R.A. Bahkan beliaulah sahabat yang paling mengambil berat terhadap keselamatan Khalifah. Ketika rumah Khalifah Uthman R.A. dikepung oleh puak pemberontak, Saiyidina Ali R.A. segera mengirim puteranya Saiyidina Hasan R.A. supaya menjaga keselamatan Khalifah. Tetapi ketika Saiyidina Hasan Bin Ali R.A. datang ke rumahnya untuk menawarkan bantuan, Khalifah Uthman R.A. menolak bantuannya serta menyuruhnya pulang. Lebih dari itu, apakala Saiyidina Ali R.A. mendengar khabar tentang pembunuhan Khalifah Uthman R.A. beliau telah memukul anaknya Hasan R.A. serta mengancam Muhammad Bin Talhah kerana dianggapnya kurang rapi menjalankan tugas menjaga keselamatan Saiyidina Uthman R.A.
Saiyidina Ali R.A. akhinnya telah dipilih kemudiannya sebagai Khalifah selepas kewafatan Khalifah Uthman R.A. sedang ketika itu sebahagian besar para sahabat Rasulullah S.A.W. sudah berselerak di pelusok kota-kota di seluruh wilayah Islam. Yang masih tinggal di Madinah hanya sebahagian kecil sahaja.
Setelah jawatan Khalifah jatuh kepadanya maka baharulah Saiyidina Ali R.A. cuba bemtindak untuk membawa garis politik seperti yang pernah dijalankan oleh Rasulullah S.A.W., Khalifah Abu Bakar R.A. dan Khalifah Umar Al Khattab R.A. Tetapi keadaan masyarakat dan ummat sudah jauh berubah disebabkan perkembangan ekonomi dan pembangunan yang diakibatkan oleh perluasan takluk Islam. Cita-cita Saiyidina Ali R.A. untuk membawa kembali dasar pemerintahan ummat sebagaimana zaman Rasulullah dan Saiyidina Abu Bakan R.A. dan Umar R.A. telah menghadapi rintangan dari pihak-pihak yang bersimpati dengan Saiyidina Uthman R.A. yang menuduhnya bentanggungjawab dalam penistiwa pembunuhan itu.
Disebabkan adanya golongan yang keras rnenentang sikapnya itu seperti Muawiyah Bin Abu Sufyan dan pembantunya Amru Bin Al As maka tenjadilah satu penbalahan yang sengit antana dua golongan itu. Satu pertelingkahan yang panjang yang mengakibatkan pertumpahan darah di antana sesama ummat Islam. Muawiyah berkeras enggan mengakui Saiyidina Ali Bin Abu Talib sebagai Khalifah senta menuntut baginda mengenakan hukuman tenhadap orang-orang yang bertanggungjawab dalam pembunuhan Saiyidina Uthman R.A. Sedang Saiyidina Ali R.A. pula terlebih dahulu telah memecat Muawiyah sebagai gabenor Syam dan juga tokoh-tokoh yang pemnah dilantik oleh Khalifah Uthman R.A. atas dasan kekeluargaan. Akibatnya maka berlakulah peperangan yang berpanjangan antara pihak Khalifah Ali R.A. dengan pihak penyokong Muawiyah Bin Abu Sufyan yang terdiri dari penduduk negeri Syam. Kesudahan dari perbalahan yang panjang itu Saiyidina Ali Bin Abu Talib akhirnya telah mati terbunuh oleh pengikut golongan Khawarij.
