Po prorokovej smrti došlo v muslimskej komunite v Medine k istému zmätku. Spôsobila to nejasnosť okolo jeho nástupcu ako vodcu alebo kalifa.
Kalif v arabčine chalífa, je slovo odvodené od slovesa chalafa, čo znamená reprezentovať alebo symbolizovať. Korán ho charakterizuje ako človeka, ktorému bola daná právomoc a schopnosť zastupovať Boha na zemi. Mohamed vždy zdôrazňoval, že je smrteľný človek, ale aj napriek tomu neurobil žiadne opatrenia v prípade smrti, čo spôsobilo nejednotu v muslimskej obci. V tejto kritickej chvíli vyplávali na povrch staré kmeňové spory, podozrievavosť, špecifické väzby lojality a predchádzajúce klanové charakteristiky. Prorokovým odchodom, boli jeho stúpenci presvedčení, že musia na jeho miesto mať niekoho, kto by pokračoval v jeho duchu ako hlava obce. Pre ustanovenie takéhoto vodcu neboli žiadne zásady, pravidlá, bolo by to ľahšie, keby Mohamed zanechal mužské potomstvo. Z jeho detí ho však prežila jediná dcéra Fátima, vydatá za jeho bratranca Alího. On ako najbližší príbuzný si robil prirodzené nároky na vodcovské miesto v obci. Okrem neho si uplatňoval nároky aj starý prorokov priateľ a otec jeho ženy Á iši Abú Bakr.

Otázka následníctva a prebratia moci po prorokovi je významnou témou v dejinách muslimov a formuje ich neskorší vývoj aj politické odlišnosti. Takmer päťdesiat rokov po smrti proroka bola táto otázka hlavnou príčinou sporov a konfrontácií.
Počas posledného roka prorokovho života sa medzi jeho spoločníkmi v Medine sformovali tri hlavné skupiny. Prvá skupina sa skladala z prvých verných spoločníkov, ktorí spolu s ním emigrovali. Druhú skupinu tvorili významní muži a rody z Mediny, ktorí umožnili migráciu, a tým aj to, že sa v Medine etabloval a rozvíjal islam. Tretia skupina sa skladala z nedávnych konvertitov, ktorí pochádzali z najvýznamnejších mekkánskych rodín. Väčšina z nich prestúpila na islam v posledných dvoch rokoch prorokovho života. Niekoľkí príslušníci tejto poslednej skupiny boli prorokovými najväčšími nepriateľmi, ktorí mnoho rokov bojovali proti rodiacej sa medinskej komunite. Mnohí neprestúpili na islam z presvedčenia a úprimne, ale iba z prospechárstva, aby prežili a udržali si svoje vedúce pozície v kmeňoch.
Niektorí spoločníci, presvedčení o tom, že prorok už určil nástupcu (v Ghadír Chumme), sa zhromaždili okolo jeho lojálneho šľachetného bratranca a zaťa Alíbo ibn Abí Táliba, a tým zasiali semená šíitskeho hnutia. Šíiti s rôznymi prúdmi ako sú napríklad ibáditi, zajdovci a stúpenci ismá-ílije, mali zohrať zásadnú úlohu v rozvoji islamského myslenia a spoločnosti.

Mohamedovým nástupcom sa stal Abú Bakr, ale čoskoro po jeho zvolení došlo k veľkým vzburám a svárom medzi kmeňmi, ktoré sa zaviazali k politickej lojalite iba voči prorokovi Muhammadovi ako vedúcej osobnosti. Tieto vojny sa nazvali ridda a trvali skoro po celú dobu Abú Bakrovho kalifátu (632 – 634 ).
Abú Bakrov kalifát znamenal začiatok šírenia islámu mimo Arabského polostrova a vytvorenie ústrednej moci v Medine. Prví muslimovia a neskorší historici nazvali jeho i troch nasledujúcich kalifov rášidún alebo správne vedení. Mnohí neskorší kalifovia nekonali spravodlivo, ani neboli správne vedení. Pokiaľ však vládca verejne nevystupoval proti základným prikázaniam Boha a nenarušil ich pokoj a jednotu, väčšina muslimov prijala svoj osud.

Umarov kalifát (634 – 644) dozeral na expanziu a dobytie oblasti Úrodného polmesiaca, severného Egypta a väčšiny sásanovskej Perzie. Za vlády Umara ibn al-Chattába sa začal vytvárať islámsky systém vlády a financií, ako aj vojenský a súdny systém. Muslimsko-arabská invázia a obsadenie sýrskych a egyptských provincií Byzantskej ríše, takisto väčšej časti Sásanovskej ríše, boli hlavnými udalosťami tohto obdobia. Muslimovia túžili po vojne, pretože šírenie islámu so zbraňou v ruke bolo pre moslima príkazom a smrť v obrane viery dávala mu najlepšie vyhliadky na dosiahnutie raja. Expanziu začal realizovať prvý kalif, ale výsledky sa dostavili za Umara. K výbojom mohlo dôjsť pod vedením, ktoré sa tešilo výnimočnej autorite a medzi jeho stúpencami vládol dynamický duch spolupráce. Stúpencov spájalo silné povedomie spoločného osudu a zjednocujúceho náboženstva.

V radoch Arabov bojovali muži, ktorí už mali bojové skúsenosti z čias, keď slúžili v armádach oboch upadajúcich ríš. Flexibilita a pohyblivosť arabských vojsk, ktoré používali na dopravu ťavy, bola v týchto vojnách ich výhodou. Táto výhoda sa ešte posilnila, pretože podrobené národy prijímali arabskú nadvládu s úľavou. Platilo to predovšetkým o obyvateľoch miest, ktorí sa príliš nestarali o to, kto im vládol, len aby sa cítili bezpečne a platili prijateľné dane. Pre niektorých obyvateľov miest bolo nahradenie Byzantíncov a Iráncov Arabmi ozajstnou výhodou, keďže Arabi boli tolerantní k rôznym náboženským skupinám.
V krátkej dobe sa podarilo Arabom dobyť veľmi rozsiahle územia. S rozširovaním dobytých území zakladali Arabi vojenské tábory, kde boli rozmiestnení vojaci. Tieto vojenské tábory lákali prisťahovalcov z Arabského polostrova i dobytých území. Neskôr z nich vyrástli veľké mestá.

V Medine zostala moc v rukách vládnucej elity, ktorá sa skladala hlavne z prorokových spoločníkov. Významným novým prvkom tu boli mekkánske rodiny, ktoré prijali islám iba nedávno. Kalif Umar vytvoril systém služobných platov závisiacich od toho, kto sa kedy obrátil na vieru a ako jej slúžil, čím posilnil súdržnosť vládnucej triedy. Kmeňová súdržnosť, frakčné rozdiely a nároky vyplývajúce z prestupu na islám, či urodzeného pôvodu však sužovali Arabov v Medine i mimo nej. Príliv nového bohatstva zo severovýchodu a sústreďovanie obyvateľov v Sýrii a Iraku zvýšilo význam Damasku ako starého obchodného mesta s dlhou tradíciou.
Damask bol dobytý v roku 635 a za ním nasledovali ostatné sýrske mestá. O rok neskôr v bitke pri Jarmúku, neďaleko rieky Jordán, bol zabitý brat byzantského cisára a muslimom sa otvoril zvyšok Sýrie. V roku 637 Arabi porazili sásánovskú armádu na čele s Rustamom a dobyli hlavné mesto Ktésifón. Jeruzalem a Chúzestán padli v roku 638. V rokoch 640 – 644 ovládli Perziu a Egypt. Alexandriu muslimovia dobyli v roku 642 a uskutočnili vpád aj do Tripolska. O rok neskôr zabrali aj makránske pobrežie. V rukách Arabov sa ocitli územia, ktoré mali veľkú kultúrnu tradíciu. Mali byť získané trvalo, nielen ich vojensky dobyť, Arabi sa prispôsobili obyvateľom, prijali ich kultúru, pretvárali ju a obohacovali. V dobytých územiach zachovali starú byzantskú alebo perzskú správu a miestne obyvateľstvo. A po náboženskej stránke, aj keď boli vyznávači islámu, neprenasledovali prívržencov iných náboženstiev.

Zakončenie obdobia veľkých výbojov donútilo Umara k prevedeniu podstatných zmien v arabskej armáde. Stabilizácia pomerov ukázala, že je nutné obmedziť ich počet, pretože boli veľmi ťažko vyživovať také množstvo nadbytočných bojovníkov. Znížil počet bojovníkov, tím ktorí ostali, platil žold.
Umar mal päťdesiatdva rokov, keď ho zavraždil perzský remeselník, ktorého priviedli do Mediny, aby tu skrášlil pôvodne skromné hlinené príbytky jej obyvateľov. Po zavraždení Umara došlo k bojom o moc v ríši. Časť moslimov podporovala najslabšieho zo svojich radov, zbožného prorokovho zaťa Uthmána ibn Affána, ktorý prijal islám medzi prvými, iní chceli Mohamedovho zaťa Aliho.

Uthmán patril k vetve kmeňa Kurajšovcov, ktorej príslušníci boli neskorí konvertiti a bývalí nepriatelia proroka. Mnoho členov svojho klanu vymenoval Uthmán za dočasných guvernérov. To vyvolalo odpor a pobúrenie medzi staršími spoločníkmi proroka v Medine, ako aj medzi mladšou generáciou muslimov, vrátane prorokovej ženy Áiše. Značnú nespokojnosť prejavovali vojenské tábory v Kúfe a Fustáte. Výsadné postavenie nového mekkánskeho klanu vyvolalo taký odpor, že vo chvíli, keď s podporou vojakov z Egypta vzrástla nespokojnosť v Medine, bol Uthmán v roku 656 zavraždený.
Počas Uthmánovho kalifátu (644 – 656) sa skončilo dobýjanie Iránu a Egypta. Konsolidácia pomerov priniesla nový luxus do bohatých rodín v Medine a ohlasovala obdobie svetskej súťaživosti a nenásytnosti. Spor o prorokovo nástupníctvo sa skoro stalo príčinou rozkolu v isláme, pretože obe strany sa odvolávali na Mohamedovo učenie a s jeho pomocou sa snažili presadiť svoje požiadavky. Mohamed hlásal svoje učenie ústne, jeho stúpenci si ho zapisovali, medzi jednotlivými verziami boli však podstatné rozdiely. Za Uthmánovej vlády vznikla oficiálna svätá kniha islámu – Korán, neoficiálne zápisy z ústnej tradície o živote Mohameda, zvaná sunna a rozšíril sa do provincií, aby sa v budúcnosti predišlo akýmkoľvek odlišnostiam a nedorozumeniam. Čo sa týka spravovania provincií, Uthmán umožnil provinčným vládcom, aby podľa vlastného úsudku disponovali značnou mocou.

Narastajúca moc muslimov na mori im umožnila v roku 649 dobyť Cyprus. Dobyli aj Persepolis.V rokoch 652 až 654 sa pod nadvládou muslimov ocitla Sicília, Rhodos a iné stredomorské prístavy. V roku 655 muslimovia porazili na juhozápadnom pobreží Anatólie byzantské sily, ktoré viedol cisár.
Uthmánova smrť znamená začiatok prvého obdobia občianskej vojny a krviprelievania v muslimskom spoločenstve, ktoré vyústilo do všeobecnej voľby Alího ibn Abí Táliba(656 – 661) za štvrtého kalifa. Alí čoskoro opustil Medinu, ktorá sa od zavraždenia Uthmána stala búrlivým mestom, a usadil sa v Kúfe. Uthmánovi príbuzní využili to, že sa Alímu nepodarilo nájsť a potrestať vinníkov Uthmánovej vraždy a postavili sa proti nemu. Existovali aj ďalšie mocenské skupiny, ktoré nemali záujem na zvolení takého asketického, odvážneho a nekompromisného vodcu.

Prorokova žena Áiša spolu s jeho dvoma druhmi žiadala potrestanie Uthmánových vrahov a Alí-ho obvinila z laxného prístupu pri vykonávaní spravodlivosti. V táboroch v oblasti Úrodného polmesiaca vypukli vzbury a šírili sa rozdielne názory, ktoré vyvrcholili v „Ťavej bitke“ blízko vojenského mesta Basra. S Aišou, ktorá viedla Alího odporcov na ťave, jednali po bitke prísne, ale láskavo a nechali ju vrátiť sa do Mediny. Alího zatiaľ vyhlásili v Kúfe za kalifa a uznala ho väčšina provincií. Dôležitou výnimkou bol Muáwija (Uthmánov bratranec), guvernér Sýrie, ktorý sa od tejto chvíle zaprisahal, že pomstí Uthmánovu smrť.

Muáwija vládol v Sýrii už asi dvadsať rokov. Ako Abú Sufjánov syn zdedil vedúce postavenie v rode Umajjovcov, ktorý mal dobre vycvičenú armádu. Tá sa v tej dobe pokladala za jednu z najväčších a najlepšie zorganizovaných armád v muslimských krajinách. Domorodí sýrski Arabi vnímali Muáwiju ako legitímneho nástupcu starej ghassánovskej kráľovskej dynastie, pretože jeho manželka bola aristokratka z juhoarabského kmeňa Kalb, ktorý bol v Sýrii najsilnejší.
S cieľom potlačiť vzburu v Sýrii vypochodoval Alí k hornému Eufratu, kde došlo v roku 657 ku stretu pri Siffíne. Po bitke sa rozhodlo, že vec urovnajú delegáti, ktorých vybrali obe strany. Veľká skupina stúpencov (ktorí neskôr dostali pomenovanie cháridžovci, doslova „odpadlíci“) Alího opustila a obvinila ho zo zhovievavosti voči nepriateľom a z kompromisov v otázke kalifátu. Hoci väčšinu týchto rebelov Alí neskôr porazil, ich hnutie sa rozšírilo v iných končinách a podstatne ovplyvnilo vývoj muslimského myslenia a politiky (obzvlášť čo sa týka otázky hriechu a autority). Hoci Muawijova armáda v bitke pri Siffíne utrpela značné straty, prímerie a zmierovacie konanie, na ktorom sa dohodli, sa obrátilo proti samotnému Alímu. Toto prímerie ho doviedlo ku kompromisu a neskôr oslabilo jeho autoritu. V roku 661 Alího počas modlitieb na úsvite v kúfskej mešite zavraždil cháridžovec.
Alího stúpenci, šíiti, preniesli svoju lojalitu na nástupcu, ktorého vymenoval samotný Alí. Išlo o Alího syna Hasana, ktorý tiež prijal prímerie s Muawijom, aby zabránil krviprelievaniu. Uvedomoval si, že jeho ľudí bude k sebe lákať Muawija ľsťou. Potom, čo si Muáwija zaistil Hasanovu kapituláciu, sa sám nehanebne vyhlásil v Damasku za kalifa. Takto ustanovil prvú dedičnú muslimskú dynastickú vládu.