I kontrast till detta hade hedendomen bland de sedentära samhällena i Arabien utvecklats från sina tidigare och enklare manifestationer till en komplex form av nyanimism, med en mängd gudomliga och halvgudomliga mellanhänder som stod mellan den skapande guden och hans skapelse. Denna skapande gud kallades Allah, vilket inte är ett egennamn utan en sammandragning av ordet al-ilah, som helt enkelt betyder ”guden”. I likhet med sin grekiska motsvarighet Zeus var Allah ursprungligen en forntida regn-/himmelgud som hade upphöjts till rollen som de förislamiska arabernas högsta gud. Även om det var en mäktig gudom att svära vid, gjorde Allahs framstående ställning i det arabiska pantheonet att han, liksom de flesta höga gudar, var bortom vanliga människors böner. Endast i tider av stor fara skulle någon bry sig om att rådfråga honom. Annars var det mycket lämpligare att vända sig till de mindre, mer lättillgängliga gudar som fungerade som Allahs förhandlare, varav de mäktigaste var hans tre döttrar, Allat (”gudinnan”), al-Uzza (”den mäktiga”) och Manat (ödesgudinnan, vars namn troligen härstammar från det hebreiska ordet mana, som betyder ”del” eller ”andel”). Dessa gudomliga medlare var inte bara representerade i Kaaba, de hade sina egna individuella helgedomar över hela den arabiska halvön: Allat i staden Ta’if, al-Uzza i Nakhlah och Manat i Qudayd. Det var till dem som araberna bad när de behövde regn, när deras barn var sjuka, när de gick ut i strid eller påbörjade en resa djupt in i de förrädiska ökenbostäderna för Jinn – dessa intelligenta, omärkliga och räddningsbara varelser som är gjorda av rökfri låga och som i väst kallas ”genier” och som fungerar som nymfer och älvor i den arabiska mytologin.

Det fanns inga präster och inga hedniska skrifter i det förislamiska Arabien, men det betyder inte att gudarna förblev tysta. De uppenbarade sig regelbundet genom de extatiska uttalanden som gjordes av en grupp kultiska ämbetsmän kända som Kahins. Kahins var poeter som i första hand fungerade som spåmän och som mot betalning föll in i en trance där de avslöjade gudomliga budskap genom rimmande parsatser. Poeterna hade redan i det förislamiska samhället en viktig roll som barder, stamhistoriker, sociala kommentatorer, förmedlare av moralfilosofi och, vid vissa tillfällen, rättskipare. Men Kahins representerade en mer andlig funktion för poeten. Kahins, som kom från alla sociala och ekonomiska skikt och som även omfattade ett antal kvinnor, tolkade drömmar, klarade upp brott, hittade borttappade djur, löste tvister och redogjorde för etiska frågor. I likhet med sina pythiska motsvarigheter i Delfi var Kahins orakel dock vaga och medvetet oprecisa; det var den anhållandes ansvar att räkna ut vad gudarna egentligen menade.

Och även om de ansågs vara länken mellan mänskligheten och det gudomliga, kommunicerade Kahins inte direkt med gudarna utan fick snarare tillgång till dem genom Jinn och andra andar som var en sådan integrerad del av Jahiliyyahs religiösa erfarenhet. Trots detta hade varken Kahins eller någon annan för den delen tillgång till Allah. I själva verket var den gud som hade skapat himlen och jorden, som hade skapat människor till sin egen avbild, den enda gud i hela Hijaz som inte representerades av en idol i Kaaba. Även om Allah kallades ”gudarnas kung” och ”husets herre” var han inte den centrala gudomen i Kaaba. Den äran tillhörde Hubal, den syriska guden som hade förts till Mecka århundraden före islams uppkomst.

Trots Allahs minimala roll i den religiösa kulten i det förislamiska Arabien är hans eminenta ställning i den arabiska panteon en tydlig indikation på hur långt hedendomen på den arabiska halvön hade utvecklats från sina enkla animistiska rötter. Det kanske mest slående exemplet på denna utveckling kan ses i den processionssång som pilgrimerna enligt traditionen sjöng när de närmade sig Kaaba:

Här är jag, o Allah, här är jag.

Du har ingen partner,

utom en sådan partner som du har.

Du äger honom och allt som är hans.

Denna anmärkningsvärda proklamation, med sin uppenbara likhet med den muslimska trosbekännelsen – ”Det finns ingen gud utom Gud” – kan avslöja de tidigaste spåren i det förislamiska Arabien av det som den tyske filologen Max Muller kallade henoteism: tron på en enda hög gud, utan att nödvändigtvis förkasta existensen av andra, underordnade gudar. De tidigaste bevisen på henoteism i Arabien kan spåras tillbaka till en stam som kallades Amir, som levde nära dagens Jemen under det andra århundradet f.Kr. och som dyrkade en hög gud som de kallade dhu-Samawi, ”Himlarnas herre”. Även om detaljerna i amirernas religion har gått förlorade i historien är de flesta forskare övertygade om att henoteismen vid det sjätte århundradet e.Kr. hade blivit standardtro hos den stora majoriteten av de bofasta araberna, som inte bara accepterade Allah som sin höga gud, utan insisterade på att han var samma gud som Jahve, judarnas gud.

Den judiska närvaron på den arabiska halvön kan i teorin spåras till den babyloniska exilen tusen år tidigare, även om efterföljande migrationer kan ha ägt rum år 70 e.Kr. efter Roms plundring av templet i Jerusalem, och återigen år 132 e.Kr. efter Simon Bar Kochbas messianska uppror. För det mesta var judarna en blomstrande och mycket inflytelserik diaspora vars kultur och traditioner hade integrerats grundligt i den sociala och religiösa miljön i det förislamiska Arabien. Oavsett om de var arabiska konvertiter eller invandrare från Palestina deltog judarna på alla nivåer i det arabiska samhället. Enligt Gordon Newby fanns det över hela halvön judiska köpmän, judiska beduiner, judiska bönder, judiska poeter och judiska krigare. Judiska män tog arabiska namn och judiska kvinnor bar arabiska huvudbonader. Och även om en del av dessa judar kan ha talat arameiska (eller åtminstone en förvanskad version av det) var deras huvudspråk arabiska.

Trots kontakten med större judiska centra i hela Mellanöstern hade judendomen i Arabien utvecklat sina egna variationer av traditionella judiska trosuppfattningar och sedvänjor. Judarna delade många av samma religiösa ideal som sina hedniska arabiska motsvarigheter, särskilt när det gäller det som ibland kallas ”folklig religion”: tro på magi, användning av talismaner och spådomar och liknande. Även om det till exempel finns bevis för en liten men formell rabbinisk närvaro i vissa regioner på den arabiska halvön, fanns det också en grupp judiska spåmän som kallades Kohens som, även om de hade en mycket mer prästerlig funktion i sina samhällen, liknade de hedniska Kahins i det avseendet att även de handlade med gudomligt inspirerade orakler.