În schimb, păgânismul în rândul societăților sedentare din Arabia se dezvoltase de la manifestările sale anterioare și mai simple într-o formă complexă de neo-animism, oferind o mulțime de intermediari divini și semidivini care se aflau între zeul creator și creația sa. Acest zeu creator era numit Allah, care nu este un nume propriu, ci o contracție a cuvântului al-ilah, care înseamnă pur și simplu „zeul”. La fel ca omologul său grecesc, Zeus, Allah a fost inițial o zeitate antică a ploii/cerului care a fost ridicată în rolul de zeu suprem al arabilor preislamici. Deși era o divinitate puternică pe care se putea jura, statutul eminent al lui Allah în panteonul arab îl făcea, la fel ca pe majoritatea zeilor supremi, să fie dincolo de rugămințile oamenilor obișnuiți. Doar în vremuri de mare primejdie se deranja cineva să-l consulte. În caz contrar, era mult mai convenabil să se apeleze la zeii mai mici, mai accesibili, care acționau ca intercesori ai lui Allah, dintre care cele mai puternice erau cele trei fiice ale sale, Allat („zeița”), al-Uzza („cea puternică”) și Manat (zeița destinului, al cărei nume este probabil derivat din cuvântul ebraic mana, care înseamnă „porție” sau „parte”). Acești mediatori divini nu erau reprezentați doar în Kaaba, ci aveau propriile lor sanctuare individuale în întreaga Peninsulă Arabă: Allat în orașul Ta’if; al-Uzza în Nakhlah; și Manat în Qudayd. La ei se rugau arabii atunci când aveau nevoie de ploaie, când copiii lor erau bolnavi, când intrau în luptă sau se îmbarcau într-o călătorie în adâncul trădătoarelor lăcașuri din deșert ale djinnilor – acele ființe inteligente, imperceptibile și salvatoare, făcute din flăcări fără fum, care sunt numite „genii” în Occident și care funcționează ca nimfe și zâne din mitologia arabă.

Nu existau preoți și nici scrieri păgâne în Arabia preislamică, dar asta nu înseamnă că zeii au rămas tăcuți. Ei se dezvăluiau în mod regulat prin intermediul declarațiilor extatice ale unui grup de oficiali cultici cunoscuți sub numele de Kahins. Kahins erau poeți care funcționau în principal ca ghicitori și care, în schimbul unei taxe, intrau în transă în care dezvăluiau mesaje divine prin intermediul unor cuplete cu rime. Poeții aveau deja un rol important în societatea preislamică în calitate de barzi, istorici tribali, comentatori sociali, distribuitori de filozofie morală și, ocazional, administratori ai justiției. Dar Kahins reprezentau o funcție mai spirituală a poetului. Apărând din toate straturile sociale și economice și incluzând un număr de femei, Kahins interpretau vise, clarificau crime, regăseau animale pierdute, rezolvau dispute și expuneau etica. Ca și în cazul omologilor lor pythieni de la Delphi, oracolele Kahins erau însă vagi și în mod deliberat imprecise; era responsabilitatea solicitantului să înțeleagă ce voiau să spună zeii cu adevărat.

Deși erau considerați legătura dintre umanitate și divinitate, Kahinii nu comunicau direct cu zeii, ci mai degrabă îi accesau prin intermediul djinnilor și al altor spirite care erau o parte integrantă a experienței religioase Jahiliyyah. Chiar și așa, nici Kahins, nici altcineva de altfel, nu aveau acces la Allah. De fapt, zeul care a creat cerurile și pământul, care a modelat ființele umane după chipul său, era singurul zeu din întregul Hijaz care nu era reprezentat de un idol în Kaaba. Deși numit „Regele zeilor” și „Stăpânul casei”, Allah nu era divinitatea centrală din Kaaba. Această onoare îi aparținea lui Hubal, zeul sirian care fusese adus la Mecca cu secole înainte de apariția islamului.

În ciuda rolului minim al lui Allah în cultul religios al Arabiei preislamice, poziția sa eminentă în panteonul arab este o indicație clară a cât de departe a evoluat păgânismul din Peninsula Arabică de la simplele sale rădăcini animiste. Poate cel mai izbitor exemplu al acestei evoluții poate fi văzut în cântecul de procesiune pe care tradiția susține că pelerinii îl cântau când se apropiau de Kaaba:

Iată-mă, o, Allah, iată-mă.

Nu ai nici un partener,

Cu excepția unui astfel de partener cum ai tu.

Tu îl posezi pe el și tot ceea ce este al lui.

Această proclamație remarcabilă, cu asemănarea sa evidentă cu profesiunea de credință musulmană – „Nu există alt dumnezeu în afară de Dumnezeu” – poate dezvălui cele mai timpurii urme în Arabia preislamică a ceea ce filologul german Max Muller a numit henoteism: credința într-un singur Dumnezeu Suprem, fără a respinge în mod necesar existența altor zei subordonați. Cele mai vechi dovezi ale henoteismului în Arabia pot fi urmărite până la un trib numit Amir, care trăia în apropierea Yemenului de astăzi în secolul al II-lea î.Hr. și care se închina unui Dumnezeu Suprem pe care îl numeau dhu-Samawi, „Domnul Cerurilor”. Deși detaliile religiei Amirilor s-au pierdut în istorie, cei mai mulți cercetători sunt convinși că, până în secolul al VI-lea e.n., henoteismul devenise credința standard a marii majorități a arabilor sedentari, care nu numai că îl acceptau pe Allah ca Marele lor Dumnezeu, dar insistau că acesta era același zeu cu Yahweh, zeul evreilor.

Prezența evreiască în Peninsula Arabică poate fi urmărită, în teorie, până la Exilul babilonian cu o mie de ani mai devreme, deși este posibil ca migrațiile ulterioare să fi avut loc în anul 70 e.n., după jefuirea Templului din Ierusalim de către Roma, și din nou în 132 e.n., după revolta mesianică a lui Simon Bar Kochba. În cea mai mare parte, evreii erau o diasporă înfloritoare și foarte influentă, a cărei cultură și tradiții fuseseră complet integrate în mediul social și religios al Arabiei preislamice. Fie că erau arabi convertiți sau imigranți din Palestina, evreii participau la toate nivelurile societății arabe. Potrivit lui Gordon Newby, în întreaga Peninsulă existau negustori evrei, beduini evrei, fermieri evrei, poeți evrei și războinici evrei. Bărbații evrei luau nume arabe, iar femeile evreice purtau coafuri arabe. Și, deși este posibil ca unii dintre acești evrei să fi vorbit aramaica (sau cel puțin o versiune coruptă a acesteia), limba lor principală era araba.

Deși în contact cu marile centre evreiești din tot Orientul Apropiat, iudaismul din Arabia își dezvoltase propriile variații asupra credințelor și practicilor evreiești tradiționale. Evreii împărtășeau multe dintre aceleași idealuri religioase ca și omologii lor arabi păgâni, în special în ceea ce privește ceea ce se numește uneori „religie populară”: credința în magie, folosirea talismanelor și a divinației și altele asemenea. De exemplu, deși există dovezi ale unei prezențe rabinice mici, dar formale, în unele regiuni din Peninsula Arabică, a existat, de asemenea, un grup de ghicitori evrei numiți Kohens care, deși păstrau o funcție mult mai preoțească în comunitățile lor, semănau totuși cu kahinii păgâni prin faptul că și ei se ocupau de oracole de inspirație divină.