Pohanství v usedlých arabských společnostech se naproti tomu vyvinulo ze svých dřívějších a jednodušších projevů ve složitou formu neoanimismu, poskytujícího množství božských a polobožských prostředníků, kteří stáli mezi bohem stvořitelem a jeho stvořením. Tento bůh stvořitel se nazýval Alláh, což není vlastní jméno, ale zkratka slova al-ilah, což znamená jednoduše „bůh“. Podobně jako jeho řecký protějšek Zeus byl Alláh původně starověkým božstvem deště/nebe, které bylo u předislámských Arabů povýšeno do role nejvyššího boha. Ačkoli byl Alláh mocným božstvem, k němuž bylo možné přísahat, jeho výsostné postavení v arabském panteonu ho činilo, stejně jako většinu vysokých bohů, mimo dosah proseb obyčejných lidí. Pouze v dobách velkého nebezpečí se s ním někdo obtěžoval poradit. Jinak bylo mnohem vhodnější obrátit se na menší, dostupnější bohy, kteří působili jako Alláhovi přímluvci, z nichž nejmocnější byly jeho tři dcery, Allat („bohyně“), al-Uzza („mocná“) a Manat (bohyně osudu, jejíž jméno je pravděpodobně odvozeno od hebrejského slova mana, což znamená „podíl“ nebo „podíl“). Tito božští prostředníci byli zastoupeni nejen v Kaabě, ale měli své vlastní individuální svatyně po celém Arabském poloostrově: Allat ve městě Ta’if, al-Uzza v Nachlahu a Manat v Kudajdu. Právě k nim se Arabové modlili, když potřebovali déšť, když jim onemocněly děti, když se pouštěli do boje nebo se vydávali na cestu hluboko do zrádných pouštních obydlí džínů – těch inteligentních, nepostřehnutelných a spasitelných bytostí z bezdýmného plamene, kterým se na Západě říká „géniové“ a které fungují jako nymfy a víly arabské mytologie.

V předislámské Arábii neexistovali kněží ani pohanská písma, ale to neznamená, že bohové mlčeli. Pravidelně se zjevovali prostřednictvím extatických výroků skupiny kultovních úředníků známých jako Kahinové. Kahinové byli básníci, kteří fungovali především jako věštci a kteří za poplatek upadali do transu, v němž prostřednictvím rýmovaných kupletů zjevovali božská poselství. Básníci hráli důležitou roli již v předislámské společnosti jako bardi, kmenoví historici, sociální komentátoři, šiřitelé morální filozofie a příležitostně i jako vykonavatelé spravedlnosti. Kahinové však představovali duchovnější funkci básníka. Kahinové, kteří pocházeli ze všech společenských a ekonomických vrstev, včetně řady žen, vykládali sny, objasňovali zločiny, nacházeli ztracená zvířata, řešili spory a vysvětlovali etiku. Stejně jako jejich pythijské protějšky v Delfách však byly věštby Kahinů vágní a záměrně nepřesné; bylo na žadateli, aby zjistil, co tím bohové vlastně myslí.

Ačkoli byli považováni za spojovací článek mezi lidstvem a božstvím, Kahinové nekomunikovali s bohy přímo, ale měli k nim přístup spíše prostřednictvím džínů a dalších duchů, kteří byli tak nedílnou součástí náboženské zkušenosti džahílie. Přesto ani Kahinové, ani nikdo jiný neměl přístup k Alláhovi. Bůh, který stvořil nebesa a zemi a který stvořil lidi ke svému obrazu, byl vlastně jediným bohem v celém Hidžázu, který nebyl zastoupen modlou v Kaabě. Ačkoli byl Alláh nazýván „králem bohů“ a „pánem domu“, nebyl ústředním božstvem v Kaabě. Tato čest náležela Hubalovi, syrskému bohu, který byl do Mekky přenesen několik století před vznikem islámu.

Přes Alláhovu minimální roli v náboženském kultu předislámské Arábie je jeho význačné postavení v arabském panteonu jasným důkazem, jak daleko se pohanství na Arabském poloostrově vyvinulo ze svých prostých animistických kořenů. Snad nejvýraznějším příkladem tohoto vývoje je procesní zpěv, který podle tradice zpívali poutníci, když se blížili ke Kaabě:

Tady jsem, ó Alláhu, tady jsem.

Ty nemáš partnera,

kromě takového partnera, jakého máš Ty.

Máš ho a vše, co je jeho.

Tato pozoruhodná proklamace se zjevnou podobností s muslimským vyznáním víry – „Není boha kromě Boha“ – může v předislámské Arábii odhalovat nejranější stopy toho, co německý filolog Max Müller označil jako henoteismus: víru v jediného nejvyššího Boha, aniž by nutně odmítal existenci jiných, podřízených bohů. Nejstarší doklady henoteismu v Arábii lze vysledovat až ke kmeni zvanému Amírové, který žil poblíž dnešního Jemenu ve 2. století př. n. l. a který uctíval nejvyššího boha, jehož nazýval dhu-Samawi, „Pán nebes“. Ačkoli podrobnosti o náboženství Amírů jsou pro historii ztraceny, většina badatelů je přesvědčena, že v šestém století př. n. l. se henoteismus stal standardní vírou naprosté většiny usedlých Arabů, kteří nejenže přijímali Alláha jako svého nejvyššího Boha, ale trvali na tom, že je stejným bohem jako Jahve, bůh Židů.

Přítomnost Židů na Arabském poloostrově lze teoreticky vysledovat až do babylonského vyhnanství o tisíc let dříve, ačkoli k následné migraci mohlo dojít v roce 70 po Kr. po vyplenění jeruzalémského chrámu Římem a znovu v roce 132 po Kr. po mesiášském povstání Šimona Bar Kochby. Židé byli většinou prosperující a velmi vlivnou diasporou, jejíž kultura a tradice byly důkladně integrovány do společenského a náboženského prostředí předislámské Arábie. Ať už se jednalo o arabské konvertity nebo přistěhovalce z Palestiny, Židé se podíleli na všech úrovních arabské společnosti. Podle Gordona Newbyho žili na celém poloostrově židovští obchodníci, židovští beduíni, židovští zemědělci, židovští básníci a židovští válečníci. Židovští muži přijímali arabská jména a židovské ženy nosily arabské pokrývky hlavy. A i když někteří z těchto Židů možná mluvili aramejsky (nebo alespoň její zkomolenou verzí), jejich hlavním jazykem byla arabština.

Ačkoli byl judaismus v Arábii v kontaktu s velkými židovskými centry na celém Blízkém východě, vyvinul si vlastní varianty tradiční židovské víry a praktik. Židé sdíleli mnoho stejných náboženských ideálů jako jejich pohanské arabské protějšky, zejména pokud jde o to, co se někdy označuje jako „lidové náboženství“: víru v magii, používání talismanů a věštění apod. Například zatímco v některých oblastech Arabského poloostrova existují důkazy o malé, ale formální přítomnosti rabínů, existovala také skupina židovských věštců zvaných Koheni, kteří sice ve svých komunitách zastávali mnohem více kněžskou funkci, nicméně se podobali pohanským Kahinům v tom, že se také zabývali věštbami inspirovanými bohem.