Em contraste, o paganismo entre as sociedades sedentárias da Arábia desenvolveu-se a partir de suas manifestações anteriores e mais simples em uma forma complexa de neo-animismo, fornecendo uma hoste de intermediários divinos e semi-divinos que se colocava entre o deus criador e sua criação. Esse deus criador foi chamado de Alá, que não é um nome próprio, mas uma contração da palavra al-ilah, que significa simplesmente “o deus”. Como o seu homólogo grego, Zeus, Alá era originalmente uma antiga divindade da chuva/sky que tinha sido elevada ao papel de deus supremo dos árabes pré-islâmicos. Embora uma poderosa divindade a jurar, o estatuto eminente de Alá no panteão árabe tornou-o, como a maioria dos Deuses Altos, para além das súplicas das pessoas comuns. Só em tempos de grande perigo é que alguém se preocuparia em consultá-lo. Caso contrário, era muito mais conveniente recorrer aos deuses menores e mais acessíveis que agiram como intercessores de Deus, os mais poderosos dos quais eram suas três filhas, Allat (“a deusa”), al-Uzza (“a poderosa”) e Manat (a deusa do destino, cujo nome provavelmente deriva da palavra hebraica mana, que significa “porção” ou “compartilhar”). Estes mediadores divinos não estavam representados apenas na Kaaba, eles tinham seus próprios santuários individuais em toda a Península Arábica: Allat na cidade de Ta’if; al-Uzza em Nakhlah; e Manat em Qudayd. Era para eles que os árabes rezavam quando precisavam de chuva, quando seus filhos estavam doentes, quando entravam em batalha ou embarcavam numa viagem às profundezas das traiçoeiras moradas do deserto dos gênios – aqueles seres inteligentes, imperceptíveis e salváveis feitos de chamas sem fumo, que são chamados de “génios” no Ocidente e que funcionam como ninfas e fadas da mitologia árabe.

Não havia sacerdotes nem escrituras pagãs na Arábia pré-islâmica, mas isso não significa que os deuses tenham permanecido em silêncio. Eles se revelavam regularmente através das declarações extáticas de um grupo de oficiais cultos conhecidos como os Kahins. Os Kahins eram poetas que funcionavam principalmente como adivinhos e que, por uma taxa, caíam em transe, no qual revelavam mensagens divinas através de casais rimados. Os poetas já tinham um papel importante na sociedade pré-islâmica como bardos, historiadores tribais, comentadores sociais, dispensadores de filosofia moral e, por vezes, administradores da justiça. Mas os Kahins representavam uma função mais espiritual do poeta. Emergindo de todos os estratos sociais e econômicos, e incluindo um número de mulheres, os Kahins interpretaram sonhos, esclareceram crimes, encontraram animais perdidos, resolveram disputas, e expuseram a ética. No entanto, tal como as suas homólogas pitianas em Delfos, os oráculos dos Kahins eram vagos e deliberadamente imprecisos; era responsabilidade do suplicante descobrir o que os deuses realmente queriam dizer.

Embora considerassem a ligação entre a humanidade e o divino, os Kahins não se comunicavam diretamente com os deuses, mas antes os acessavam através dos gênios e outros espíritos que eram parte integrante da experiência religiosa Jahiliyyah. Mesmo assim, nem os Kahins, nem ninguém mais teve acesso a Alá. Na verdade, o deus que tinha criado os céus e a terra, que tinha formado os seres humanos à sua própria imagem, era o único deus em todo o Hijaz não representado por um ídolo no Kaaba. Embora chamado “o Rei dos Deuses” e “o Senhor da Casa”, Alá não era a divindade central na Kaaba. Essa honra pertenceu a Hubal, o deus sírio que havia sido trazido a Meca séculos antes da ascensão do Islã.

Apesar do papel mínimo de Alá no culto religioso da Arábia pré-islâmica, sua posição eminente no panteão árabe é uma clara indicação de quão longe o paganismo na Península Arábica havia evoluído de suas simples raízes animistas. Talvez o exemplo mais marcante desse desenvolvimento possa ser visto no canto processional que a tradição afirma que os peregrinos cantavam quando se aproximavam da Kaaba:

Aqui estou eu, ó Alá, aqui estou eu.

Você não tem parceiro,

Exceto um parceiro como você tem.

Você o possui e tudo o que é dele.>

Esta notável proclamação, com a sua óbvia semelhança com a profissão de fé muçulmana – “Não há deus senão Deus” – pode revelar os primeiros vestígios na Arábia pré-islâmica do que o filólogo alemão Max Muller chamou de henoteísmo: a crença num único Deus Alto, sem necessariamente rejeitar a existência de outros deuses subordinados. Os primeiros vestígios de henoteísmo na Arábia podem ser rastreados até uma tribo chamada Amir, que viveu perto do Iêmen moderno no segundo século AEC, e que adorava um Deus Alto que chamavam de dhu-Samawi, “O Senhor dos Céus”. Embora os detalhes da religião de Amir tenham sido perdidos para a história, a maioria dos estudiosos está convencida de que no século VI d.C., o henoteísmo havia se tornado a crença padrão da grande maioria dos árabes sedentários, que não só aceitavam Alá como seu Deus Altíssimo, mas insistiam que ele era o mesmo deus que Yahweh, o deus dos judeus.

A presença judaica na Península Arábica pode, em teoria, ser traçada ao Exílio Babilônico mil anos antes, embora migrações subseqüentes possam ter ocorrido em 70 EC, depois do saque do Templo em Jerusalém, e novamente em 132 EC, depois do levante messiânico de Simão Bar Kochba. Na maior parte, os judeus eram uma próspera e altamente influente diáspora cuja cultura e tradições tinham sido completamente integradas no meio social e religioso da Arábia pré-islâmica. Quer fossem árabes convertidos ou imigrantes da Palestina, os judeus participavam em todos os níveis da sociedade árabe. De acordo com Gordon Newby, em toda a Península havia comerciantes judeus, beduínos judeus, agricultores judeus, poetas judeus, e guerreiros judeus. Os homens judeus levaram nomes árabes e as mulheres judias usavam toucas árabes. E embora alguns desses judeus pudessem ter falado aramaico (ou pelo menos uma versão corrompida do mesmo), sua língua principal era o árabe.

Embora em contato com os principais centros judaicos do Oriente Próximo, o judaísmo na Arábia tinha desenvolvido suas próprias variações sobre as crenças e práticas judaicas tradicionais. Os judeus partilhavam muitos dos mesmos ideais religiosos que os seus homólogos árabes pagãos, especialmente no que diz respeito ao que é por vezes referido como “religião popular”: a crença na magia, o uso de talismãs e adivinhação, e coisas do género. Por exemplo, enquanto em algumas regiões da Península Arábica há evidência de uma presença rabínica pequena mas formal, também existiu um grupo de adivinhos judeus chamados Kohens que, embora mantendo uma função muito mais sacerdotal em suas comunidades, se assemelhavam aos Kahins pagãos, na medida em que também eles lidavam com oráculos de inspiração divina.