En revanche, le paganisme parmi les sociétés sédentaires d’Arabie s’était développé à partir de ses manifestations antérieures et plus simples en une forme complexe de néo-animisme, fournissant une foule d’intermédiaires divins et semi-divins qui se tenaient entre le dieu créateur et sa création. Ce dieu créateur était appelé Allah, qui n’est pas un nom propre mais une contraction du mot al-ilah, signifiant simplement « le dieu ». Comme son homologue grec, Zeus, Allah était à l’origine une ancienne divinité de la pluie et du ciel qui avait été élevée au rang de dieu suprême des Arabes préislamiques. Bien qu’il s’agisse d’une divinité puissante par laquelle on peut jurer, le statut éminent d’Allah dans le panthéon arabe le rendait, comme la plupart des grands dieux, inaccessible aux supplications des gens ordinaires. Ce n’est qu’en cas de grand péril que l’on se donnait la peine de le consulter. Les plus puissants d’entre eux étaient ses trois filles, Allat (« la déesse »), al-Uzza (« la puissante ») et Manat (la déesse du destin, dont le nom est probablement dérivé du mot hébreu mana, qui signifie « portion » ou « part »). Ces médiateurs divins n’étaient pas seulement représentés dans la Kaaba, ils avaient leurs propres sanctuaires individuels dans toute la péninsule arabique : Allat dans la ville de Ta’if, al-Uzza à Nakhlah et Manat à Qudayd. C’est à elles que les Arabes adressaient leurs prières lorsqu’ils avaient besoin de pluie, lorsque leurs enfants étaient malades, lorsqu’ils s’engageaient dans une bataille ou se lançaient dans un voyage au plus profond des demeures désertiques traîtresses des Jinn – ces êtres intelligents, imperceptibles et salvateurs faits de flamme sans fumée que l’on appelle « génies » en Occident et qui fonctionnent comme les nymphes et les fées de la mythologie arabe.

Il n’y avait pas de prêtres ni d’écritures païennes dans l’Arabie préislamique, mais cela ne signifie pas que les dieux restaient silencieux. Ils se révélaient régulièrement à travers les énoncés extatiques d’un groupe de fonctionnaires cultuels connus sous le nom de Kahins. Les Kahins étaient des poètes qui jouaient avant tout le rôle de devins et qui, contre rémunération, entraient en transe pour révéler des messages divins sous forme de couplets rimés. Les poètes jouaient déjà un rôle important dans la société préislamique en tant que bardes, historiens tribaux, commentateurs sociaux, dispensateurs de philosophie morale et, à l’occasion, administrateurs de la justice. Mais les Kahins représentaient une fonction plus spirituelle du poète. Issus de toutes les couches sociales et économiques, et comprenant un certain nombre de femmes, les Kahins interprétaient les rêves, élucidaient les crimes, retrouvaient les animaux perdus, réglaient les litiges et exposaient l’éthique. Comme leurs homologues pythiens à Delphes, cependant, les oracles des Kahins étaient vagues et délibérément imprécis ; il incombait au suppliant de comprendre ce que les dieux voulaient réellement dire.

Bien que considérés comme le lien entre l’humanité et le divin, les Kahins ne communiquaient pas directement avec les dieux mais y accédaient plutôt par le biais des djinns et autres esprits qui faisaient tellement partie intégrante de l’expérience religieuse jahiliyyah. Malgré cela, ni les Kahins, ni personne d’autre d’ailleurs, n’avaient accès à Allah. En fait, le dieu qui avait créé les cieux et la terre, qui avait façonné les êtres humains à son image, était le seul dieu dans tout le Hedjaz à ne pas être représenté par une idole dans la Kaaba. Bien qu’il soit appelé  » le roi des dieux  » et  » le seigneur de la maison « , Allah n’était pas la divinité centrale de la Kaaba. Cet honneur appartenait à Hubal, le dieu syrien qui avait été amené à La Mecque des siècles avant la montée de l’Islam.

Malgré le rôle minime d’Allah dans le culte religieux de l’Arabie préislamique, sa position éminente dans le panthéon arabe indique clairement à quel point le paganisme de la péninsule arabique avait évolué depuis ses simples racines animistes. L’exemple le plus frappant de cette évolution se trouve peut-être dans le chant processionnel que, selon la tradition, les pèlerins chantaient en s’approchant de la Kaaba :

Me voici, ô Allah, me voici.

Tu n’as pas d’associé,

Sauf un associé tel que tu l’as.

Vous le possédez et tout ce qui est à lui.

Cette proclamation remarquable, avec sa ressemblance évidente avec la profession de foi musulmane –  » Il n’y a pas d’autre dieu que Dieu  » – pourrait révéler les premières traces, dans l’Arabie préislamique, de ce que le philologue allemand Max Muller a appelé l’hénothéisme : la croyance en un Dieu unique et élevé, sans nécessairement rejeter l’existence d’autres dieux subordonnés. Les premières traces d’hénothéisme en Arabie remontent à une tribu appelée Amir, qui vivait près de l’actuel Yémen au deuxième siècle avant J.-C., et qui vénérait un Dieu suprême qu’elle appelait dhu-Samawi, « le Seigneur des Cieux ». Bien que les détails de la religion des Amirs aient été perdus pour l’histoire, la plupart des chercheurs sont convaincus qu’au sixième siècle de l’ère chrétienne, l’hénothéisme était devenu la croyance standard de la grande majorité des Arabes sédentaires, qui non seulement acceptaient Allah comme leur Haut Dieu, mais insistaient sur le fait qu’il était le même dieu que Yahvé, le dieu des Juifs.

La présence juive dans la péninsule arabique peut, en théorie, remonter à l’Exil babylonien, mille ans plus tôt, bien que des migrations ultérieures aient pu avoir lieu en 70 de l’ère chrétienne, après le saccage du Temple de Jérusalem par Rome, et à nouveau en 132 de l’ère chrétienne, après le soulèvement messianique de Simon Bar Kochba. Dans l’ensemble, les Juifs constituaient une diaspora prospère et très influente dont la culture et les traditions avaient été parfaitement intégrées au milieu social et religieux de l’Arabie préislamique. Qu’il s’agisse de convertis arabes ou d’immigrants de Palestine, les Juifs participaient à tous les niveaux de la société arabe. Selon Gordon Newby, il y avait dans toute la péninsule des marchands juifs, des bédouins juifs, des fermiers juifs, des poètes juifs et des guerriers juifs. Les hommes juifs prenaient des noms arabes et les femmes juives portaient des coiffes arabes. Et si certains de ces Juifs ont pu parler l’araméen (ou du moins une version corrompue de celui-ci), leur langue principale était l’arabe.

Bien qu’en contact avec les grands centres juifs de tout le Proche-Orient, le judaïsme en Arabie avait développé ses propres variations sur les croyances et les pratiques juives traditionnelles. Les Juifs partageaient beaucoup des mêmes idéaux religieux que leurs homologues arabes païens, surtout en ce qui concerne ce qu’on appelle parfois la « religion populaire » : la croyance en la magie, l’utilisation de talismans et la divination, et ainsi de suite. Par exemple, s’il existe des preuves d’une présence rabbinique réduite mais formelle dans certaines régions de la péninsule arabique, il existait également un groupe de devins juifs appelés les Kohens qui, tout en conservant une fonction beaucoup plus sacerdotale dans leurs communautés, ressemblaient néanmoins aux Kahins païens en ce qu’ils traitaient eux aussi des oracles d’inspiration divine.