Im Gegensatz dazu hatte sich das Heidentum in den sesshaften Gesellschaften Arabiens von seinen früheren und einfacheren Erscheinungsformen zu einer komplexen Form des Neoanimismus entwickelt, der eine Vielzahl von göttlichen und halbgöttlichen Vermittlern vorsah, die zwischen dem Schöpfergott und seiner Schöpfung standen. Dieser Schöpfergott wurde Allah genannt, was kein Eigenname ist, sondern eine Verkürzung des Wortes al-ilah, was einfach „der Gott“ bedeutet. Wie sein griechisches Gegenstück Zeus war Allah ursprünglich eine antike Regen-/Himmelgottheit, die von den vorislamischen Arabern zum obersten Gott erhoben wurde. Obwohl es sich bei Allah um eine mächtige Gottheit handelte, die man beschwören konnte, war er aufgrund seiner herausragenden Stellung im arabischen Pantheon, wie die meisten hohen Götter, für die Bitten der einfachen Menschen nicht zugänglich. Nur in Zeiten großer Gefahr würde sich jemand die Mühe machen, ihn zu konsultieren. Die mächtigsten von ihnen waren seine drei Töchter Allat („die Göttin“), al-Uzza („die Mächtige“) und Manat (die Schicksalsgöttin, deren Name wahrscheinlich vom hebräischen Wort mana abgeleitet ist, was „Teil“ oder „Anteil“ bedeutet). Diese göttlichen Vermittler waren nicht nur in der Kaaba vertreten, sondern hatten überall auf der arabischen Halbinsel ihre eigenen Heiligtümer: Allat in der Stadt Ta’if; al-Uzza in Nakhlah; und Manat in Qudayd. Zu ihnen beteten die Araber, wenn sie Regen brauchten, wenn ihre Kinder krank waren, wenn sie in die Schlacht zogen oder sich auf eine Reise tief in die tückischen Wüstenbehausungen der Dschinn begaben – jener intelligenten, nicht wahrnehmbaren und heilbringenden Wesen aus rauchloser Flamme, die im Westen „Dschinns“ genannt werden und die als Nymphen und Feen der arabischen Mythologie fungieren.

Im vorislamischen Arabien gab es keine Priester und keine heidnischen Schriften, aber das bedeutet nicht, dass die Götter schwiegen. Sie offenbarten sich regelmäßig durch die ekstatischen Äußerungen einer Gruppe von kultischen Beamten, die als Kahins bekannt waren. Die Kahins waren Dichter, die in erster Linie als Wahrsager fungierten und sich gegen Bezahlung in Trance versetzten, um göttliche Botschaften in gereimten Couplets zu verkünden. Dichter spielten bereits in der vorislamischen Gesellschaft eine wichtige Rolle als Barden, Stammesgeschichtsschreiber, Sozialkommentatoren, Moralphilosophen und gelegentlich auch als Justizbeamte. Aber die Kahins repräsentierten eine eher spirituelle Funktion des Dichters. Die Kahins, die aus allen sozialen und wirtschaftlichen Schichten stammten und zu denen auch eine Reihe von Frauen gehörten, deuteten Träume, klärten Verbrechen auf, fanden verlorene Tiere, schlichteten Streitigkeiten und erläuterten ethische Fragen. Wie ihre pythischen Gegenstücke in Delphi waren die Orakel der Kahins jedoch vage und absichtlich ungenau; es lag in der Verantwortung des Bittstellers, herauszufinden, was die Götter tatsächlich meinten.

Obwohl sie als Bindeglied zwischen der Menschheit und dem Göttlichen galten, kommunizierten die Kahins nicht direkt mit den Göttern, sondern hatten über die Dschinn und andere Geister, die ein wesentlicher Bestandteil der religiösen Erfahrung der Jahiliyyah waren, Zugang zu ihnen. Dennoch hatten weder die Kahins noch irgendjemand sonst Zugang zu Allah. Tatsächlich war der Gott, der Himmel und Erde erschaffen und die Menschen nach seinem Ebenbild geformt hatte, der einzige Gott im gesamten Hidschas, der nicht durch ein Götzenbild in der Kaaba repräsentiert wurde. Obwohl Allah „König der Götter“ und „Herr des Hauses“ genannt wurde, war er nicht die zentrale Gottheit in der Kaaba. Diese Ehre gebührte Hubal, dem syrischen Gott, der Jahrhunderte vor der Entstehung des Islam nach Mekka gebracht worden war.

Trotz der geringen Rolle Allahs im religiösen Kult des vorislamischen Arabiens ist seine herausragende Stellung im arabischen Pantheon ein deutlicher Hinweis darauf, wie weit sich das Heidentum auf der arabischen Halbinsel von seinen einfachen animistischen Wurzeln entfernt hatte. Das vielleicht eindrucksvollste Beispiel für diese Entwicklung ist der Prozessionsgesang, den die Pilger der Überlieferung nach sangen, wenn sie sich der Kaaba näherten:

Hier bin ich, o Allah, hier bin ich.

Du hast keinen Partner,

außer einem solchen Partner, den du hast.

Du besitzest ihn und alles, was ihm gehört.

Dieser bemerkenswerte Ausspruch mit seiner offensichtlichen Ähnlichkeit zum muslimischen Glaubensbekenntnis – „Es gibt keinen Gott außer Gott“ – könnte im vorislamischen Arabien die frühesten Spuren dessen offenbaren, was der deutsche Philologe Max Muller als Henotheismus bezeichnete: den Glauben an einen einzigen hohen Gott, ohne notwendigerweise die Existenz anderer, untergeordneter Götter abzulehnen. Die frühesten Belege für den Henotheismus in Arabien lassen sich bis zu einem Stamm namens Amir zurückverfolgen, der im zweiten Jahrhundert v. Chr. in der Nähe des heutigen Jemen lebte und einen Hochgott verehrte, den er dhu-Samawi, „Herr des Himmels“, nannte. Während die Einzelheiten der Religion der Amire der Geschichte verloren gegangen sind, sind die meisten Gelehrten davon überzeugt, dass im sechsten Jahrhundert nach Christus der Henotheismus zum Standardglauben der großen Mehrheit der sesshaften Araber geworden war, die nicht nur Allah als ihren Hohen Gott akzeptierten, sondern darauf bestanden, dass er derselbe Gott wie Jahwe, der Gott der Juden, war.

Die jüdische Präsenz auf der arabischen Halbinsel lässt sich theoretisch bis zum babylonischen Exil tausend Jahre zuvor zurückverfolgen, obwohl spätere Migrationen im Jahr 70 n. Chr., nach der Plünderung des Tempels in Jerusalem durch Rom, und erneut im Jahr 132 n. Chr., nach dem messianischen Aufstand von Simon Bar Kochba, stattgefunden haben könnten. Im Großen und Ganzen waren die Juden eine blühende und äußerst einflussreiche Diaspora, deren Kultur und Traditionen gründlich in das soziale und religiöse Milieu des vorislamischen Arabiens integriert worden waren. Ob arabische Konvertiten oder Einwanderer aus Palästina, die Juden waren auf allen Ebenen der arabischen Gesellschaft vertreten. Gordon Newby zufolge gab es überall auf der Halbinsel jüdische Händler, jüdische Beduinen, jüdische Bauern, jüdische Dichter und jüdische Krieger. Jüdische Männer nahmen arabische Namen an und jüdische Frauen trugen arabische Kopfbedeckungen. Und obwohl einige dieser Juden Aramäisch (oder zumindest eine verfälschte Version davon) gesprochen haben mögen, war ihre Hauptsprache Arabisch.

Obwohl sie in Kontakt mit den großen jüdischen Zentren im gesamten Nahen Osten standen, hatte das Judentum in Arabien seine eigenen Variationen des traditionellen jüdischen Glaubens und seiner Praktiken entwickelt. Die Juden teilten viele der gleichen religiösen Ideale wie ihre heidnischen arabischen Gegenstücke, insbesondere im Hinblick auf das, was manchmal als „Volksreligion“ bezeichnet wird: der Glaube an Magie, die Verwendung von Talismanen und Wahrsagerei und dergleichen. Während es zum Beispiel Beweise für eine kleine, aber formelle rabbinische Präsenz in einigen Regionen der arabischen Halbinsel gibt, existierte auch eine Gruppe jüdischer Wahrsager, die Kohens, die zwar eine weitaus priesterlichere Funktion in ihren Gemeinden innehatten, aber dennoch den heidnischen Kahins ähnelten, da auch sie mit göttlich inspirierten Orakeln handelten.