En cambio, el paganismo entre las sociedades sedentarias de Arabia se había desarrollado a partir de sus primeras y más simples manifestaciones hasta convertirse en una forma compleja de neoanimismo, proporcionando una serie de intermediarios divinos y semidivinos que se interponían entre el dios creador y su creación. Este dios creador se llamaba Alá, que no es un nombre propio sino una contracción de la palabra al-ilah, que significa simplemente «el dios». Al igual que su homólogo griego, Zeus, Alá era originalmente una antigua deidad de la lluvia/del cielo que había sido elevada al papel de dios supremo de los árabes preislámicos. Aunque era una deidad poderosa por la que jurar, el eminente estatus de Alá en el panteón árabe lo convertía, como a la mayoría de los dioses superiores, en algo más allá de las súplicas de la gente corriente. Sólo en tiempos de gran peligro alguien se molestaba en consultarlo. De lo contrario, era mucho más conveniente recurrir a los dioses menores y más accesibles que actuaban como intercesores de Alá, los más poderosos de los cuales eran sus tres hijas, Allat («la diosa»), al-Uzza («la poderosa») y Manat (la diosa del destino, cuyo nombre probablemente deriva de la palabra hebrea mana, que significa «porción» o «parte»). Estas mediadoras divinas no sólo estaban representadas en la Kaaba, sino que tenían sus propios santuarios individuales en toda la península arábiga: Allat en la ciudad de Ta’if; al-Uzza en Nakhlah; y Manat en Qudayd. A ellas rezaban los árabes cuando necesitaban la lluvia, cuando sus hijos estaban enfermos, cuando entraban en batalla o se embarcaban en un viaje hacia las profundidades de las traicioneras moradas desérticas de los yinn, esos seres inteligentes, imperceptibles y salvables hechos de llamas sin humo que en Occidente se llaman «genios» y que funcionan como las ninfas y hadas de la mitología árabe.

En la Arabia preislámica no había sacerdotes ni escrituras paganas, pero eso no significa que los dioses permanecieran en silencio. Se revelaban regularmente a través de las expresiones extáticas de un grupo de funcionarios de culto conocidos como los Kahins. Los kahins eran poetas que funcionaban principalmente como adivinos y que, a cambio de una cuota, caían en un trance en el que revelaban mensajes divinos a través de coplas rimadas. Los poetas ya tenían un papel importante en la sociedad preislámica como bardos, historiadores tribales, comentaristas sociales, dispensadores de filosofía moral y, en ocasiones, administradores de justicia. Pero los kahin representaban una función más espiritual del poeta. Procedentes de todos los estratos sociales y económicos, y entre los que se encontraban algunas mujeres, los kahin interpretaban los sueños, aclaraban los crímenes, encontraban animales perdidos, resolvían disputas y exponían la ética. Sin embargo, al igual que sus homólogos pitanos de Delfos, los oráculos de los kahines eran vagos y deliberadamente imprecisos; era responsabilidad del suplicante averiguar qué querían decir realmente los dioses.

Aunque se les consideraba el vínculo entre la humanidad y lo divino, los kahins no se comunicaban directamente con los dioses, sino que accedían a ellos a través de los jinn y otros espíritus que formaban parte integral de la experiencia religiosa jahiliyah. Aun así, ni los kahin, ni ningún otro, tenían acceso a Alá. De hecho, el dios que había creado los cielos y la tierra, que había modelado a los seres humanos a su imagen y semejanza, era el único dios en todo el Hiyaz que no estaba representado por un ídolo en la Kaaba. Aunque se le llamaba «el Rey de los Dioses» y «el Señor de la Casa», Alá no era la deidad central de la Kaaba. Ese honor pertenecía a Hubal, el dios sirio que había sido llevado a La Meca siglos antes del surgimiento del Islam.

A pesar del papel mínimo de Alá en el culto religioso de la Arabia preislámica, su posición eminente en el panteón árabe es una clara indicación de hasta qué punto el paganismo en la Península Arábiga había evolucionado desde sus simples raíces animistas. Quizá el ejemplo más llamativo de esta evolución sea el canto procesional que, según la tradición, entonaban los peregrinos al acercarse a la Kaaba:

Aquí estoy, oh Alá, aquí estoy.

No tienes compañero,

Excepto un compañero como tú.

Tú lo posees y todo lo que es suyo.

Esta notable proclamación, con su evidente parecido con la profesión de fe musulmana – «No hay más dios que Dios»- puede revelar los primeros rastros en la Arabia preislámica de lo que el filólogo alemán Max Muller denominó henoteísmo: la creencia en un único Dios superior, sin rechazar necesariamente la existencia de otros dioses subordinados. Los primeros indicios de henoteísmo en Arabia se remontan a una tribu llamada Amir, que vivía cerca del actual Yemen en el siglo II a.C., y que adoraba a un Dios Superior al que llamaban dhu-Samawi, «El Señor de los Cielos». Aunque los detalles de la religión de los Amir se han perdido en la historia, la mayoría de los estudiosos están convencidos de que para el siglo VI de nuestra era, el henoteísmo se había convertido en la creencia estándar de la gran mayoría de los árabes sedentarios, que no sólo aceptaban a Alá como su Dios Supremo, sino que insistían en que era el mismo dios que Yahvé, el dios de los judíos.

La presencia judía en la península arábiga puede, en teoría, remontarse al exilio babilónico mil años antes, aunque las migraciones posteriores pueden haber tenido lugar en el año 70 d.C., tras el saqueo del Templo de Jerusalén por parte de Roma, y de nuevo en el 132 d.C., tras el levantamiento mesiánico de Simón Bar Kochba. En su mayor parte, los judíos eran una diáspora próspera y muy influyente, cuya cultura y tradiciones se habían integrado completamente en el entorno social y religioso de la Arabia preislámica. Ya fueran conversos árabes o inmigrantes de Palestina, los judíos participaban en todos los niveles de la sociedad árabe. Según Gordon Newby, en toda la península había comerciantes judíos, beduinos judíos, agricultores judíos, poetas judíos y guerreros judíos. Los hombres judíos tomaban nombres árabes y las mujeres judías llevaban tocados árabes. Y aunque algunos de estos judíos podían hablar arameo (o al menos una versión corrupta del mismo), su lengua principal era el árabe.

Aunque estaba en contacto con los principales centros judíos de todo Oriente Próximo, el judaísmo en Arabia había desarrollado sus propias variaciones sobre las creencias y prácticas judías tradicionales. Los judíos compartían muchos de los mismos ideales religiosos que sus homólogos árabes paganos, especialmente con respecto a lo que a veces se denomina «religión popular»: la creencia en la magia, el uso de talismanes y la adivinación, y similares. Por ejemplo, aunque hay pruebas de una pequeña pero formal presencia rabínica en algunas regiones de la península arábiga, también existía un grupo de adivinos judíos llamados los kohens que, aunque mantenían una función mucho más sacerdotal en sus comunidades, se parecían a los kahins paganos en el sentido de que también se ocupaban de oráculos de inspiración divina.