La ciudad es de origen árabe, denominada Gran Zulema, de donde proviene su actual nombre. En 1485 fue conquistada por el duque de Arcos. Tomó un gran auge económico a partir del siglo XVII, gracias a la industria de pañería que producía la famosa manta de Grazalema. Se la conoce como la ciudad más lluviosa de España (el pluviómetro de Grazalema recoge 2.132 mm de precipitación media anual).

En Grazalema y sus inmediaciones se han encontrado restos arqueológicos indicadores de una cierta actividad humana durante la Prehistoria. Sin embargo y a pesar de los vestigios de varias culturas anteriores, el prólogo histórico del lugar hay que fecharlo en tiempos de la colonización romana del Mediterráneo.

Con las legiones de Escipión brotó la villa de Lacilbula en la loma del Clavijo; el nombre de esa población se vincula a la antigua denominación del Guadalete, río Cilbus, y era un recinto fortificado a cuyo alrededor se ubicaron casas residenciales.