El primer verdadero jabón duro procede del mundo árabe, el jabón de Alepo, creado unos 1500 años antes de nuestra era en Siria. Este jabón vegetal puro se elabora con aceite de oliva y aceite de laurel. La grasa animal ha sido sustituida por aceites de buena calidad (no aptos para la alimentación), que hacen que el jabón sea más firme. El jabón de Alepo es, pues, el antepasado del jabón de Marsella.

A finales del primer milenio, las Cruzadas propiciaron el uso generalizado de las técnicas de fabricación del jabón sólido de Alepo en toda la Europa medieval. La fácil disponibilidad de aceite de oliva en la cuenca mediterránea hizo que lugares como Marsella, Tolón y Salon-de-Provence se convirtieran rápidamente en importantes centros de producción de jabón a partir de la Baja Edad Media. En Marsella se fundó en 1593 la primera fábrica de jabón que superó la categoría de pequeña empresa.

Unas décadas más tarde, en 1668, la fórmula del jabón de Marsella se institucionalizó mediante el edicto de Colbert, que prohibía el uso de grasas distintas del aceite de oliva. La normalización del proceso marsellés fue una marca de reconocimiento que subrayaba la calidad constante y el valor fiable de este producto, apreciado en toda Europa. En 1811, un nuevo decreto autorizó el uso de otras grasas siempre que estuvieran claramente especificadas. Al año siguiente, un sello en forma de rombo distinguía los auténticos jabones marselleses saponificados con aceite de oliva de los fabricados con una mezcla de materias primas.

Pero la fórmula del jabón sólido tal como la conocemos hoy se perfeccionó en 1823 gracias a las investigaciones de un químico de Angers, Michel-Eugène Chevreul. A él se deben notables trabajos sobre la reacción de saponificación, la composición de los aceites, la estructura de los ácidos grasos y el descubrimiento de la estearina.

Otros científicos, jaboneros y aficionados han dejado su huella en la producción de jabón en Francia a través de sus descubrimientos científicos y tecnológicos. François Merklen, por ejemplo, amplió los trabajos de Chevreul fijando en 1906 en un 72% el porcentaje de aceites vegetales en los jabones de Marsella, complementados con sosa, sal marina y agua.