Cet édifice est l'un des plus anciens ponts médiévaux de France. La construction aurait eu lieu en 873, suivant un accord conclu entre l'abbé d'Aniane et l'abbé de Gellone (Saint Guilhem le Désert), donc probablement dans la première moitié du IXe siècle.

Le pont du diable ou pont de Saint-Guilhem doit son nom à une ancienne légende qui prétendait que lors de la construction du pont, le diable venait défaire chaque nuit ce que les hommes construisaient durant la journée. Un jour, les hommes (qui n'en pouvaient plus de construire en vain) conclurent un accord avec le diable : il pourrait prendre la première âme qui passerait sur le pont. Ainsi les hommes purent construire le pont. Mais aucun des hommes ne voulant donner son âme au diable, ils firent passer un chat en premier. Fou de rage, le Diable tenta en vain de détruire le pont sans y parvenir et se jeta dans l'eau. C'est ainsi que le pont reçut le nom de « Pont du Diable ».