Le premier pont situé à cet endroit date de la période romaine de Lutèce, il permettait de franchir le petit bras du fleuve par opposition au Grand Pont qui permettait de franchir le grand bras. Le pont actuel est construit en 1853.
À son extrémité sud se trouvait la tour du Petit Pont, devenue le [[Petit Châtelet]], qui servait à protéger l'[[île de la Cité]].