Une taverne, La Guinguette, existait à cet endroit dès 1698. Elle devint en 1709 le Cabaret de l'Horloge car son fronton s'orna d'une horloge provenant de l'ancienne mairie de Dieppe. L'appellation actuelle est liée à l'installation vers 1820, de juridictions locales dans l'ancien couvent des Minimes situé rue Victor Hugo. Ce nom fut conservé malgré le transfert en 1902 de ces juridictions dans le nouveau Palais de Justice.