Paris blev oprindeligt administreret af en af kongens repræsentanter. I midten af 1200-tallet blev et kommunalt styre oprettet med ikke-kongelige personer. Indtil Revolutionen i 1789 havde dette styre dog ikke meget at skulle have sagt i forhold til kongen. Fra 1357 og frem til i dag har de lokale myndigheder holdt til her, dog har det været i forskellige bygninger.
Først hed bygningen Maison aux Piliers, som i den første halvdel af 1500-tallet var blevet temmelig forfalden. Man byggede et nyt rådhus ovenpå det gamle, som siden blev udvidet og bygget om flere gange. Den 24. maj 1871 brændte Rådhuset ned i forbindelse med de voldsomme kampe under Kommuneopstanden. Man bestemte derefter, at et nyt Rådhus skulle opføres magen til det gamle. Dette skete i perioden 1874-1882, og det er den bygning, man ser i dag.
Rådhuset er meget flot udsmykket. Udvendigt ses 108 statuer på facaderne, som forestiller kendte personer født i Paris. Der ses også 30 statuer, som symboliserer Frankrigs provinsbyer. Øverst på klokketårnet er der en kvindefigur, som repræsenterer byen Paris.