Anfang des 13. Jahrhunderts hatte sich in Halberstadt ein selbständiger städtischer Rat herausgebildet. Als Versammlungsort dienten die Martinikirche und das schon 1241 erwähnte Rathaus auf dem Kirchhof. Das Anwachsen der Stadtgemeinde und ihrer Macht erforderte eine größere Verwaltung.
Im Jahre 1381 (andere Quellen sagen 1365) begann der Bau des neuen Rathauses. 1433 fand der aus dem gleichen Jahr stammende Roland, nach Abschluss der Bauarbeiten, seinen Platz an der Westseite. Anfänglich ein einfacher Bau im T- Grundriss erhielt das Gebäude im Laufe der Jahrhunderte künstlerisch hochwertig gestaltete Anbauten, wie die Mitte des 17. Jahrhunderts errichtete doppelte Freitreppe. Beim Bombenangriff am 8. April 1945 wurde das Rathaus stark zerstört und in den folgenden Jahren abgetragen. Mit der Neubebauung des Stadtzentrums 1996 bis 1998 errichtete man einen Neubau am Originalstandort. Die Westfassade ist der des 19. Jahrhunderts nachempfunden, so dass der Roland wieder an seinem historischen Platz stehen kann. Seit Anfang der 50er-Jahre hatte er seinen vorübergehenden Standort am Südturm der Martinikirche.