Kommunehospitalets opbygning følger en enkel struktur: en forbindelsesgade går fra nord til syd og deler hospitalet i øst og vest: på østsiden ligger servicebygninger og funktionærboliger, mod vest ligger behandlingsafdelinger og sengefløje. I mellem bygningerne er der grønne opholds- og haverum og parkeringspladser.

Byggeriet er holdt i røde mursten og røde tegl og vinduer, døre, trapper og altaner er af hvidmalet metal. På den måde fremstår hospitalet tæt og homogent i lighed med Aarhus Universitet på den modsatte side af Nørrebrogade.