Art gallery ligger i Joubert Park-distriktet, noen få kvartaler fra den største jernbanestasjonen i Johannesburg. Bygningen ble designet av den Britiske arkitekten sir Edwin Lutyens, og består av 15 exhibition halls og flere utstillingsarealer under åpen himmel for store skulpturer. I sine arkiver er en samling av Britisk og nederlandsk maleri av XVIII-XIX århundre, samling av Europeisk maleri av det nittende århundre, samt en stor samling av moderne sørafrikanske og internasjonale kunstnere.

Collector Dorothea Sarah Firenze Alexandra Phillips, kona til gruvedrift magnat Lionel Phillips, dannet den første samling av galleriet med midler laget av hennes mann. Etter å ha flyttet til Johannesburg, begynte hun å kjøpe malerier i den hensikt å skape en art gallery, som senere ble et kunstgalleri i Johannesburg. Hun kjøpte en samling malerier av den Britiske samler og kunstner sir Hugh lane, som er utstilt i London i 1910. Lady Phillips donerte sin samling av blonder og overtale sin mann til å sende for galleri syv malerier og en skulptur av Rodin.

Galleri samlingen inneholder verker av Auguste Rodin, Dante Gabriel Rossetti, Pablo Picasso, Camille Pissarro, Claude Monet, Edgar Degas, Herbert menigheten og Henry Moore, så vel som arbeid av det Sør-Afrikanske kunstneren Gerard Sekoto, Walter Battiss, Alexis Preller, Maud Sumner, Sydney Kumalo og andre.

Bilde galleri av Johannesburg ble åpnet for publikum i 1910 på universitetsområdet til University of the Witwatersrand. Arkitekten sir Edwin Lutyens, invitert lady Phillips, kom til Sør-Afrika i 1910, til å utforske området og til å starte byggingen av galleri-bygningen. Men byggingen ble ikke fullført etter arkitektens tegninger. Fem år senere, med byggestart, bygningen åpnet dørene for publikum uten seremoni, umiddelbart etter utbruddet av den Første verdenskrig.

I slutten av 1940-tallet, bygging av galleriet ble utvidet i samsvar med design arkitekt Lutyens bygget den Vestlige og Østlige fløyen av bygningen. Nord-wing galleri med en moderne fasaden ble bygget i løpet av de siste rekonstruksjon av bygningen i 1986-1987 år.