Muzeum powstało w 1899 r. jako Oddział Archiwum Akt Dawnych w Krakowie; status samodzielnej placówki uzyskało dopiero w 1945 r. Obecnie podlega mu kilka oddziałów, w których gromadzone są i prezentowane zbiory dotyczące wybranych fragmentów z dziejów miasta: historii Żydów w Starej Bóżnicy, historii teatru w Domu pod Krzyżem, historii Bractwa Kurkowego w "Celestacie". Główną siedzibą Muzeum są tzw. "Krzysztofory" - dzieło architekta Jakuba Sollariego, który w XVII w. połączył trzy gotyckie kamienice stojące przy Rynku i całości nadał styl barokowego pałacu.

Zbiory związane są z historią i sztuką Krakowa. Znajdują się wśród nich plany miasta z XVI-XX w., obrazy, grafiki i fotografie dokumentujące wygląd miasta w różnych okresach, pamiątki cechowe i wyroby rzemieślników krakowskich, portrety krakowian z XVI-XX w., broń z XIV-XX w., kolekcja zegarów z XVI-XX w., słynne szopki krakowskie, teatralia, judaika, pamiątki związane z okresem polskich powstań narodowych w XIX w. oraz czasami I i II wojny światowej.