Muzeum mieści się w części gmachu Muzeum Narodowego wzniesionym w latach 1926-1938 wg projektu Tadeusza Tołwińskiego z przeznaczeniem na muzeum. W Forcie IX Czerniakowskim przy ul. Powsińskiej 13 w Warszawie w 1993 r. utworzyło swoje oddziały: Muzeum Katyńskie i Muzeum Polskiej Techniki Wojskowej.
Muzeum Wojska Polskiego zostało powołane Dekretem Naczelnego Wodza Marszałka Józefa Piłsudskiego w 1920 roku. Początkowo mieściło się wspólnie z Muzeum Narodowym w budynku przy ul. Podwale; w nowym gmachu od roku 1934; po wojnie reaktywowane w 1946 roku.
Zaczątkiem zbiorów był dział militariów Muzeum Narodowego oraz pamiątki wojskowe dotyczące formacji polskich z lat I wojny światowej zebrane przez utworzone w 1919 r. Polskie Muzeum Wojskowe z siedzibą na Zamku Królewskim. Po wojnie wpłynął z Muzeum Instytutu Historycznego im. Gen. Władysława Sikorskiego bardzo cenny dar broni, mundurów i pamiątek związanych z Polskimi Siłami Zbrojnymi na Zachodzie; z Niemiec zwrócono kilka sztandarów wojskowych z 1939 r.; ze Związku Radzieckiego i Rosji cenna lufę armatnią z XVII w., mundur oficerski z powstania kościuszkowskiego, unikalny polski pistolet maszynowy "Mors", po 1989 r. kilka sztandarów i chorągwi historycznych oraz karabin Marszałka Piłsudskiego.
Zbiory - obrazują historię polskich sił zbrojnych od średniowiecza po czasy współczesne: kolekcje broni białej, palnej i uzbrojenia ochronnego, mundurów od XVIII w., sztandarów i chorągwi od XVI w., orderów i odznaczeń wojskowych, sprzętu jeździeckiego, broni myśliwskiej i sportowej, sprzętu morskiego i lotniczego, uzbrojenia orientalnego i egzotycznego; Dział sztuki - kolekcja malarstwa batalistycznego, grafiki, plakatu i rysunku; Zbiory specjalne - bogaty zbiór ikonograficzny, archiwalny i kartograficzny. Do najcenniejszych zabytków należą pamiątki osobiste po wybitnych wodzach i dowódcach wojskowych od hetmana Jana Tarnowskiego do Józefa Piłsudskiego.