Gedung tua dengan nuansa arsitektur Belanda tersebut pada mulanya merupakan salah satu bagian dari kantor Karesidenan Kedu. Komplek Museum BPK berada dalam satu situs dengan Museum Diponegoro terletak di sudut kota Megelang, tepatnya di Jalan Diponegoro No.1.

Museum BPK memiliki koleksi berupa benda hiraldika, buku, grafika, reflika, koleksi hasil abstraksi, etnografika, dan miniatur. Buku koleksi museum ini, antara lain notulen algemeena rekenkamer tahun 1821 dan tahun 1828 (tulisan tangan), buku laporan hasil pemeriksaan BPK, buku 25 tahun BPK, dan buku setengah abad BPK mengabdi bangsa.

Koleksi benda grafika berupa foto-foto ketua dan wakil ketua BPK RI, foto tentang sekretaris umum BPK RI, dan foto perkembangan gedung BPK RI. Benda replica yang tesimpan, yakni dua buah patung untuk memasang pakaian dinas yang pernah dipakai oleh BPK RI beserta satu set tanda pangkat dan patung setengah badan Ketua BPK pertama, R. Soerasno.