博物馆占地50,000平方米，展厅面积6800平方米，分为9个主展厅和6个附馆、1个石器长廊，金上京历史博物馆共设1个主展馆（9个展厅），9个展厅包括：

　　序言厅：介绍的是金代全盛时期的疆域以及金代初期在阿城执政的前四位皇帝的历史，环形墙由120根大事记年代柱包围，代表金代共有120年的历史。

　　第一展厅：金源寻踪。主要介绍女真民族的悠久历史，追溯女真族源、了解女真祖先创造的文遗存;

　　第二展厅：雄峙北方。主要介绍女真族如何发展壮大，建国伐辽灭北宋打南宋，纵横捭阖，逐鹿中原，问鼎华夏的壮举;

　　第三展厅：以儒治国。金代建国后的封建化进程，以及社会制度的改革措施等;

　　第四展厅：金源魁硕。金源文化与金源人物，主要介绍女真人融合汉、契丹、渤海等文化而创造的女真独具特色的文化，以及金初金上京地区典型代表人物;

　　第五展厅：赫赫上京。展示金代早期都城金上京会宁府(今黑龙江省哈尔滨市阿城区白城子)的历史变迁及女真后裔，特别是完颜姓氏今天的生存状态和生活状况，尤其突出介绍的是完颜宗翰后代的迁徙、沿袭和今天的成就;

　　第六展厅：金源遗韵。金上京城的历史遗迹及金上京路所管辖的地域;

　　第七展厅：金中都。主要介绍金上京和金中都的必然联系，以及金上京和金中都的传承关系;

　　第八展厅：再探白城。主要展示现在考古所留下的历史内容，深刻剖析白城之名的由来、白城内城址遗迹;

　　博物馆有6个副馆（专题馆）：分别是铜镜馆，舒群纪念馆，晁楣艺术馆，精品文物馆，粘氏石器长廊和八旗满族服饰馆。