大倉集古館は大正12年に関東大震災により当初の建物を焼失した後、新たな展示館の建築設計を東京帝国大学教授・伊東忠太博士に依頼し、昭和2年に竣工、翌年には再開館を果たした。当時は現在の展示館から長い回廊が続き、途中の六角堂を経て外門に至る壮大な造りとなっていた。幸いにも戦禍を免れたが、昭和30年代には隣接するホテルオークラの建設に伴い建物が整理された。平成9年には内壁や展示ケースを中心とした大規模な改修工事を行い今日に至っている。

建築設計を担当した伊東忠太（1867～1954）は、日本近代を代表する建築家・建築史家であり、主な作品には平安神宮、兼松講堂、大倉集古館、祇園閣、靖国神社神門、築地本願寺、湯島聖堂など多数ある。日本建築史を開拓、体系化し、一方で国内の神社・仏閣の保存・修理の方向性を定めるなどの業績を遺した。近代日本が歩んだ国家的建築事業の象徴的な存在とも位置づけられ、その評価は様々であるが、近年になって再評価の気運も高まりつつある。自ら建築進化主義と名付けた独創的な歴史観は、有名な「法隆寺建築論」で法隆寺建築の源流をギリシア文明に関連付けるな　ど、日本建築を国土に固定したものと限定せず、世界の文明の流れとの関係性の中で理解しようとするものであった。また、中国、インド、ミャンマー、エジプト、トルコ、欧米を歴遊して建築や文化を調査し、そこから着想を得た建築構成や意匠を自らの設計作品に取り入れた。特に、故郷山形で幼少期に親しんだ妖怪たちや東西の空想上の動物たちを写したモティーフは、その独特な建築空間に一層不思議な雰囲気を付け加えている。大倉集古館の建物の中にも、屋根の上や展示室2Fの斗栱部分に吻（ふん）とよばれる幻獣、階段親柱には獅子、2F天井には龍の姿がみられる。