史語所考古組初期以整理在大陸時期的發掘調查資料為主，從大陸運臺的所有出土文物都收藏於館內大陸考古文物庫房。1970年代初期，史語所參加「臺灣省濁水、大肚兩溪流域自然與文化史科際研究計畫」（濁大計畫），發掘採集了大量臺灣考古標本，也典藏於館內庫房。 1986年，歷史文物陳列館落成後，大陸考古文物、部分研究人員與工作人員轉至該館，考古館遂以執行臺灣考古研究為主，故又有「臺灣考古館」之稱。
