國史館的設置，可追溯到1912年3月17日胡漢民、黃興等九十七人呈請臨時大總統孫文設立國史院，撰輯中華民國建國史。4月2日，參議院正式議決臨時政府遷往北京，國史院的籌設工作受阻。10月28日，北京政府制定公布「國史館官制」，改院為館。12月11日，袁世凱大總統特任王闓運為館長，王館長遲不赴任。1914年4月7日，王館長抵京就職。5月25日，國史館正式成立，但因缺乏經費，導致館務無法正常運作。1915年1月9日，袁大總統任命楊度為國史館副館長。1月25日，特准王闓運遙領史職，館務則責成楊度代理；旋因人謀不臧，國史館時設時廢。1928年6月，北京政府結束，國史館也隨之停辦。
1940年2月1日，國史館籌備委員會成立於重慶，由國民政府委員7人組成，以張繼為主任委員。同年5月，籌備委員會正式辦公。抗戰勝利，國民政府還都南京，張繼等人提請改會為館。1946年11月23日，立法院審議通過、國民政府主席公布「國史館組織條例」，國史館隸屬於國民政府，掌理修撰國史事宜。1947年1月，國史館在南京成立，特任張繼為館長。
政府遷臺初期，國史館業務暫由中國國民黨中央黨史史料編纂委員會代行。1956年5月10日，立法院修正、總統公布「國史館組織條例」，國史館隸屬於總統府。1957年6月29日，特任羅家倫為館長，開始籌備在臺復館事宜。1958年1月，國史館在臺復館辦公。復館後的歷任館長，依序為：羅家倫、黃季陸、朱匯森、瞿韶華、潘振球、張炎憲、林滿紅（現任館長）。
2001年10月24日，立法院修正、總統公布「國史館組織條例」，調整組織編制，設四處三室。同日，立法院審議通過、總統公布「國史館臺灣文獻館組織條例」。2002年1月1日，國史館臺灣文獻館（原臺灣省文獻委員會）改隸國史館，掌理臺灣史事研究、志書修纂暨史料整理編印等工作。2004年1月20日，立法院審議通過、總統公布「總統副總統文物管理條例」，明定國史館為總統、副總統文物之主管機關。
國史館是我國最高史政機關，以纂修國史為中心任務；以採集、整理、典藏、編纂、研究、展覽、推廣國家重要史料文物為施政方針。今後將力求史料文物蒐藏編纂業務與史學研究的更加結合，並利用現代科技推廣歷史知識，也將多方面設計全民寫史、全民留史之制度安排，以建構更多元、更全面的國史。以世界角度（如冷戰與亞洲秩序）瞭解國史，亦為發展重點。