第31步兵團的番號在美國陸軍中歷史相當悠久，曾出現過三次。第31步兵團最早組建於1812年戰爭時期，1815年解散。1866年內戰結束後，美軍以第13步兵團壹部為基礎再次組建第31步兵團，之後又被解散。1916年8月，第31步兵團第三次組建，不過與前兩代第31團沒有血緣傳承關系，是根據《1916年國防法案》擴編陸軍時組建的第壹個單位，比較特殊的是，該團是在菲律賓威廉?麥金利堡建立的海外部隊，隸屬於美國遠東陸軍菲律賓師，常駐馬尼拉，最初下轄3個營。
第31步兵團組建剛兩年就得到了小試鋒芒的機會。1917年俄國發生革命，與德國媾和退出戰爭，英美日等協約國派兵幹涉俄國革命，美國組建了西伯利亞遠征軍，夥同日本等國侵入俄國遠東地區，而第31團就在遠征軍行列中，於1918年8月21日在海參崴登陸，沿西伯利亞大鐵路布防，僅僅壹周後就流下了第壹滴血，在8月29日與蘇俄武裝的沖突中遭受30人陣亡，60人負傷的損失，可謂出師不利。在隨後兩年多時間裏，第31團主要任務是阻止蘇俄紅軍或白俄軍隊控制鐵路線，同時監視日本駐軍，防止日本獨霸西伯利亞。在駐防俄國期間，第31團有1人榮獲榮譽勛章，15人獲得優異服役十字勛章，但因為西伯利亞的嚴寒而導致大量凍傷致殘的非戰鬥減員。1920年4月，第31團結束西伯利亞遠征返回馬尼拉，這段經歷也使該團獲得了?北極熊團?的稱號，並以壹只銀色北極熊作為團徽。
第31步兵團的第二次出征發生在1932年初。當時日本發動?壹二八事變?，中日兩軍在淞滬地區爆發激戰，第31團奉命由馬尼拉開赴上海，以保護僑民的名義進駐公***租界，實際上是隔岸觀火，團裏軍官甚至還把家眷從馬尼拉帶到上海，入住豪華酒店，奢侈享樂。軍官們還籌集了1600多枚銀幣融化後請銀匠打制成壹只精美的大銀碗和壹套酒杯，這就是該團的象征物?上海碗?。到1932年7月，隨著戰事的平息，第31步兵團結束了猶如度假般的上海之行，返回駐地，全團官兵獲頒長江服役獎章。
1941年12月8日，日軍在突襲夏威夷珍珠港的同時，也發動了對菲律賓的進攻，第31步兵團迎來了組建以來首次真正嚴酷的戰鬥。日軍在摧毀美國遠東空軍主力後，在呂宋島南北登陸，直撲馬尼拉。包括第31團在內的美菲聯軍在麥克阿瑟指揮下退守巴丹半島和科雷吉多爾島，固守待援，在防禦戰中該團有29人獲得優異服役十字勛章，另有1人被推薦獲得榮譽勛章。可是，太平洋艦隊遭到重創，無力來援。在四個多月的圍困後，麥克阿瑟黯然離去，美菲部隊繳械投降，第31團就此覆滅，除少數人逃入山林展開遊擊戰外，其余1600余人在巴丹死亡行軍和日軍戰俘營中飽受磨難，大半死去。不過，在投降前該團軍官厄爾?肖特上尉將軍旗和?上海碗?埋藏起來，免於落入日軍之手，算是保住了最後的尊嚴。1945年美軍解放菲律賓，從戰俘營中幸存的肖特上尉將旗幟和?上海碗?重新挖出。
在麥克阿瑟的特別關照下第31步兵團於1946年1月重建，隸屬於第7步兵師，派往朝鮮漢城執行占領任務，與38線對面的蘇聯軍隊對峙。1948年蘇美根據協議從朝鮮半島撤軍，第31步兵團隨後調往日本，作為駐日美軍的壹部分進駐北海道。1950年夏季朝鮮戰爭爆發後，第31步兵團被緊急動員，接收了來自美國本土的補充兵員和從韓國征來的壯丁，於1950年9月達到滿編狀態，參加了仁川登陸作戰，接著壹路南下直抵釜山，又在11月間登陸利原，作為美第10軍的壹部分向北進軍，第31團以2個營加強了炮兵、坦克、工兵部隊組成第31團級戰鬥隊，在團長艾倫?麥克萊恩上校指揮下負責掩護陸戰壹師的右翼，於11月27日在長津湖新興裏遭誌願軍圍攻潰散，雖然沒像上次在菲律賓那樣團滅，但遭受喪旗之辱，留下了永遠難以抹去的汙點。