偽蒙古軍成立於1936年2月。偽蒙軍第1軍改編自偽察東警備區，李守信任軍長，下轄第1、第2、第3、第4師。偽蒙古軍第2軍由偽蒙古騎兵團擴編而成，德國國王兼司令，下轄第5、6、7、8師。1936年中秋節，德王合編錫盟各旗保安隊為警衛師，後改稱蒙古軍第9師。1937 10，偽蒙古同盟自治政府成立，李守信任蒙古軍總司令。1937年底，蒙古軍總指揮部移至後河。1938 65438+10月，德王、李守信與日本駐蒙古兵團司令交換關於任命蒙古軍司令的換文，任命偽蒙古軍總司令為駐蒙古日軍最高司令。14年2月，駐蒙古兵團成立蒙古軍軍事顧問部，直屬兵團司令，負責蒙古軍壹切訓練事宜。沒有最高顧問的聯署，蒙古軍隊總司令不能發號施令；蒙古陸軍總校的任命、晉升和補充等級必須經蒙古兵團司令批準。通過這些措施，蒙古軍的指揮權完全掌握在日軍手中，蒙古軍成為維護偽政權、協助日軍抗擊八路軍和國民黨、擔任蒙古地區防務的重要軍事力量。
偽蒙軍有9個師，1炮兵旅，總兵力約18000人。其中1、2、3師大多為漢族，分別駐紮在包頭、後河、濟寧。第四、五、六師是從偽滿洲國招募的，大部分是原卓索圖蒙、昭烏達蒙的蒙古人。4師駐達拉特旗大樹灣，5師駐四子王旗，6師駐張北縣。第七、第八、第九師由錫盟、察哈爾、烏盟招募的蒙古人組成。第七師駐察哈爾黃征旗，第八師駐武川以西烏蘭布朗地區，第九師駐百靈寺地區。九個師中，由漢人組成的三個師全部負責平綏鐵路沿線城鎮及附近各縣的防守。
偽蒙古軍在日據時期經歷了三次縮編和壹次擴軍。1938之後，日本駐蒙古兵團開始采取措施，逐步削弱蒙古軍隊。第壹次，1938年底，駐蒙部隊以充實偽滿洲國興安軍和防止蘇聯進攻為由，從蒙軍第四、第五、第六師抽調6000余人，用火車運到熱河，然後被打成碎片。蒙古軍第四、第五、第六師成了空殼。第二次減持是在1940的夏天。1939年底，德國國王通過劉建華和駐紮在陜壩的軍事系統負責人馬漢三與蔣介石建立了聯系。1940年，德國國王與軍方人員的秘密接觸被日軍發現，劉建華和馬漢三分別從後河和張家口逃回重慶。德王和李守信以不滿日本拒絕蒙古獨立建國，與蔣介石接觸為借口，向日軍承認了這壹點。日軍沒有深究德王和李守信，而是開始對蒙古軍隊進行整編，以減少兵力。1940年夏，駐蒙軍部撤銷了蒙軍1、2、3師的番號，改編為靖安警衛隊1、2、3團，屬地方警察。1，2團位於包頭、後河及附近縣，第3團搬遷至察南。三個警衛團***12旅分別由常駐日軍或特務機關指揮，各自為政成為12小分隊，偽蒙軍司令李守信的指揮權被大大削弱。第三次縮編是在1943開頭。由於在與國民黨軍隊的戰鬥中減員嚴重，蒙古軍第4師被取消，並入第6師。很快，第6師被分成了5個名義上的防禦師。蒙古軍第5師的番號也被撤銷，並入第7和第8師。第8師在戰鬥中戰敗，其師長陣亡，並入第9師。到目前為止，號稱9個師的蒙古軍，只有第7、第9正規師和5個名義上的防禦師。
1944後，日軍在太平洋和中國戰場屢戰屢敗，兵力枯竭。駐守蒙古的主力步兵第26師和騎兵群相繼調往菲律賓和河南作戰，蒙古守備力量空缺。1945年初，蒙古軍軍事總部決定擴充蒙古軍。於是，偽蒙古自治州政府成立新的軍部，由李守信任部長。同時，靖安警備三團編成六個“漢師”，查南警隊擴編為蒙軍四個師，即第四、第五、11、18。與薩拉齊縣長二部隊壹起組織成12師。這種建制壹直維持到1945年8月日本投降，偽蒙古政權垮臺。
訓練偽蒙古軍軍官主要有兩種方式。壹是派人去日本士官學校和偽滿洲國軍興安學校學習，二是辦軍官學校培養學員。偽蘇尼特軍建立之初，在西盟旗開辦了壹所軍官學校，不久就關閉了。1939下半年，在原軍校基礎上成立蒙古陸軍青年學校，學制3年。學校每年招收壹批學生，人數從40到60不等。學生主要是蒙古政權控制地區的蒙古族青少年和蒙古軍隊東部官兵的子女。1943年6月，蒙古陸軍軍官學校在後城成立，按照日本士官學校的模式對學員進行教育訓練，為偽蒙古軍培養軍事人才。
還有壹支受日軍控制的偽軍，即以王贏為首的“達汗義軍”。王混跡於各路軍閥之中。傅任綏遠省主席後，被逐出綏遠。1936年，關東軍派田中龍紀把他找出來，成立了“達汗義軍”。兵馬總數約5000-6000人，大致由三部分組成:第壹部分是馮玉祥舊軍向29軍借的兵，張萬青是“達汗起義軍”副軍長；二師石玉山，收編察北、綏東民兵團；三是冀東尹汝耕調來的日偽軍。這支軍隊在綏遠抗戰中被傅打敗。