軍政府恢復後，孫中山便積極謀求在南方成立正式政府，對內取代北京政府，對外取得國際承認。1921年1月12日，舊國會在廣州召開參眾兩院聯合會議，因人數不足，仍開國會非常會議。2月14日，軍政府政務會議同意孫中山關於成立正式政府的提案，決定提交國會討論。4月7日，國會非常會議通過《中華民國政府組織大綱》。
大綱規定中華民國政府實行總統制，大總統由非常國會選舉產生。大總統既為國家元首，又是政府首腦，總攬政務，發布法令，統率海陸軍，任免文武官員，並對外代表中華民國。不設內閣，設置行政各部，由大總統任免部長，另設總統府秘書長。同日，國會非常會議選舉大總統，孫中山以228票對2票當選大總統，因系由非常國會選出，故習慣稱非常大總統。5月4日，孫中山、唐紹儀、伍廷芳、唐繼堯、劉顯世等聯合通電，軍政府於是日取消，所有軍政府政務總裁職務即應解除。5月5日，孫中山宣誓就任中華民國非常大總統，宣布組織正式政府，改元帥府為總統府。次日，孫中山任命各部部長，以陳炯明為陸軍部長兼內務部長，伍廷芳為外交部長兼財政部長，湯廷光為海軍部長，李烈鈞為參謀總長，胡漢民為總參議兼文官長，馬君武為總統府秘書長。’此外，總統府設置會計、庶務二司，及法制委員會和宣傳委員會。
正式政府初建時，僅轄廣東省及廣州直轄市，7月，任命馬君武為廣西省長，劉湘為四川省長，名義上轄三省壹市。兩廣平定後，孫中山於桂林設置大本營，除直轄各軍總司令外，設參謀長、文官長等，積極準備北伐。
1922年6月，陳炯明發動叛亂，炮轟總統府。孫中山在同叛軍奮戰近兩個月後，於8月9日回到上海。所謂中華民國正式政府遂告瓦解。