1929年4月，毛澤東、朱德率中國工農紅軍第四軍進駐瑞金時參加紅軍，任軍部會計、供給部出納股股長、軍部文書，同年9月參加中國***產黨。
1930年起，先後任連指導員、營政委、團政委。1932年任紅15軍44師政委。1933年調紅9軍團，先後任3師、14師政委。參加了中央革命根據地反“圍剿”。1934年7月初，中***中央決定由紅7軍團組成北上抗日先遣隊，任政治部主任。6日，率部隊從瑞金出發，向閩浙贛皖等省出動。11月，所部在重溪地區與紅10軍合編為紅10軍團，任軍團政治部主任兼第19師政治部主任、紅10軍團軍政委員會成員。
1935年1月，先遣隊在江西懷玉山地區突圍時，不顧身負重傷，率先頭部隊機智越過敵人封鎖線，安全抵達閩浙贛根據地，並與中***閩浙贛省委取得聯系。2月，據中央指示，以先遣隊突圍出來的部隊為基礎，組成中國工農紅軍挺進師，任政治委員會書記兼政治委員，與粟裕等率部在浙江南部開辟遊擊根據地。5月，在齋郎取得入浙以來第壹個大勝仗，為挺進師在浙西南建立根據地奠定了基礎。隨後，建立起縱橫百余公裏的浙西南遊擊根據地