1927年大革命失敗后，國內政治局勢急劇逆轉，中國革命進入低潮。八七會議后，毛澤東作為中央特派員到湖南改組省委，并發動和領導了湘贛邊界的秋收起義。在攻打中心城市受挫后，以毛澤東為書記的前敵委員會當機立斷，毅然改變原定部署，決定到敵人控制比較薄弱的山區尋求立足地。

10月，毛澤東率領湘贛邊秋收起義的工農革命軍到達羅霄山脈中段的井岡山地區,開展游擊戰爭,進行土地革命，恢復和建立共產黨的組織，建立革命政權和赤衛隊。與此同時，經過團結、教育、改造工作，將袁文才、王佐兩支農民自衛軍編入工農革命軍。至1928年2月底,包括寧岡全縣，遂川西北部，永新、酃縣、茶陵等縣部分地區的井岡山革命根據地初步建成。4月,朱德、陳毅率領工農革命軍由湘南到達井岡山，同毛澤東領導的工農革命軍會師,合編為工農革命軍第4軍，后改稱紅軍第4軍。

1928年4月底，朱德、陳毅率領南昌起義保存下來的部隊和湘南農軍到達井岡山，和毛澤東領導的工農革命軍會師，成立了中國工農紅軍第四軍。5月，組成了毛澤東為書記的中共湘贛邊界特別委員會；接著成立了袁文才任主席的湘贛邊界蘇維埃政府。紅軍在赤衛隊和人民群眾配合下，接連打破了江西國民黨軍的多次“進剿”。至6月,井岡山革命根據地擁有寧岡、永新、蓮花3個縣,和遂川、酃縣、吉安、安福等縣的部分地區。之后，又打破了湘贛兩省國民黨軍的兩次“會剿”。12月，彭德懷、滕代遠率領紅5軍主力到達井岡山，同紅4軍會師。此后，紅軍粉碎了敵人的多次“圍剿”，根據地不斷擴大。1929年1月，毛澤東、朱德率領紅4軍主力向贛南、閩西挺進后,留下一部紅軍堅持井岡山的斗爭。