國共第一次合作進行北伐時期，在國民革命軍第四軍中，有一支由共產黨人直接領導和掌握的部隊——葉挺獨立團。對於剛成立不久、尚未建立自己獨立武裝的幼年共產黨來說，這是一次重要的建軍嘗試。
1924年1月，國共兩黨實現首次合作，創辦黃埔軍校。當時，面對國內革命力量與反革命勢力之間紛繁復雜的鬥爭局勢，中共廣東區委領導人周恩來、陳延年等人，在總結領導革命群眾運動的經驗教訓後，深刻認識到創建一支由中國共產黨直接領導和控制的革命武裝的重要意義。周恩來等人經不懈努力，與國民政府及國民革命軍第四軍領導人反復商討後，選擇在第四軍內組建一支以共產黨員為骨幹，以廣東區委領導的建國陸海軍大元帥府鐵甲車隊官兵為基礎的革命武裝。
中共廣東區委領導人周恩來。
1925年11月21日，國民革命軍第四軍第十二師第三十四團在廣東肇慶閱江樓成立，由時任國民革命第四軍參謀處長的葉挺擔任團長。彼時葉挺剛從蘇聯莫斯科東方大學和蘇聯軍事學院深造歸來，在蘇聯期間他加入了中國共產黨。
葉挺。
1926年1月，第三十四團改稱國民革命軍第四軍獨立團，獨立團全團約2000人，連以上干部大多是共產黨員或共青團員，班排長也有一部分是共產黨員。團內設立一個共產黨支部。獨立團的軍費雖然由國民政府劃撥，但團裡排以上干部的任免、部隊人員的補充，以及重大的政治和軍事訓練計劃等，都是獨立團根據中共廣東區委的決定，自行負責，不受軍部約束，因此說，這是北伐軍中一支由中國共產黨直接指揮的正規軍隊。
葉挺獨立團。
1926年5月，葉挺獨立團奉命擔任北伐先遣隊，轉戰湘、鄂、贛三省，奔馳數千里，先後攻克湖南汝城、醴陵、瀏陽、湖北武昌等軍閥盤踞的重要城市，取得醴陵戰役、平江戰役、汀泗橋戰役、賀勝橋戰役、武昌戰役的勝利。基本打垮了吳佩孚部隊的主力。
攻下武昌之後，1927年1月，武漢粵僑聯歡社同仁委托漢陽兵工廠製作了一塊正面鐫刻「鐵軍」二字的鐵盾牌，贈送給國民革命軍第四軍。葉挺奉命代表第四軍接過這塊鐵盾牌。從此，葉挺所在部隊「鐵軍」的稱號聲名遠揚。
民眾贈送給葉挺獨立團的鐵盾牌。
葉挺獨立團是中國共產黨創建和直接領導的第一支正規武裝，毛澤東曾稱：「葉挺將軍是共產黨的第一任總司令，人民軍隊的戰史要從葉挺寫起。」朱德則說：「葉挺獨立團是研究我軍黨史的老根」。
