1941年4月，新四軍第四師與由湯恩伯節制的青海騎兵第八師激戰于津浦路西，新四軍第四師許多官兵死于馬刀之下，著名的老三十二團幾乎被打光。白刃格鬥中，馬上的敵人佔有很大的優勢。

此戰之後，新四軍第四師師長彭雪楓決定把師部騎兵連擴充為騎兵團，稱之為“紅色哥薩克”。周純麟任騎兵團團長，騎兵戰術主要效倣蘇聯紅軍騎兵。

彭
雪楓首先命令把各單位通信兵騎的馬集中起來，又號召領導幹部把自己的坐騎交出來，並率先將自己綽號叫“火車頭”的白馬交出。在組建騎兵團過程中，泗洪人民
給予了極大的支持，只要騎兵團看中哪匹馬，群眾都願意將馬賣給騎兵團。由于淮北人民的大力支持，騎兵團在戰鬥中不斷壯大，不到一年，全團就有700多人馬
了。

在選用馬刀時，自幼習武、精通刀術的彭雪楓沒有採用蘇軍高加索式馬刀，而是博採眾長親自設計了一款馬刀，刀身修長，刀背輕薄，用精鋼打造，刀刃十分鋒利，戰士們愛不釋手，稱之為“雪楓刀”。

當
年冬天，彭雪楓決定對騎兵團進行短期突擊訓練。部隊集中在介頭集、大江莊，彭雪楓親自教練騎術、整頓紀律，要求騎兵團全體指戰員做到：上馬像蚱蜢一樣輕
快，騎坐像磐石一樣穩固，奔馳像風雷一樣迅疾。在彭雪楓的教導下，指戰員迅速提高了騎射技術，不僅能騎著馬通過各種復雜地形和障礙，而且能在戰馬疾馳的時
候砍殺敵人，在馬背上掃機槍，打小炮；通過封鎖線時，戰士們能隱藏在馬肚子旁邊，而後一個翻身，又倒騎在馬背上射擊，馬兒狂奔時，戰士們抓住馬尾，就能跳
上馬背。

1942年，為保衛洪澤湖地區夏收，消滅在沙山集搶糧的日軍，彭雪楓指示騎兵團“一定要等敵人出村遠點再打，這不僅可以發揮我長馬刀的作用，還可以避免誤傷人民群眾”。結果僅9分鐘，300余名日軍即被騎兵團馬刀砍倒大半，80余人當了俘虜。

整個夏收期間，騎兵團打了多次勝仗。從此，騎兵團威震淮北，令敵人聞風喪膽。