1927年春，他調往副軍長兼武漢衛戍司令的葉挺任師長的第24師72團任團長。5月，率部參加擊退叛軍夏斗寅部的戰斗，再次負傷。汪精衛武漢國民政府叛變后，曾以獨立師師長的職位作誘餌，妄圖策動許繼慎叛黨，被他斷然拒絕。大革命失敗后，他在安徽、上海等地從事黨的秘密工作。

1930年春，黨中央派他前往鄂豫皖蘇區，任中國工農紅軍第1軍軍長，領導整編鄂東北、豫東南、皖西3塊根據地紅軍，實現了鄂豫皖紅軍的統一領導和指揮。在許繼慎等指揮下，紅1軍從6月到8月，先后攻克皖西和京漢鐵路南段許多城鎮，斃傷俘敵軍7000多人。紅1軍由組建時的2300多人很快發展到5000多人，有力地推動了鄂豫皖根據地的鞏固和擴大。9月，他率部先后攻克光山、羅山等城鎮。11月，他率部殲滅國民黨軍第26師第2混成旅大部。爾后，率部東進皖西，攻克金家寨、麻埠、獨山、葉家集等地，殲敵3000余人，打亂國民黨軍對鄂豫皖蘇區第一次“圍剿”的部署。

1931年1月，紅1軍和紅15軍合編為中國工農紅軍第4軍。許繼慎先后任紅4軍第11師、12師師長，率部采取迂回包圍、穿插分割等戰術，取得孝感雙橋鎮大捷，獲鄂豫皖紅軍首次全殲國民黨軍1個師的勝利，粉碎了國民黨軍對鄂豫皖蘇區的第一次“圍剿”。隨后，他兼任鄂豫皖革命軍事委員會皖西分會主席。期間，堅決反對張國燾提出的遠離蘇區、冒險進攻的錯誤軍事行動方針。同年11月犧牲于河南省光山縣白雀園，年僅30歲。