1927年离队回乡，同年8月转为中国共产党，11月参加黄（安）麻（城）起义。
1928年起在工农红军第十一军31师任排长、连长、营长，参加创建鄂豫边苏区的斗争。
1932年任红四方面军第四军12师34团团长。在鄂豫皖苏区反“围剿“作战中，7次参加敢死队，2次担任敢死队队长，屡挫强敌，四次负伤，同年11月在红四方面军主力向川陕边区转移途中，指挥第34团在漫川关与堵截的敌人勇猛拼杀，硬是为全军杀出一条血路来。
1933年参加川陕苏区反“三路围攻”之后，任红九军副军长兼25师师长，参加仪南、营渠、宣达战役。在川陕苏区反“六路围攻”中，指挥万源保卫战，率第25师迎战川军4个旅的轮番进攻，坚守阵地三个多月，以近战、夜战击败了数量上占绝对优势的敌人。
1935年任红四军军长，随红四方面军主力长征。在川北与红一方面军会师之后，在毛泽东的指挥下率部参加了包座战役，打开了向甘南进军的门户。后随左路军南下，先后参加了绥崇丹懋战役和天卢名雅邛大战役。
1936年4月，任红四方面军骑兵师师长，带领全师作为先遣队，担任侦察、开道、筹备粮草的任务。到陕北后，于同年底入抗日红军大学学习，毕业后任抗大校务部副部长。
抗战爆发后，向毛泽东请缨上前线，于1938年被任命为八路军第129师386旅副旅长。1939年2月参加指挥香城固伏击战，并在战斗中亲率新编第一团出击，切断了日军的退路，后来与王新亭率386旅一部在邯郸、广平等地开展平原游击战争和反“扫荡”斗争。
1940年起任八路军山东纵队第三旅旅长、纵队参谋长，曾率部在莱阳、海阳地区击退反共顽固派军队，重建抗日民主根据地，扭转了胶东抗日的被动局面。
1942年任胶东军区司令员，率部多次挫败日伪军的“扫荡”。
1944～1945年指挥部队攻克和收复了文登、容城、威海卫（今为威海市）、牟平、龙口、招远、黄县、莱阳、蓬莱等县城，并解放了烟台市和平度县。
解放战争中，1947年任华东野战军第九纵队司令员，参加莱芜、孟良崮战役之后，任华野东线兵团（又称山东兵团）司令员，与谭震林率部进行胶东保卫战和周张、潍县、衮州等战役。
1948年9月被毛泽东亲自指定为济南战役攻城部队总指挥，只用了八天时间就攻克了济南。
1949年起任山东军区副司令员、司令员。
1953年参加了抗美援朝战争，任中国人民志愿军第三兵团司令员，参加了夏季反击作战。
1954年回国后任华东军区第二副司令员、人民解放军副总参谋长。
1955年参与组织一江山岛战役，后任南京军区司令员、国防部副部长兼中共中央华东局书记处书记、中共江苏省委第一书记、中共中央军委委员。
1964年曾在南京军区大力开展群众性练兵活动。
1973年任广州军区司令员。
今年（1979年）年初，许老指挥了广西方向中越边境上的自卫反击战。
许老是中国共产党久经考验的忠诚的共产主义战士、无产阶级革命家、中国人民解放军卓越的军事指挥员。
杨宇和龚珊两人怀着对许老十分敬仰的心情，被肖老带到了许老的病房。
