罗荣桓是我军政治工作的巨匠，但他在军事工作方面也有很多建树，领导取得了许多军事斗争的胜利，展现了“政工元帅”出色的军事才能。
从战略角度经营山东抗日根据地
山东背靠中原，南接江淮、北迫平津，与东北辽宁隔海相望，是中国革命的重要枢纽，具有战略地位。抗日战争全面爆发后，日军迅速南进，国民党军仓皇溃退，山东局势一片混乱。为发展好这一重要根据地，党中央、毛泽东1938年底指令罗荣桓等去山东，领导打开当地的局面。
当时各派势力犬牙交错，形势异常复杂，要靠为数不多的部队从战略上经营好山东根据地，首要的就是团结一切可能团结的力量，共同打击日本侵略军和国民党顽固派。为此，罗荣桓根据毛泽东关于“发展进步势力、争取中间势力、反对顽固势力”的策略原则，提出了山东根据地“插、争、挤、打、统、反”的六字方针。插，就是插入日伪军和国民党军之间的空隙地带，由边缘地区插入腹地；争，就是广泛发动群众，争取一切抗日力量；挤，就是挤掉消极抗战、积极反共的顽固势力；打，就是坚决打击日军和汉奸武装；统，就是同积极抗日的国民党军疏通团结，保持统一战线；反，就是反“扫荡”、反摩擦。在这一方针的指导下，罗荣桓领导部队积极争取地方开明抗日武装万春圃、孔昭同，团结驻在山东的东北军于学忠部，挤走顽固派县长李长胜，打掉反共的白彦地主武装，团结广大抗日力量开创了山东根据地的新局面。
坚决打击日伪军，是从战略上经营好山东根据地的前提。对此，罗荣桓十分重视。他立足敌我形势，大力组织开展分散性、地方性、群众性的游击战，先后发表《坚持我们的边沿游击区》《准备打破敌人紧缩包围封锁我们的根据地》等文章，强调在敌占区和根据地之间的边沿游击区大力开展游击战，反对过早由游击战向运动战转变的错误观点。在罗荣桓的领导下，山东军民采用速打、速决、速走和打不过就走、走不了就散、散不了就躲、敌人过去了在后面打等方法，普遍开展“麻雀战”“车轮战”“地雷战”等，沉重打击了日本侵略者。
建立坚强的人民军队，是从战略上经营好山东根据地的基础，罗荣桓为此也花费了大量心血。他高度重视整训部队，要求严格教育，讲求实效，加强战士的射击、刺杀、投弹、近迫作业以及夜战近战训练。罗荣桓认为，军队的基础在连队，必须加强连队工作，“从连队中来，到连队中去”，这是他在红军时期任党代表时就获得的宝贵经验。在精兵简政中，罗荣桓注重保留骨干、充实基层，机关编制大幅压减，但部队得到充实，“精华”俱在。日本投降后，以这些整编的骨干为基础，山东一下子就拉起了8个师，并向东北输送6万主力部队，成为保持解放战争时期山东和东北斗争主动的重要力量基础。
在罗荣桓的领导下，到抗战胜利时，山东我军发展到30万，民兵达60万，控制了80余县，真正成为我军掌握下的重要战略基地。毛泽东后来曾这样评价说：“山东只换上一个罗荣桓，山东全局的棋就下活了。山东的棋下活了，全国的棋也就活了。”“罗荣桓在决定中国革命成败的地区，做好了决定中国革命成败的事业。”
立足敌后斗争形势独创“翻边战术”
1941年和1942年，日军对山东抗日根据地频繁“扫荡”，根据地不断被蚕食。罗荣桓认为，蚕食和反蚕食、“扫荡”和反“扫荡”的长期反复是敌后游击战的特点，而山东根据地地域狭小，缺乏回旋余地，如果仍然按照十年内战时期打运动战的方法，将很难突破敌人的包围。为此他提出了“翻边战术”，即把主力部队，不是设置在根据地的腹地，而是部署在靠近一路敌人的根据地的边沿地区。当敌人“扫荡”时，不是“敌进我退”“诱敌深入”，而是“敌进我进”，即趁敌人的包围圈尚未紧缩，还有较大空隙时，由根据地边沿游击区，“翻”到敌人后方去，打乱敌人部署，粉碎敌人之“扫荡”。
留田突围就是应用“翻边战术”的成功案例。1941年11月，日军调集5万多人对沂蒙山区发动多路、多梯队的“铁壁合围”，将罗荣桓等2000余人合围在留田一带。在突围方向上，大家意见不一，有人主张向东进入滨海根据地，有人主张向西进入蒙山，有人主张向北同山东纵队会合，而罗荣桓认真分析敌情后，认为向东要过沂河和沭河，可能钻进敌人的口袋。北面，敌人正疯狂南压。西面，临蒙公路已被敌人严密封锁，即使过了蒙山，也会成为日军和国民党顽军合击的目标，从而主张向南从临沂方向突围。山东党政军其他领导人大吃一惊，仔细琢磨又觉得合情合理。临沂虽是敌人大本营，但是敌人估计抗日队伍不敢向其老巢前进，而敌人又集中到北部沂蒙山区，后方必定空虚，该主张很快得到大家一致赞同。入夜，队伍向南在敌人的缝隙中迂回穿插，果然发现敌人后方守备空虚，部队在高里折而向西，跳出敌人的包围圈。德国进步记者希伯也在突围的队伍中，他后来把这次突围写成文章登在115师的《战士报》上，题目叫做“无声的战斗”，引起广泛关注。之后，“翻边战术”被作为军事原则得到广泛应用，使斗争一步步推进到敌人的心脏地区，为我军在山东敌后赢得战场主动权，逐步转入反攻起了重要作用，得到毛泽东高度评价：“罗荣桓的翻边战术，不是战术，是战略。他掌握山东局面以后，敌人越蚕食，根据地越扩大。”
在游击战争中灵活运用政治攻势
1941年底日军发动太平洋战争后，兵力不足、后方空虚，为更多地榨取华北的人力物力，日军推行第四次“治安强化运动”，采取“三分军事、七分政治”的阴谋，企图在军事力量的支撑下，从政治上瓦解抗日力量。罗荣桓认为，分散性的游击战争，不仅是军事上的，更是政治上的，要贯彻“政治攻势为主，游击战为辅”的原则，在军事斗争中很好地将政治攻势结合起来。根据罗荣桓的这一指示，山东各地普遍采用了点“红黑点”、记“善恶录”的办法争取伪军。伪军人员中谁做了一件对人民有利的事情，就给他记个红点，谁做了坏事，就记一个黑点，并把这些事登记起来，红点可以赎罪，黑点要受到惩罚。在对伪军宣传时，不断公布记录结果，对不接受警告的，坚决打击、镇压。各区还积极利用伪军家属争取和瓦解伪军，进行“唤子索夫”运动，开展“身在曹营心在汉”宣传。仅在1943年，就瓦解伪军7000余人，建立了1000多个内部秘密关系，收到很好的实效。
随着日军反战、厌战情绪的增长，罗荣桓还领导了对日军的争取和瓦解工作，组建了“日本人民解放同盟”和“朝鲜独立同盟”。前者由被俘后经过教育提高了觉悟的前日本军人组成，后者由朝鲜反日战友组成，他们有些人还到过延安，经过学习又回到山东工作。他们经常向敌人喊话，或利用敌人的电话线路与敌人通话；有时到边沿游击区“现身宣传”，讲我们的政策，揭露敌人的谣言；有时深入到敌占区写标语、发传单、画漫画。每逢日本人的一些传统节日（如樱花节），他们还给日军的据点送宣传品、慰问袋，以促进日军思家厌战。有一些日本战友在反“扫荡”中还拿起武器与我军一道奋战，甚至献出宝贵的生命，被称为“日本八路”，有力反击了日军“三分军事、七分政治”的图谋。
