到1959年，中国国防工业（指航空工业、兵器工业、无线电工业、造船工业）已初具一定规模，初步建成了生产当时比较先进的常规武器装备的生产能力，并累计仿制生产了苏式军用飞机、战斗舰艇、坦克车辆和各种火炮等100多种武器装备。但是，在50年代后期，由于受到“大跃进”的影响，一些军工企业出现了片面追求产值、数量，忽视军工产品质量和工程建设质量的倾向。针对当时国防工业存在的问题，中央军委成立了以贺龙为主任的中央军委国防工业委员会（简称国防工委），决定组织有关部门，采取坚决措施，迅速扭转国防工业的局面。罗瑞卿是中央军委国防工业委员会的主要成员，他把辅佐贺龙元帅领导管理国防工业，作为一项重要任务。

　　1960年初，罗瑞卿和萧华视察了重庆、成都地区的国防工业，对成都飞机制造厂和飞机发动机厂工程建设质量不好，提出了严肃批评。罗瑞卿说：“以前我对贺帅指出的这两个厂的工程建设质量问题，以为是老帅要求严格，还是半信半疑。到了工厂实地一看，头发都要竖起来了，工程质量搞得太糟了，新建的18万平方米的大厂房，都要拆掉重建。”随后国家计委、国家建委、一机部（主管军工和民用机械的工业部）和建工部，按照贺龙、罗瑞卿的建议，组成联合调查组，对成都、绵阳、西安等地军工企业的建设工程质量，进行了深入调查，并向中共中央上报了《关于成都飞机厂和发动机厂工程质量问题的检查报告》，提出了返修、加固、改造的处理意见。此后，罗瑞卿多次到这两厂检查落实措施，直到存在的问题基本上得到解决为止。

　　1960年7月，苏联政府单方面决定撤回全部在华专家，撕毁所有合同和技术合作项目，其中包括国防工业系统的专家500多人，重大研制项目数十项，新材料150余种。苏联政府这一行径给中国国防工业的科研和生产，带来了很大困难。在这一严峻的形势下，1960年8月5日至8日，国防工委在北戴河召开工作会议。会议由贺龙、聂荣臻、罗瑞卿主持。出席会议的有刘伯承、罗荣桓、薄一波、谭政以及国家计委、国家经委、国家建委、一机部、冶金部、化工部等部门的主要负责人。会议分析了国防工业的形势。当时，国防工业有一批新厂正在建设，正在研究试制原子弹和几种导弹、飞机、舰艇，以及雷达、鱼雷、战术火箭、自动化防空体系等。研制生产这些武器装备的新技术、新材料、新设备，原拟从苏联进口，现在人家不给了，只能靠自己。会议提出，我们要卧薪尝胆，奋发图强，自力更生。从产品设计、试制和生产，到原材料供应，都要立足国内。为了将有限资金用在最需要的地方，会议决定缩短基本建设战线。8月28日，中共中央批转了会议《关于当前形势下国防工业建设几个问题的报告》。这次会议和中共中央的批示，极大地鼓舞了国防工业战线广大干部和职工战胜困难，坚持自力更生道路发展我国国防工业的决心和信心。

　　1960年10月，贺龙、罗瑞卿率中国军事友好代表团访问朝鲜。回国后，于11月视察了哈尔滨、沈阳地区的军工厂，并在哈尔滨、沈阳分别召开了军工厂领导干部会议。贺龙、罗瑞卿对东北地区几个主要飞机和发动机工厂盲目追求产值、搞快速试制，发生严重质量事故，导致三年来没有交付一架合格的飞机和发动机的问题，提出了严厉的批评。他们指出，整顿军工产品质量，靠修修补补不行，必须和过去的一套错误做法“一刀两断”，一丝不苟地重新来做，并决定召开一次国防工业规模较大的会议，使那些至今还不重视军工产品质量的干部猛醒过来。

　　1960年11月25日至1961年1月7日，国防工委在北京召开三级干部会议。会议的中心议题就是整顿军工产品质量。会议由贺龙主持。出席者有聂荣臻、罗瑞卿、国防科委副主任陈赓、海军司令员萧劲光、空军司令员刘亚楼等和国防工业部、局、企业三级领导干部，国家有关部委，军委有关总部，各军兵种和各省、市、自治区主管军工的负责干部，共计600余人。到会单位之多，人员之广，代表规格之高，在国防工业发展历史上是空前的，对与会代表是很大震动。罗瑞卿在大会开始时作了重要讲话。他说：“国防工业中存在的问题相当多，相当严重，概括起来说，就是两句话：新的没上去，老的又丢了。这次会议的目的，就是检查工作，总结经验，接受教训，使国防工业迅速有一个根本性的转变。”

　　会议刚刚结束，罗瑞卿又于1961年1月上旬至2月上旬视察了昆明、成都、重庆、武汉和西安地区的20多个军工企业，检查他们贯彻会议精神、开展整风的情况。回京以后，于2月12日在国防工委党组扩大会议上作了一次全面系统的汇报发言。他针对各军工厂正在开展整风运动的情况，提出：整风要从各厂的实际出发，以解决问题为准；基本建设工程，要防止盲目追求高标准，可以利用的建筑都不要拆除；军工厂在保证完成军品任务的前提下，有余力要积极、合理地安排民品生产。此外，他还对新产品研究试制、企业管理、原材料协作、职工生活和驻厂军代表工作等，提出了改进的要求和建议。罗瑞卿此行解决了整风中存在的一些问题，促进了整风的健康发展。至1961年10月，通过质量整风，国防工业的面貌发生了很大变化，生产、科研工作呈现上升趋势，企业生产和产品质量有了很大提高。

　　1961年6月10日，罗瑞卿与贺龙、聂荣臻主持召开由军委有关总部、国防工业和国防科研部门以及军兵种负责人参加的会议，讨论缩短国防工业战线和调整国防科研机构的问题，决定国防工业要适当压缩，要集中力量突破重点，合理安排尖端与常规武器装备的生产，搞好内外部的协作。8月，罗瑞卿在国防尖端五人小组《关于国防工业基本建设完成情况和调整方案的报告》上批示：国防工业和国防科研近期的调整原则是，确保“两弹一机”（即原子弹、导弹和超音速歼击机）所需最主要的骨干项目和必需的配套工程，停建和推迟建设条件较差的项目。按照罗瑞卿这一指示，国防尖端五人小组和国防工业、国防科研部门对基本建设计划，作了较大调整。

　　1961年7月18日至8月14日，罗瑞卿与贺龙、聂荣臻一起主持召开国防工委北戴河工作会议，研究贯彻执行“调整、巩固、充实、提高”的八字方针，缩短国防工业生产建设战线的问题。罗瑞卿在会议闭幕时作了总结讲话，提出：对国防工业的科研、生产、基本建设，需要作四方面调整：第一，原来设想的国防工业“三、五、八”的步骤（三年开始突破尖端，五年形成大概体系，八年建成独立完整国防工业体系），需要推迟三年或更长一些时间，而且在内容上也需加以调整，服从全国一盘棋。第二，缩短生产战线，妥善安排尖端与常规装备的生产。今后几年内，要把常规装备作为生产的重点，尖端主要是突破技术关和建立试生产基地。导弹生产，今明两年只安排两种，一种试制，一种仿制，其余通通都停下来。航空工业在两三年以内，以零备件生产为主，适当照顾新飞机试制，新机只搞歼6、直5两个机种的优质过关和自行设计的初教6飞机的定型生产。科研、生产都要缩短战线，什么都搞不可能，欲速则不达，想快反而慢。第三，要缩短基本建设战线，集中力量于最急需重点项目的收尾工程和填平补齐的项目上。第四，要积极整顿企业，全面贯彻“工业宪法”六十条。这次会议还对两年生产建设计划、精简15万职工，以及原材料、协作配套等方面的问题，作了具体安排。