组织、训练、装备、作战等方面作出了一系列明确的规定，使我军炮兵很快由原来分散状态进入了统一的、有组织、有计划的发展阶段。1946年10月，朱瑞同志任东北民主联军炮兵司令员；1948年1月，任东北军区兼东北野战军炮兵司令员。

    1948年7月，朱瑞同志参加军区关于发动辽沈战役的准备工作。军区领导决定要他留在哈尔滨主持后方工作，但他坚决要求上前线。9月12日，我军包围了义县。义县是锦州北面的屏障，一旦被我攻克，锦州就陷入孤立无援。但义县城墙高大，敌人以城墙为依托，沿城墙四周构筑碉堡、地堡和外围小据点，还设了许多障碍，地面上遍布地雷。城内驻有国民党暂编二十师及地方武装1_2万多人。指挥设防这样坚固的攻坚战，这在我军还是第一次。为了打好这一仗，炮兵在进入阵地前，朱瑞同志带着负责主攻任务的几个团长到前沿察看阵地。由于距离敌人的据点近，他们走到哪里，敌人的炮弹就尾随到哪里，大家都为司令员的安全捏着一把汗，而他却一路谈笑风生，边察看，边指点部署。

    9月30日总攻前的一天，他又到各团作战前视察，仔细检查了各个火炮的射向和隐蔽情况，鼓励指战员为解放全东北立功。

    10月1日上午，我军发起总攻。朱瑞同志一声令下，各种口径的火炮发出了雷鸣般的怒吼，千万发炮弹带着人民复仇的怒火飞向城墙。顷刻之间，城墙就被撕开了一道40多米宽的裂口。朱瑞同志见此兴奋无比，果断地下令炮火延伸射击，敌军经营多年的工事，随着炮弹爆炸的硝烟飞上了天。我三纵勇士犹如猛虎一般，争先恐后扑向炮兵开拓的突破口，同敌人进行巷战，不到6个小时，就将守敌全部歼灭，活捉了敌师长王世高，胜利拉开了辽沈战役的序幕。

    这次攻城中，我军第一次使用了从敌人手里缴获的美国榴弹炮。对于这种火炮的攻坚性能朱瑞同志还不了解，高度的事业心和强烈的责任感驱使着他，战斗还没有完全结束，他就从指挥所出来，身先士卒向突破口跑去，就在这时不幸触雷牺牲。

    中共中央获悉朱瑞牺牲的消息后，立刻给东北旱区发了信电，电文指出：“朱瑞同志在中国人民解放军的炮兵建设中功勋卓著，今日牺牲，实为中国人民解放事业之巨大损失。中央特致深切悼念，望转告全军，继续为革命战争的彻底胜利而奋斗，以纪念朱瑞同志永垂不朽。”