1966年，潘镜芙以设计领导小组主要成员的身份，开始主持设计我国第一代导弹驱逐舰。在当时极其薄弱的科研家底和落后的工业基础上设计建造这样千吨级以上大型军舰谈何容易，从船体设计开始，重重困难便接踵而至。驱逐舰的导弹发射装置大、设备多，舰体必须拉长。可是舰体拉长了以后，航速会不会下来呢？潘镜芙经过反复试验，选用当时最成熟的动力技术，给舰安装了强有力的“心脏”。“经过蒸汽动力装置的陆上实验，这艘舰的航速达到了35节以上，国外评论说，在当时的驱逐舰里也算是不错的了。”潘镜芙说。有了强有力的“心脏”后，战斗力如何形成，是横在潘镜芙面前的又一道“坎”。在导弹驱逐舰研制以前，我国军用舰艇上的各种武器，不论机枪、舰炮、鱼雷、水雷还是深水炸弹，都是单个装舰、互不联系，靠指挥员的口令来人工合成作战系统，快速反应、综合作战能力都很差。这让潘镜芙伤透了脑筋。关键时刻，钱学森在确定驱逐舰导弹系统方案会议上的一次发言给了潘镜芙很大的启发：“军舰是一个大系统，导弹只是舰上的一个分系统，把导弹系统装到舰上，要把它安排好，使它发挥最大的作用。”

潘镜芙决心按照“系统工程”的理念，将全舰所有武器有机结合，形成系统。为了充分摸清国产设备研制情况，潘镜芙带着同事们跑遍了分散在全国各地的设计单位，“吃着窝窝头，每人每月三两油”，终于率先解决了舰载武器按系统装备舰艇的技术问题，为指挥自动化、快速化向更高层次发展打下了基础。1971年12月31日，中国第一艘国产导弹驱逐舰首制舰“济南号”交船完工，人民海军第一次拥有了具有远洋作战能力的水面舰艇。它的问世，实现了首次安装舰上导弹，武器从单个装备发展为武器系统，这标志着我国具备了自主研制导弹驱逐舰的能力，实现了海军舰船发展史上具有里程碑意义的重大跨越，潘镜芙被外国同行称为“中国第一个全武器系统专家”。