４月初，解放军总医院发出聂荣臻病情危重的通报。中央和军委的领导人，许多老同志，十分关心聂荣臻的健康，纷纷打电话慰问或前来探望。医生为了聂荣臻的健康，一律谢绝探视。有位聂荣臻的老部下，恳切要求隔着玻璃窗看一眼老首长。医生因为聂荣臻的头脑一直清醒，怕他看到不让老同志进去，感情上会激动，可能导致意外，所以没有同意。
４月１２日，聂荣臻自感病情沉重，对两位在他身边工作多年的老秘书说：“我的心力衰竭，恐怕很难渡过这一关。”秘书劝他别激动，要安静，医生会有办法的。聂荣臻说：“医生当然在想尽办法挽救，但很难挽救过来。因此趁头脑还清醒，写几句话，就叫做临别遗言吧。”
秘书赶紧取来录音机，让共和国最后一位元帅的遗言，忠实地留在世上。
聂荣臻声音嘶哑，断断续续地说：“我已经９３岁了，寿命也算是很长的。我入党已７０年，从未脱离过党的岗位，始终为党和人民的事业奋斗终生。我虽然对党没做过大的贡献，但党交给我的任务都是坚决完成的。我坚信党的改革开放政策，坚信走有中国特色的社会主义道路是十分正确的。我非常赞同邓小平同志视察南方时的重要谈话。我很想多看一看几十年为之奋斗的社会主义事业兴旺发达的喜人形势，也很想多听一听祖国科技事业振奋人心的好消息。现在行将归去，临别依依，好像有许多话还言犹未尽。总之，我衷心希望全党同志在以江泽民同志为核心的党中央领导下，同心同德，群策群力，为建设繁荣昌盛的社会主义祖国而奋斗；同时也希望全军同志在中央军委的领导下，进一步巩固国防，保卫和平；我希望海峡两岸，尽快统一。我希望全国科技工作者牢记科技兴国的重任，努力攀登世界高科技的崇山峻岭，为国争光，为人类进步多做贡献！”