ImpressionGPT: An Iterative Optimizing Framework for Radiology Report Summarization with ChatGPT
Chong Ma, Zihao Wu, Jiaqi Wang, Shaochen Xu, Yaonai Wei, Zhengliang Liu, Lei Guo, Xiaoyan Cai, Shu Zhang, Tuo Zhang, Dajiang Zhu, Dinggang Shen, Tianming Liu, Xiang Li
放射科报告的 “印象 “部分是放射科医生和其他医生之间交流的重要基础,通常是由放射科医生根据 “结果 “部分来写。然而,对放射科医生来说,书写大量的印象是很费力和容易出错的。尽管最近的研究在自动生成印象方面取得了可喜的成果,使用大规模的医疗文本数据对预训练的语言模型进行预训练和微调,但这种模型往往需要大量的医疗文本数据,而且泛化性能差。虽然像ChatGPT这样的大型语言模型(LLMs)已经显示出强大的泛化能力和性能,但它们在特定领域(如放射学)的性能仍然没有得到充分的研究和潜在的限制。
为了解决这一局限性,我们提出了ImpressionGPT,它通过使用特定领域的个性化数据构建动态语境,充分利用了LLM的语境学习能力。这种动态提示方法使模型能够从现有数据的语义相似的例子中学习语境知识。此外,我们设计了一种迭代优化算法,对生成的印象结果进行自动评估,并组成相应的指令提示,以进一步优化模型。所提出的ImpressionGPT模型在MIMIC-CXR和OpenI数据集上都达到了最先进的性能,而不需要额外的训练数据或微调LLMs。这项工作提出了一种本地化LLM的范式,可以应用于广泛的类似应用场景,弥合了通用LLM和各种领域的特定语言处理需求之间的差距。