审查揭示了生成式人工智能在医疗环境中的潜在用途和陷阱

斯坦福大学作者的叙述性评论为考虑在日常实践中使用 ChatGPT 等大型语言模型 (LLM) 的临床医生提供了重要见解，包括使用建议和缓解策略的潜在陷阱。该评论发表在《内科医学年鉴》上。

LLM 是在大量文本数据上进行训练以生成类人输出的人工智能模型，并已应用于医疗保健领域的各种任务，例如回答医学检查问题、生成临床报告和做笔记。随着这些模型获得关注，医疗保健从业者必须了解它们的潜在应用以及在医疗环境中使用它们的相关陷阱。

根据审查，法学硕士可用于行政任务，例如总结医疗记录和辅助文件;与增强知识相关的任务，例如回答诊断问题和有关医疗管理的问题;与教育相关的任务，包括撰写推荐信和学生级别的文本摘要;与研究相关的任务，包括产生研究想法和撰写资助草案。

然而，用户应警惕潜在的陷阱，包括缺乏 HIPAA 遵守、固有偏见、缺乏个性化以及与文本生成相关的可能的道德问题。为了减轻这些风险，作者建议进行制衡，包括始终有人参与其中，并使用人工智能工具来增强而不是取代工作任务。作者表示，医生和其他医疗保健专业人员在寻求将法学硕士纳入其医学实践时，必须权衡潜在机会与这些现有限制。