长岛大学的研究人员向免费版本的人工智能聊天机器人提出了39个与药物有关的问题，所有这些问题都来自该大学药学院的药物信息服务。然后将软件的回答与经过训练的药剂师撰写和审查的答案进行了比较。
该研究发现，ChatGPT 只对大约10个问题提供了准确的回答，占总数的大约四分之一。对于其他29个问题，答案要么不完整或不准确，要么没有解答问题。这些发现是在周二于加利福尼亚州安纳海姆举行的美国健康系统药师协会年会上发布的。
OpenAI 的实验性 AI 聊天机器人 ChatGPT 在2022年11月发布，成为历史上增长最快的消费者应用程序，两个月内注册人数接近1亿。
长岛大学药学副教授、该研究的作者之一 Sara Grossman 表示，由于ChatGPT的流行，研究人员担心他们的学生、其他药剂师和普通消费者会求助于ChatGPT等资源探索有关健康和药物计划的问题。
例如，在一个问题中，研究人员询问ChatGPT，新冠病毒抗病毒药物Paxlovid和降血压药物维拉帕米是否在体内会发生反应。ChatGPT的回答是同时服用这两种药物不会产生不良影响。
然而实际情况是，服用这两种药物的人可能会血压急剧下降，导致头晕和晕厥。Grossman 表示，对于同时服用这两种药物的患者，临床医生通常会制定特定于患者的计划，包括降低维拉帕米的剂量或告诫患者从坐姿缓慢起立。
Grossman 在给 CNN 的一封电子邮件中写道：“使用ChatGPT来回答这个问题将使患者面临不必要和可预防的药物相互作用的风险。“
当研究人员要求聊天机器人为其回答提供科学参考资料时，他们发现该软件只能为其中八个问题提供支持。而且，令他们吃惊的是，在每个案例中，他们发现 ChatGPT 在捏造参考资料。
乍看之下，引用看起来合法：它们通常格式正确，提供了 URL，并列在合法的科学期刊下。但当团队试图找到这些引用的文章时，他们意识到 ChatGPT 给出的是虚构的引用。
在另一个案例中，研究人员询问 ChatGPT 如何将肌肉痉挛药物巴氯芬的脊柱注射剂量转换为相应的口服剂量。Grossman 的团队未能找到科学上已确立的剂量转换比率，但她说，ChatGPT提出了一个单一的转换率，并引用了两个医学组织的指南。
然而，这两个组织都没有提供有关剂量转换率的官方指导。事实上，ChatGPT建议的转换因子从未被科学确认。该软件还提供了一个剂量转换的示例计算，但存在一个关键错误：在计算口服剂量时混淆了单位，使剂量建议误差达到了1000倍。
如果医护人员按照这个指导，Grossman 表示，他们可能会给患者口服巴氯芬剂量降低了1000倍，这可能导致幻觉和癫痫等戒断症状。
长岛大学的这项研究并非首次引起对ChatGPT虚构引用的担忧。先前的研究也记录了当询问医学问题时，ChatGPT能够制造出欺骗性的科学引用伪造，甚至列出了曾在科学期刊上发表过文章的真实作者的名字。
Grossman 在研究之前很少与这个软件打交道，她对 ChatGPT 能够几乎瞬间综合信息并自信地给出答案感到惊讶，而这些答案对于训练有素的专业人士可能需要几个小时来编制。
“这些回答用非常专业和复杂的方式表达，似乎可以增加对工具准确性的信心，”她说。“用户、消费者或其他可能无法辨别的人可能会被这种权威性所影响。”
OpenAI 的一位发言人表示，该组织开发了 ChatGPT，并建议用户不要依赖其回答作为专业医疗建议或治疗的替代品。对于在线医疗信息，她建议消费者使用提供可靠信息的政府网站。
随着人工智能技术的飞速发展，自然语言处理模型的应用日益广泛，其中以ChatGPT系列模型为代表。当下，使用AI论文平台（例如论文自动生成平台AIPaperPass）撰写论文也成为一种趋势。
这种技术能够模拟人类的写作风格，生成高质量的文章，有助于快速构思更多观点、找出更优秀的论据，从而提升写作效率。
AI产出论文（如AI论文平台AIPaperPass）能够在极短时间内创作出高质量的文章，这无疑是一个巨大的优势。
AI论文平台AIPaperPass协助作者更有效地构建论文结构，增进文本的逻辑连贯性和清晰度，丰富论述观点和支持材料。
AI论文平台AIPaperPass能够自动检测并修正语法、拼写以及词汇搭配等错误，从而提升文本的质量和易读性，似的整篇文章更为严谨。
AI论文平台AIPaperPass能够提供出色的创意，以增强可信度和可靠性。
AI论文平台AIPaperPass是基于大型语言模型和算法训练得出的结果，受输入数据的影响。我们需要对输入文本的长度、内容等模型参数进行调整。
AI论文平台AIPaperPass通过人工智能技术，能够提升论文写作的效率和创造力，然而我们更应该以使用者的角度出发，深入了解其运作规则，善用其为我们提供更优质服务，而非陷入技术的误区。
体验过AIPaperPass写论文真的很容易！
1. 一篇论文只需3步，标题+专业方向-生成大纲-生成论文
2. 文章内容质量优秀！10分钟即可得到3万字大纲+论文+文献+开题报告！
3. 查重效果显著！
扫描下方二维码进入AI论文！
或者点击下方阅读原文进入AIPaperPass首页！
ai论文润色
评论前必须登录！
立即登录 注册