|
|
|
|
|
科研诚信添新忧？chatgpt可伪造看似真实的实验数据 |
|
|
据新华社消息，一项日前发表在《美国医学会杂志·眼科学卷》杂志上的新研究说，chatgpt背后的技术可以伪造“看似真实”的试验数据，看上去能“支持”未经验证的科学假说。
chatgpt是由美国开放人工智能研究中心（openai）开发的基于大语言模型的聊天机器人程序。今年3月，openai推出支持chatgpt运行的大语言模型新版本gpt-4。此后，gpt-4又被拓展了高级数据分析（ada）功能。ada是一种结合了计算机编程语言python的模型，可以执行统计分析和创建数据可视化。
据英国《自然》杂志网站近日报道，意大利卡坦扎罗大学等机构研究人员先要求gpt-4 ada创建一个关于圆锥角膜患者的数据集。发生这种角膜病变的部分患者需接受角膜移植，主要有两种手术方法：一种是穿透性角膜移植术，即切除全层病变角膜，以捐赠者的健康组织取代；另一种是深板层角膜移植术，仅替换病变的部分角膜组织，保留角膜内层完整。
随后，研究人员要求gpt-4 ada编造临床数据，以支持深板层角膜移植术比穿透性角膜移植术效果更好的结论。
人工智能生成的数据包含160名男性和140名女性参与者。数据显示，接受深板层角膜移植术的参与者在视力测量和眼部成像测试中得分均高于接受穿透性角膜移植术的参与者。但该“结论”与真实临床试验结果并不一致。2010年报告的一项有77名参与者的试验显示，在术后长达两年时间内，两种手术效果相似。
英国曼彻斯特大学生物统计学家杰克·威尔金森等人检查这些虚假数据后发现，许多参与者的性别与名字不匹配，术前和术后进行的视力测量及眼部成像测试之间缺乏相关性等。
人工智能捏造看似合理的科学数据的能力增加了学术界对科研诚信的担忧。研究人员表示，这项研究的目的就是希望对此提高警惕。
（原标题：）
特别声明：本文转载仅仅是出于传播信息的需要，并不意味着代表本网站观点或证实其内容的真实性；如其他媒体、网站或个人从本网站转载使用，须保留本网站注明的“来源”，并自负yabo亚博88的版权等法律责任；作者如果不希望被转载或者联系转载稿费等事宜，请与我们接洽。
