关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者3058人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

邓炳强称火势蔓延过快不寻常 事发楼栋居民发声

经济观察报 浏览 32644

走失女童被找到后父亲首度发声:感谢1.2万个恩人

极目新闻 浏览 10114

百亿私募一站式出海!招商证券打造跨境服务生态

券商中国 浏览 3382

360万克六选错队?三分23中5太铁 33岁亚一控失球权已完全迷失

颜小白的篮球梦 浏览 4316

全球首个太空AI诞生,H100在轨炼出!马斯克爆赞

新智元 浏览 3479

于文文贵州演唱会晕倒,曝被救护车拉走

扒虾侃娱 浏览 2957

美国政府宣布美英就药品定价达成原则性协议

华尔街见闻官方 浏览 3557

继续引援脚步,记者:北京首钢目前正在接触前NBA球员麦基

懂球帝 浏览 3258

A股进入“两会”时间,16大热门投资赛道出炉

览富财经网 浏览 2394

酷睿Ultra X9处理器388H体验:电竞级核显,续航超持久

IT之家 浏览 2971

徐正源:无法以全主力出战,又存在伤病,输球很遗憾

懂球帝 浏览 4254

AI泡沫争议再起!多位顶尖大咖PK,这次有何不同?

21世纪经济报道 浏览 3823

追寻阳光的Isabel Marant女郎,再次独自启程

时尚COSMO 浏览 4410

五角大楼启动10亿美元新计划 采购数十万架单向攻击无人机

环球网资讯 浏览 3568

用AI「合成」演员,爱奇艺的新故事翻车了

豹变 浏览 1300

希腊航运巨头28岁女继承人死于虫咬 误诊细节披露

新民周刊 浏览 16215

跨省调查结束!被延期留置150天后,德州首富平安返岗

壹只灰鸽子 浏览 3876

男子取170万元现金 在银行门口遭抢劫致重伤左眼失明

扬子晚报 浏览 17883

华为研究团队突破代码修复瓶颈,8B模型击败32B巨型对手!

科技行者 浏览 3243

春晚主持人阵容曝光,5位都是老面孔

领略非凡 浏览 2943

万斯一句话让印度裔美国人炸锅 遭铺天盖地批评后回应

鲁中晨报 浏览 9250
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1