关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家4911人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

新一轮货币宽松到来

泽平宏观展望 浏览 3146

英国安德鲁王子放弃王室头衔 被指与未成年人发生关系

CCTV国际时讯 浏览 10113

男子夜钓遭枪击 家属:4人当场逃跑 伤者走回家后倒地

封面新闻 浏览 9726

唐嫣客串新剧遭群嘲!戴假发被吐槽像女装大佬,疑和马思纯抢番位

萌神木木 浏览 3352

当年霍震霆给儿子霍启刚挑儿媳妇,眼光多毒啊

小光侃娱乐 浏览 3686

用AI「合成」演员,爱奇艺的新故事翻车了

豹变 浏览 1300

学者:此次"正义使命"演习最大的亮点就是"开局即打"

环球网资讯 浏览 24761

79岁一代文艺女神走了:终生未婚,一辈子穿西装

世界音乐公号 浏览 4197

建设周期长且成本高昂,欧盟多国重拾核能挑战巨大

环球网资讯 浏览 2099

“这条裙子”今年春天又火了!配这4双鞋减龄又好看

LinkFashion 浏览 2270

足球报:海牛资金有困难,但追加奖金第一时间就发到球队手中

懂球帝 浏览 3980

以政府:以色列被扣押人员10月11日起获释

界面新闻 浏览 4285

普京:美版和平方案与普特会讨论一致

新华社 浏览 3770

死磕影像十一年:vivo探索另一种可能

远川研究所 浏览 4127

Melody对“难搞的客人”做澄清:不记得发生过,请不要刻意抹黑

素素娱乐 浏览 2896

乌代表团赴美谈判 俄乌互相袭击

新华社 浏览 3513

这场研讨会关注视障教育将如何被AI改变?

上观新闻 浏览 3317

特朗普试图重建长期关税壁垒 民主党将阻止

华尔街见闻官方 浏览 2547

美2027财年国防预算恐创纪录 五角大楼查女兵"有效性"

红星新闻 浏览 13862

维斯塔潘:赛车的驾驶感受很糟糕,不指望在周六雨战有明显提升

懂球帝 浏览 3964

珍珠配美人,最老派也最高级的时髦

时尚COSMO 浏览 2633
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1