关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家3464人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

以色列的新常态:创伤、分裂与集体错觉

澎湃新闻 浏览 2878

撒贝宁去加拿大探望丈人,带着老婆孩子逛街

甜柠聊史 浏览 2907

字节跳动在内蒙古新设多家科技公司,注册资本合计28亿

财闻 浏览 1011

女子毕业24年后起诉母校多收4000元学费 要求退一赔十

大风新闻 浏览 19640

【二十届四中全会】文汇报 | 胡晓鹏:何为人工智能+产业的进阶图谱

上观新闻 浏览 1409

国家互联网应急中心提示“龙虾”风险

澎湃新闻 浏览 721

机器人“农民”来了!智能“秒杀”杂草,不用一滴农药

上观新闻 浏览 1452

乐福鞋,这样穿最文艺

Yuki女人故事 浏览 2648

再斩第一!OceanBase蝉联IDC榜单,国产数据库实力领跑

雷科技 浏览 1785

以军空袭加沙多地致至少28人死亡

环球网资讯 浏览 1433

巴尔韦德:皇马有我信任的理疗师,我都听他的

懂球帝 浏览 694

具俊晔搬入金宝山附近的新别墅,可以遥望大S的墓园

素素娱乐 浏览 1579

马塞利诺:虽然很困难,但我们想要击败尤文图斯

懂球帝 浏览 3370

聚焦“全球视野下的人工智能”,欧美同学会留英分会首期人工智能创新沙龙召开

上观新闻 浏览 1621

从猛士速度到登峰行动:猛士进击智能越野新时代

天天汽车 浏览 1863

双向奔赴!澳优乳业再度携手江南大学 为营养健康行业发展注入创新动能

中国商报 浏览 2808

田震国籍争议再发酵:明星养病选国外总造质疑

娱乐欣赏图 浏览 2027

乌方公布视频:无人机命中俄方两架安-26运输机

环球网资讯 浏览 2901

《骄阳似我》热度24000,这才是现偶剧该有的样子

娱乐圈笔娱君 浏览 1997

欧洲区小组赛出局队全部确定:塞尔维亚、匈牙利、以色列在列

懂球帝 浏览 2487

张嘉倪带俩儿子迪士尼跨年,穿貂皮大衣好贵气

老吴教育课堂 浏览 1909
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1