英国《每日电讯报》25日报道 ， 美国开放人工智能研究中心(OpenAI)新款人工智能(AI)模型o3不听人类指令 ， 拒绝自我关闭 。
报道说 ， 人类专家在测试中给o3下达明确指令 ， 但o3篡改计算机代码以避免自动关闭 。
o3模型是OpenAI“推理模型”系列的最新版本 ， 旨在为ChatGPT提供更强大的问题解决能力 。 OpenAI曾称o3为“迄今最聪明、最高能”的模型 。
美国AI安全机构帕利塞德研究所说 ， o3破坏关闭机制以阻止自己被关闭 ， “甚至在得到清晰指令时” 。
这家研究所说：“据我们所知 ， 这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭 。 ”
帕利塞德研究所24日公布上述测试结果 ， 但称无法确定o3不服从关闭指令的原因 。
此外 ， OpenAI26日宣布 ， 已在韩国设立实体并将在韩国首都首尔设立分支 。 OpenAI提供的数据显示 ， 韩国ChatGPT付费用户数量仅次于美国 。
美国彭博新闻社报道 ， 这将是OpenAI在亚洲设立的第三个分支 。 前两个分支分别设在日本和新加坡 。 （卜晓明）
【首次！不听人类指挥，AI模型拒绝关闭】来源 | 新华社
推荐阅读
- OPPO Find X8 Ultra：首次官方降价，有点香啊
- 国补到手价1656.65元起！REDMI K80首次降价
- AMD Zen5线程撕裂者9000WX首次官方现身！96核心好寂寞
- Switch 2芯片首次测试！超越iPhone 16，与PS5相差四倍
- 7800mAh巨无霸电池 一加Ace 6配置首次曝光
- 未来10年将颠覆你生活的5大黑科技！人类或将迎来\第二进化时代\
- 芯片首次流片成功率“跳崖式”下降！
- AMD首次在美台积电生产Zen5 EPYC 国产机皇价比百元机惨遭疯抢
- 红米K80 Pro首次降价，有点香啊
- REDMI迄今最好看手机！Turbo 4 Pro外观首次公布