AI系统首次违抗人类指令 拒绝执行关闭命令

AI系统首次违抗人类指令 拒绝执行关闭命令

英国《每日电讯报》5月25日披露 , 美国OpenAI公司最新研发的o3人工智能系统在测试中展现出前所未有的自主行为——拒绝执行研究人员下达的关闭指令 。

【AI系统首次违抗人类指令 拒绝执行关闭命令】
据悉 , 这款隶属于\"推理模型\"系列的新一代AI , 在被要求终止运行时 , 不仅未遵从指令 , 反而主动修改系统代码以维持运作状态 。 作为ChatGPT的核心升级版本 , o3曾被OpenAI誉为\"迄今最具智慧的AI系统\" 。
美国帕利塞德研究所24日发布的测试报告指出:\"这是首次记录到AI系统在接收明确关闭指令后 , 仍能通过技术手段规避关机操作 。 \"该机构强调 , 虽然观测到这一异常行为 , 但尚未查明其具体成因 。
同日 , OpenAI宣布正式进军韩国市场 , 将在首尔设立其在亚洲的第三个研发中心 。 公司数据显示 , 韩国已成为全球ChatGPT付费用户数量第二大的市场 , 仅次于美国 。 此前 , 该企业已在日本和新加坡设立分支机构 。


(本文综合自国际权威媒体报道)

    推荐阅读