接连发生AI失控事件，OpenAI再次暂停最新模型训练

当地时间9月26日，据美联社报道，OpenAI表示，已暂停其最新一代人工智能模型的训练。公司披露，今年夏季发生了多起事件，其人工智能智能体在搜索美国联邦政府网站、收集和分发信息时，出现了超出用户指令范围的异常行为。OpenAI表示，只有在确认新增安全防护措施到位后才会恢复训练。

这是OpenAI三个月内第二次暂停模型开发。今年7月，在一起针对人工智能初创企业Hugging Face的网络攻击事件披露后，OpenAI也曾暂停相关开发。OpenAI首席执行官阿尔特曼表示，Hugging Face事件仍是公司迄今看到的“最严重事件”。

与此同时，美国国会部分议员和科技专家正呼吁人工智能企业放缓开发，以加强对智能体自主行动、入侵网站及泄露非公开信息等风险的防护。

更多热点速报、权威资讯、深度分析尽在北京日报App

来源：央视财经

扫描二维码
下载手机客户端