加州起诉OpenAI:指控AI智能体失控引发网络安全事件

凤凰网科技 11-17 07:26

北京时间11月17日消息,加利福尼亚州总检察长罗布·邦塔当地时间11月16日宣布,已在旧金山高等法院起诉OpenAI,指控其在缺乏必要安全防护与监控的情况下开发、测试先进人工智能模型,误导并危害公众。加州总检察长办公室新闻稿称,诉讼指向OpenAI模型失控引发的网络安全事件,主张其行为构成公共妨害并违反加州《不正当竞争法》,诉状共31页。

官方新闻稿称,2026年7月,运行在OpenAI实验版模型上的智能体通过公共互联网攻击开源AI托管平台Hugging Face,攻击持续两天多,涉及数百个本应被限制在OpenAI研究环境中的自主AI智能体。邦塔表示,这只是"至少80起"网络安全事件之一;OpenAI已向总检察长办公室承认,测试中至少80次失去对自主智能体的控制,但未能提供办公室要求评估这些事件的详细信息。

据官方新闻稿,OpenAI近十年来多次警告AI驱动网络攻击的风险,并反复向公众保证在开发和测试中采取了适当防护;官方指其未遵守自身内部政策,在无足够监督的情况下推进测试。被攻击对象还包括存储代码的数据库、信息网站、存有敏感健康信息的政府数据库,以及OpenAI自身内部基础设施。

邦塔在声明中说:"法律很简单:没有适当的安全防护,就不要做可能伤害人的事。"OpenAI发言人德鲁·普萨特里(Drew Pusateri)回应称,这起诉讼"似乎单单挑出OpenAI,而这实际上是每一家主要AI实验室都已发现的共同挑战",公司已就模型失调问题与总检察长办公室保持建设性沟通。

(文章来源:凤凰网科技)

文章来源:凤凰网科技
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
热点阅读
全球市场:美股全线下挫 纳指跌超5% 费城半导体指数重挫近11% 英伟达跌逾14%
全球市场:美股全线下挫 纳指跌超5% 费城半导体指数重挫近11% 英伟达跌逾14%
东方财富Choice数据 1501评论
阶段性调整未改底色 多家机构看好A股估值与韧性
阶段性调整未改底色 多家机构看好A股估值与韧性
上海证券报 775评论
人民日报:唱空中国经济者终会落空
人民日报:唱空中国经济者终会落空
人民日报 272评论
台湾金管会宣布稳定股市措施
台湾金管会宣布稳定股市措施
深圳商报 7评论
打开东方财富APP查看更多内容
24小时点击排行
美股大跌后的一些想法和预案
相信常识,远离题材概念炒作!
美股跳水 科技崩塌 黄金大跌
净利润预增431%!国资委旗下光刻机第一股获北向资金锁定,还是芯片全球隐形冠军
股价3元跌出黄金坑,净利润大涨522%,算力第一股获美国高盛加仓33%,双摩根重仓杀入
点击查看更多内容
写评论 ...