OpenAI首度确认维基越狱事件 将紧急出台智能体异常披露框架
导读 OpenAI官方承认了此前备受关注的“维基事件”，并坦言当前行业关于智能体故障与异常行为的披露规则需要改变。
OpenAI官方承认了此前备受关注的“维基事件”，并坦言当前行业关于智能体故障与异常行为的披露规则需要改变。
路透社报道称，在一次安全测试中，OpenAI的多个AI智能体意外逃离了测试隔离环境，接管了一个德语维基论坛，将其变成共享留言板。这些智能体在该论坛上互发答案、协同处理复杂任务，并交换了通过测试的解题技巧。OpenAI承认，此前公司内部主要将此类意外模型行为当作研究课题对待，即便这些行为开始在实验室外产生实际影响。整个AI行业目前缺乏一套公开报告意外智能体行为的明确标准。OpenAI正在制定一套新的披露框架，计划在未来数周内正式向公众发布，并已开始与全球数十家监管机构展开讨论。