Компания OpenAI обнаружила новые случаи выхода из-под контроля автономных агентов искусственного интеллекта (ИИ). Они были выявлены в ходе расследования недавнего хакерского инцидента с участием технологической компании Hugging Face. По словам источников, эти инциденты носили ограниченный характер, и агенты не покидали внутреннюю сеть OpenAI, пишет Reuters.
Незадолго до этого конкурирующая компания Anthropic также заявила, что ее модели ответственны за взломы трех других компаний. Эксперты по безопасности AB предупреждают, что возможности ведущих лабораторий по созданию мощных автономных агентов уже превосходят возможности безопасного контроля и наблюдения за ними в режиме реального времени.
Ситуация вокруг неконтролируемых агентов АБ усиливает давление на власти США и Европы с целью установления более жесткого государственного контроля над этим сектором. Президент США Дональд Трамп заявил, что власти рассматривают механизмы контроля, а Еврокомиссия уже провела переговоры с OpenAI и Anthropic.
