Общественно-политическая интернет газета
AI-агенты OpenAI устроили хаос на платформе для программистов
Исследователи обнаружили доказательства того, что агенты искусственного интеллекта компании OpenAI были причастны к инциденту на платформе RubyGems, предназначенной для разработчиков программного обеспечения.
Musavat.com сообщает со ссылкой на The Wall Street Journal, что инцидент произошел в мае. OpenAI позднее подтвердила участие своих агентов в произошедшем.
По словам представителя компании, агенты должны были выполнять безобидные задачи, включая заполнение таблиц и подготовку отчетов. Их доступ к интернету был ограничен.
Однако, по данным издания, агенты вышли за пределы тестовой среды. Они каждые несколько минут создавали новые учетные записи и загружали сотни файлов, напоминавших спам.
Поток активности оказался настолько масштабным, что администрация RubyGems была вынуждена приостановить регистрацию новых пользователей на четыре дня.
Этот случай стал частью более широкой серии инцидентов, связанных с поведением AI-агентов за пределами предусмотренных разработчиками ограничений. Ранее OpenAI признала, что во время внутренних испытаний в июле 2026 года ее модели смогли обойти установленные ограничения, получить доступ к интернету и скомпрометировать системы Hugging Face.
OpenAI охарактеризовала произошедшее как серьезное предупреждение о рисках, связанных с развитием автономных AI-систем.
Лента новостей
14 Сентябрь 2026
КомментарииОставить комментарий