Добро пожаловать на LWN.net
Вам доступен следующий контент, доступный только по подписке.
абонентом LWN. Тысячи абонентов зависят от LWN
лучшие новости из сообществ Linux и свободного программного обеспечения. Если вам это нравится
статью, пожалуйста, рассмотрите возможность подписки на LWN. Спасибо
за посещение LWN.net!
Джо Брокмайер
10 июня 2026 г.
Агентские системы искусственного интеллекта можно использовать для самых разных целей.
автономно от имени пользователя-человека: открывать или управлять ошибками, генерировать
код, отправлять запросы на включение и (по-видимому) даже жаловаться на
отказ. В мае разработчик Fedora обнаружил, что предположительно
Агент-мошенник приставал к проекту разными способами:
переназначение ошибок, фабрикация бесполезных ответов на ошибки и даже
убедить разработчиков объединить сомнительный код с Anaconda
установщик. Он также отправил ряд запросов на включение (PR),
некоторые согласились на несколько проектов по добыче. Учетная запись Fedora
связанные с агентом, были отозваны его групповые привилегии и
бардак убран, но мотив действий агента по-прежнему
загадка.
«Как-то беспорядочно»
27 мая Адам Уильямсон скопировал
Разработчик Fedora и тестирующие списки рассылки в сообщении Натану
Джованнини о том, что выглядело как неконтролируемая агентская система искусственного интеллекта
под контролем Джованнини. «Замечательно, что вы пытаетесь исправить
вещи, но результаты кажутся немного нестабильными».
Уильямсон сказал, что он все еще просматривает историю
действия Джованнини в Bugzilla, но уже заметил ряд
проблемы. Например, Уильямсон обнаружил десятки случаев
Агент Джованнини присваивает записи Bugzilla его учетной записи после отправки якобы связанных
тянуть
запросы к вышестоящим проектам или закрытие
ошибка после слияния PR
в восходящий проект. В некоторых случаях агент просто закрывал ошибки
с комментариями
которые либо повторяли исходную ошибку, либо были, как сказал Уильямсон о
этот комментарий,
«на первый взгляд правдоподобно, но проблематично в других отношениях».
Кроме того, Уильямсон сообщил, что Джованнини (или его агент) имел
отправил исправления, которые были неправильными, а затем «ответил на
возражения с обоснованиями, созданными LLM, которые в конечном итоге
вынудил сопровождающего объединить исправление». Агент, как
Пользователь GitHub «nathan9513-aps» имел
отправил запрос
запрос на Анаконду
установщик, используемый Fedora и другими дистрибутивами Linux. PR
в описании утверждалось, что это исправление для Анаконды
ошибка, которая могла привести к сбою установки, но на самом деле патч
сохранил параметр ядра, передаваемый в командной строке, который, казалось,
не иметь ничего
иметь отношение к фактической ошибке.
С тех пор учетная запись агента на GitHub была отключена. Теперь оно появляется в
разговоры на GitHub как «призрака», который является
заполнитель по умолчанию для удаленных учетных записей пользователей. Таким образом, это
трудно, если не невозможно, собрать воедино полный след всех
действия агента на GitHub.
Уильямсон довольно дипломатично заявил, что действия агента не были
«окажет положительное влияние на Fedora или предшествующие проекты»,
и предложил Джованнини настроить агента так, чтобы он был «существенно
менее автономен». Он специально просил, чтобы агент не назначал
ошибки Джованнини, измените их состояние или «отправьте сообщение с уверенностью».
утверждения или рекомендации по конкретным действиям» без человеческого
обзор.
Взломали?
Позже, 27 мая, Уильямсон сказал:
что Джованнини ответил ему в частном порядке, сообщив, что его
учетные данные были скомпрометированы и что не он стоял за этим
система ИИ. «Очевидно, поэтому мы должны относиться к любым действиям, которые они
воспринял с подозрением", - сказал Уильямсон. Он планировал рассмотреть
ошибки, затронутые в отчете Джованнини, «еще больше
агрессивно», и просил помощи у других, чтобы оценить их как
ну.
Ответ
позже в тот же день якобы от Джованнини сказал, что смог
восстановить доступ к своим учетным записям GitHub и Fedora», и в настоящее время я
обеспечение безопасности и проверка всех задействованных систем и учетных данных». Ответ
сказал, что его аккаунт на GitHub называется «nathangiovannini99». ...