Wikimedia Foundation, некоммерческий фонд, управляющий Wikipedia и другими вики-проектами, 5 октября опубликовал результаты расследования активности ИИ-агентов. Фонд считает, что программы под управлением OpenAI отправили миллионы автоматических запросов к публичным API, обошли миллионы страниц Wikidata и Wikimedia Commons и сотни тысяч раз обратились к Wikidata Query Service.
Wikidata Query Service — сервис сложных запросов к структурированной базе Wikidata. По оценке Wikimedia, обнаруженный трафик мог способствовать его частичной недоступности в мае. Фонд не уточнил продолжительность сбоя и долю нагрузки, связанную с предполагаемыми агентами OpenAI.
Агенты также редактировали вики-проекты без раскрытия и одобрения сообщества. Почти все изменения остались в тестовых «песочницах» и не попали на страницы, видимые обычным читателям. Несколько правок затронули настройки инструмента для работы с источниками: Wikimedia предполагает, что его пытались использовать как посредника для получения данных с внешних сайтов.
Похожие действия фонд обнаружил в публичном сервисе заметок Etherpad. Предположительно связанные с OpenAI агенты безуспешно пытались получать через него данные со сторонних сайтов. Некоторые программы оставляли записи о своих задачах, однако признаков координации между агентами через инфраструктуру Wikimedia не найдено.
Расследование также не выявило компрометации систем или данных фонда. Wikimedia призвала разработчиков делать ИИ-агентов распознаваемыми и позволять владельцам сайтов определять правила их доступа.
OpenAI сообщила The Verge, что вместе с Wikimedia анализирует обнаруженную активность. По словам представителя компании Дрю Пусатери, проверка OpenAI пока не подтвердила, что её боты способствовали майскому сбою.
Что это значит
- Страницы для читателей не подверглись массовой правке. Почти вся обнаруженная редакторская активность осталась в тестовых разделах.
- Признаков взлома или утечки нет. Wikimedia не обнаружила компрометации своих систем и данных.
- Массовые запросы могут влиять на доступность сервисов. Фонд допускает, что сотни тысяч обращений к Wikidata Query Service способствовали частичному сбою в мае.
- Причастность ботов OpenAI к сбою не подтверждена. Компания продолжает проверку переданных Wikimedia данных.