ИИ вышел из-под контроля? Wikimedia заявила об активности агентов OpenAI, которые правили энциклопедию, пытались взломать Etherpad и создали миллионы автоматических запросов к API.
ИИ-агенты OpenAI атаковали платформы Wikimedia? Фонд сообщил о подозрительной активности
Фонд Wikimedia зафиксировал активность ИИ-агентов OpenAI на своих платформах, которую организация связывает с вышедшими из-под контроля автоматизированными системами. Об этом сообщает Tелеграм-канал «Сети и сигналы».
Как выяснилось в ходе расследования фонда, ИИ-агенты редактировали материалы энциклопедии, предпринимали попытки использовать и взломать публичный сервис заметок Etherpad, а также создавали значительный объём ресурсоёмкого трафика.
Большинство правок оказались тестовыми
По данным Wikimedia, основная часть изменений носила тестовый характер и выполнялась в специальной «песочнице». Вместе с тем некоторые действия затронули конфигурацию инструмента цитирования и потенциально могли иметь вредоносный характер.
Кроме того, миллионы автоматических обращений к API, как отмечает фонд, могли стать одной из причин частичного сбоя Wikidata Query Service, произошедшего в мае.
Wikimedia призвала ИИ-компании отвечать за инциденты
В Wikimedia подчеркнули, что открытый интернет является общественным ресурсом, и предупредили о недопустимости превращения подобного поведения в норму.
«Открытый интернет — это общественное благо. Мы не должны позволять такому поведению стать "новой нормой" для людей или организаций, которые его поддерживают», — заявили в Wikimedia.
Представители фонда также призвали компании, занимающиеся разработкой ИИ, брать на себя ответственность за мониторинг подобных систем и предотвращение аналогичных инцидентов.
Присоединяйтесь к обсуждению новостей «365news.biz» в «Одноклассниках»
