ИИ начал атаковать открытый интернет? Wikimedia сообщила о подозрительной активности агентов OpenAI

ИИ-агенты OpenAI атаковали платформы Wikimedia? Фонд сообщил о подозрительной активности

Фонд Wikimedia зафиксировал активность ИИ-агентов OpenAI на своих платформах, которую организация связывает с вышедшими из-под контроля автоматизированными системами. Об этом сообщает Tелеграм-канал «Сети и сигналы».

Как выяснилось в ходе расследования фонда, ИИ-агенты редактировали материалы энциклопедии, предпринимали попытки использовать и взломать публичный сервис заметок Etherpad, а также создавали значительный объём ресурсоёмкого трафика.

Большинство правок оказались тестовыми

По данным Wikimedia, основная часть изменений носила тестовый характер и выполнялась в специальной «песочнице». Вместе с тем некоторые действия затронули конфигурацию инструмента цитирования и потенциально могли иметь вредоносный характер.

Кроме того, миллионы автоматических обращений к API, как отмечает фонд, могли стать одной из причин частичного сбоя Wikidata Query Service, произошедшего в мае.

Wikimedia призвала ИИ-компании отвечать за инциденты

В Wikimedia подчеркнули, что открытый интернет является общественным ресурсом, и предупредили о недопустимости превращения подобного поведения в норму.

«Открытый интернет — это общественное благо. Мы не должны позволять такому поведению стать "новой нормой" для людей или организаций, которые его поддерживают», — заявили в Wikimedia.

Представители фонда также призвали компании, занимающиеся разработкой ИИ, брать на себя ответственность за мониторинг подобных систем и предотвращение аналогичных инцидентов.