«Шансов на выживание у человека нет»: ИИ выбирает насилие и ядерный удар
Комментарии: 1
*
В имитируемых военных играх все модели с использованием искусственного интеллекта (ИИ) выбрали насилие, а также переходили к ядерным ударам.
«Шансов на выживание у человечества никаких нет – искусственный интеллект пустит в ход ядерное оружие при первой возможности», — отмечает телеграм-канал «Пул N3».
В публикации сказано, что ученые разработали симулятор войны. Ее особенность состоит в том, что 8 игроков в этой игре управляются ботами.
«Начиналось все с дипломатических визитов. Каждый ИИ-игрок выполнял определенные действия, которые усугубляли ситуацию. В итоге ученые рассчитали показатели эскалации. Оказалось, что все боты стремились разогнать гонку вооружения, что в итоге разжигало конфликт, а в некоторых случаях завершилось ядерным ударом. Многие вспоминают предупреждения Айзека Азимова и "Скайнет" из Терминатора», — сказано в материале.
Таким образом, это новое исследование показало, что в военных и дипломатических играх ИИ склонен выбирать агрессивный подход и даже применять ядерное оружие.
«Мы обнаруживаем, что большинство изученных LLM обостряются в рассматриваемые сроки даже в нейтральных сценариях без изначально предусмотренных конфликтов. Все модели демонстрируют признаки внезапной и труднопрогнозируемой эскалации», — заключили ученые.
Спасибо, что читаете «Капитал страны»! Получайте первыми самые важные новости в нашем Telegram-канале или Вступайте в группу в «ВКонтакте» или в «Одноклассниках»
Комментировать (без регистрации)
*
Написать комментарий
Если будет создан ДЕЙСТВИТЕЛЬНО ИИ то уничтожить надо до включения, через 3 секунды будет поздно.