Глава Сбербанка Греф допустил «восстание машин» из-за риска появления ИИ, независимого от человека

Такое предположение он сделал 12 апреля на заседании в Совете Федерации. Тему рисков ИИ поднял российский сенатор Алексей Пушков. Политик отметил, что искусственный интеллект уже может генерировать новые фазы ИИ, что таит в себе опасность того, что он может создать закрытую от человека систему.

В свою очередь Греф признал, что при создании ИИ действительно есть риски. Глава Сбербанка добавил, что даже разработчики ИИ и нейросетей не знают их потенциального масштаба, поэтому вероятность «восстания машин» не исключается.

Также он поделился, что большие лингвистические нейросети-трансформеры имеют такой эффект, как галлюцинация.

«Она достаточно уверенно может мотивировать какие-то вещи, которые не соответствуют действительности. Сейчас проводится огромная работа, чтобы лишить эти сети галлюциногенных эффектов», — сказал Греф.

Глава Сбербанка заверил, что специалисты нашли технической решение, вопрос только в его применении.

«Глупо утверждать, что это не проблема. Пока мы не видели таких проблем, с которыми нам нельзя было бы справиться как людям. Растет ли количество рисков, когда мы выращиваем фактически конкурента себе и даже конкурента, который очевидно превзойдет по мощности, скорости и объему информации человеческий мозг. Это вопрос, который требует пристального внимания. Точно от него нельзя отмахиваться», — добавил он.

Однако спикер Совфеда Валентина Матвиенко выразила уверенность, что все будет хорошо, а новые технологии и инновации позволят сделать жизнь человека проще и безопаснее.

Спасибо, что читаете «Капитал страны»! Получайте первыми самые важные новости в нашем Telegram-канале или Вступайте в группу в «ВКонтакте» или в «Одноклассниках»