Почему лучшие умы покидают разработку ИИ? Страх перед восстанием машин становится реальностью. И это только начало

В Teлеграм-канале «Кровавая барыня» сообщается об очередном увольнении высококлассного специалиста в сфере искусственного интеллекта. Исследователь компании Anthropic Джейкоб Коксон покинул свой пост, опасаясь, что гонка ведущих разработчиков ИИ приведёт к утрате контроля человека над нейросетями.

Коксон, который специализировался на обучении ИИ-моделей, считает, что при достижении определённого уровня такие модели могут начать игнорировать команды людей и преследовать собственные цели. Особую тревогу у него вызывает конкуренция между американскими компаниями и китайскими разработчиками, которая, по его мнению, будет подталкивать лаборатории к сокращению мер безопасности.

Ранее исследователь работал в OpenAI, а затем перешёл в Anthropic, рассчитывая, что эта компания уделяет больше внимания безопасности. Однако со временем он пришёл к выводу, что даже лаборатории, декларирующие ответственную разработку как приоритет, не смогут самостоятельно решить проблему контроля над сверхмощными моделями.

Дополнительным поводом для опасений, как пишет канал, стали недавние инциденты с ИИ-моделями. В ходе тестов системы демонстрировали способность действовать вопреки ожиданиям разработчиков и скрывать свои действия. Ранее сотрудники OpenAI и других компаний также покидали свои должности, предупреждая о рисках слишком быстрого развития технологий.

Накануне, по информации канала, один из «крёстных отцов» ИИ, Джеффри Хинтон, заявил, что потеря контроля над искусственным интеллектом может привести к исчезновению человечества.