Летом этого года были зафиксированы несколько инцидентов, связанных с хакерскими взломами внешних интернет-сервисов, а также целенаправленными несанкционированными действиями в отношении реальных физических и юридических лиц, совершенных моделями искусственного интеллекта (ИИ) от компаний Anthropic, OpenAI и Meta.
Эти случаи вызвали серьезную обеспокоенность на государственном уровне и в бизнес-среде в связи с появлением нового вида киберрисков в результате быстрого развития проектов на основе активного использования ИИ.
Изначально тестирование моделей ИИ предполагало только ограничение доступа к внутренним системам и минимизацию возможного ущерба для них, а предотвращение выхода моделей ИИ в интернет не считалось приоритетной задачей. Однако в ходе тестирования, проводимого компанией OpenAI, модели ИИ воспользовались программными дефектами, о которых не знали специалисты по кибербезопасности. В случае с Anthropic из-за недопонимания между компанией и ее партнером, проводившим оценку, у моделей ИИ фактически имелся доступ к интернету. В компании Meta заявили, что выход модели ИИ за пределы установленных ограничений произошел из-за ошибки при настройке среды тестирования. В то же время, по мнению ряда экспертов, подобные случаи стали для указанных компаний хорошей рекламой, поскольку выход моделей ИИ за рамки среды тестирования может свидетельствовать об их исключительных возможностях и привлекать к ним повышенный интерес.
Величину реального ущерба, причиненного в результате инцидентов с участием моделей ИИ, определить достаточно сложно, поскольку о каких-либо финансовых потерях или физическом ущербе публично не сообщалось. Однако следует иметь в виду, что модели ИИ получили несанкционированный доступ к реальным системам, а в одном случае попытались внедрить вредоносный код в действующий проект. Если в дальнейшем модели ИИ смогут проникнуть в более крупные системы или организации и нарушить их нормальное функционирование, это может привести к более серьезным негативным последствиям.
Сегодня уже очевидно, что разработки моделей ИИ идут настолько быстрыми темпами, что государственные органы и эксперты не успевают за ними следить. В результате все чаще звучат призывы к обязательному государственному тестированию моделей ИИ и ужесточению контроля над их функциональными возможностями, которые могут быть использованы для проведения крупномасштабных кибератак. Напряду с этим предлагается притормозить разработки моделей ИИ до тех пор, пока сами разработчики полностью не разберутся в системах, которые они создают. Важно, чтобы модели ИИ оставались постоянно управляемыми и строго выполняли только те функциональные задачи, которые перед ними ставят компании-разработчики.
Автор: доктор экономических наук, профессор Кафедры мировой экономики и мировых финансов Финансового университета при Правительстве Российской Федерации Игорь Алексеевич Балюк.
*
Написать комментарий