«Неполноценный разум». Искусственный интеллект оставил Сбербанк без миллиардов
Сбербанк потерял миллиарды рублей из-за ошибок, которые совершил искусственный интеллект. Об этом во время выступления на «Уроке цифры» в одной из частных московских школ рассказал глава банка Герман Греф. Тем не менее, по его словам, именно на таких ошибках и учатся, а собственно искусственный интеллект помогает решать «неинтересные, повседневные» задачи. Вместе с внедрением алгоритмов и роботизации происходит сокращение рабочих мест.
«На ошибках учатся»
«Искусственный интеллект принимает решение, как правило, в больших системах. И маленькая ошибка, закравшаяся в алгоритм, может приводить к очень большим последствиям. В нашей практике мы теряли большие деньги на этом», – рассказал Герман Греф школьникам. Он отметил, что в Сбербанке учились на подобных ошибках, «вставляли всевозможные фильтры, чтобы калибровать, верифицировать систему искусственного интеллекта».
По словам главы банка, каждую ошибку потом выявляли, и она помогала улучшить работу искусственного интеллекта. «Когда эта ошибка выявлялась, мы учились на ней», – сказал Греф.
Недополученная прибыль
Глава банка убежден, что искусственный интеллект помогает решать «неинтересные, повседневные» задачи – те, что связаны с большим объемом вычислений. «Такие достаточно операционные задачи, которые человек может исполнять механически, эти все задачи уйдут на исполнение искусственного интеллекта», – объяснил Греф.
В пресс-службе Сбербанка пояснили, какие потери имел в виду Греф. Речь идет о недополученной прибыли из-за ошибок искусственного интеллекта. Это не прямые убытки. «Но банк постоянно работает над улучшением интеграции процессов искусственного интеллекта в его системы. Например, применение алгоритмов искусственного интеллекта в «Кредитной фабрике» позволяет постоянно снижать уровень потерь от кредитного риска», – отметили в пресс-службе.
Неизбежность
Потери от ошибок, в том числе и финансовые, которые выдает искусственный интеллект, в любом случае будут. Как минимум, на первом этапе использования технологии. Такой точки зрения придерживаются эксперты, которых опросило агентство «Прайм». По мнению старшего аналитика Dr.Web Вячеслава Медведева, сегодняшний искусственный интеллект – это не полноценный разум.
«Это фактически результат обучения некой программы на наборе примеров. И выход обрабатываемого случая за пределы этих наборов примеров с определенной степенью вероятности может привести к ошибке», – говорит Медведев.
Аналогичного мнения придерживается и член совета директоров AT Consulting Антон Немкин. По его словам, ошибки и погрешности в технологии на первом этапе – вполне допустимы. «При внедрении новых технологий компания всегда просчитывает возможные риски, в том числе и финансовые издержки. И это не означает, что процессы цифровизации нужно останавливать», – считает Немкин.
Безработные
Тема искусственного интеллекта не новая для Сбербанка. В прошлом году в организации сократили 5,5 тыс. человек (2,2% персонала). Оставшимся работникам была поднята заработная плата на 10%. В ноябре прошлого года Герман Греф объяснял эти сокращения «внедрением искусственного интеллекта», и больше всего эта мера ударила по тем сотрудникам, кто занимался простыми операциями. По факту вышло, что под сокращение попали примерно 70% менеджеров среднего звена. Тем не менее, как стало известно позднее, большинство сотрудников прошли переобучение и сегодня заняты в решении других задач.
В одном из интервью глава Сбербанка также рассказывал, что сотрудники оцениваются с помощью специальной платформы, которая основана на технологиях assessment и performance management. «Видим информацию о каждом работнике и на основании этих данных ежеквартально выставляем оценки по системе эффективности «5+», где учитывается текущая деятельность, соответствие принципам корпоративной культуры», – уточнял Греф.
Написать комментарий