IT-гиганты vs Искусственный интеллект

Yandex стал лидером рейтинга репутации в России
25 Октябрь, 2018
Социальная ответственность и управление — главные приоритеты молодых потребителей
1 Ноябрь, 2018

Разработка искусственного интеллекта является одним из приоритетов в работе ведущих технологичных компаний. Однако первые шаги в этом направлении привели к возникновению неожиданных репутационных рисков

«Искусственный интеллект является спасителем человечества, а не угрозой», — не раз заявлял генеральный директор Google Сундар Пичаи. Работа над созданием и совершенствованием ИИ была объявлена одним из главных целей компании. Для решения этой задачи созданы специализированные исследовательские центры в Китае и Франции.

Выступая летом 2018 года на партнёрской конференции Inspire в Лас-Вегасе, руководитель Microsoft Сатья Наделла также излучал оптимизм в связи с перспективами, раскрывающимися вместе с созданием искусственного интеллекта. Microsoft уже несколько лет в своей деятельности делает ставку на ИИ. Среди результатов, проект AI first и стратегическое сотрудничество в этом направлении с крупнейшим ритейлером — Walmart.

Не стал отставать от конкурентов и Amazon, разрабатывая принципиально новые технологичные решения в разных областях деятельности компании. По данным агентства Reuters, IT-гигант потратил несколько лет на создание автоматизированной системы рекрутинга. Именно это ноу-хау стало причиной возникновения репутационных рисков.

В ходе многолетней работы над созданием ИИ, способного отбирать лучших кандидатов на вакантные позиции, разработчики передавали на «рассмотрение» и «анализ» машины десятки тысяч резюме, приходивших на адрес Amazon. Спустя определенное время в компании стали замечать, что система в своем выборе начала отдавать предпочтение кандидатам-мужчинам перед специалистами-женщинами. Находя в текстах резюме слова и фразы, связанные с представительницами прекрасного пола, робот-рекрутер «занижал» им оценку.

Причинами такого поведения были названы преобладающее количество в IT-индустрии специалистов-мужчин и характерные особенности в описании их профессионального опыта. После длительных попыток «переучить» робота, разработчики отметили, что он не следует предлагаемым аргументам и находит новые способы для дискриминации кандидатов по половому принципу. Не желая подвергаться нежелательным рискам, Amazon закрыл проект и не стал его использовать в процессе подбора персонала.

Проблему возникновения фактора предвзятой оценки у машин в процессе обучения выявил и Facebook. В начале этого года он начал тестировать систему по названием Fairness Flow, призванную предотвращать возможность дискриминации по расовым, половым и возрастным принципам в процессе машинного обучения.

Чем активнее компании продвигаются в процессе создания искусственного интеллекта, тем более очевидными становятся не только возникающие возможности, но и потенциальные риски, включая репутационные. Последние события в отрасли демонстрируют, что в процессе «гонки технологий» IT-гигантам следует заботиться не столько конкурентных преимуществах своих интеллектуальных систем, сколько о их контроле и алгоритмах машинного обучения.

Тэги: > >
FacebookTwitterLinkedInTelegram