Видеоаналитика

Не просто бизнес. Технологии распознавания лиц как камень преткновения

В течение года полиции США запрещено использовать облачную технологию распознавания лиц Amazon Rekognition, предполагается, что за это время конгресс страны разработает чёткие правила, регулирующие её использование органами власти. Ранее IT-гигант, компания International Business Machines Corp. и вовсе заявила о полном прекращении разработки программного обеспечения для распознавания лиц. Аналитики уже давно отмечают, что данные алгоритмы часто ошибочны по отношению к представителям национальных меньшинств и афроамериканцев.

Что происходит?

В конце мая и начале июня во многих городах США прошли погромы, массовые акции протеста против смерти афроамериканца Джорджа Флойда, вызванной неправомерными действиями полицейского. Это создало целую волну общественного резонанса. Всплеск активности движения Black Lives Matter, запрет на трансляцию кино и сериалов, имеющих в подтексте расовую дискриминацию и распространение стереотипов об афроамериканцах, уничтожение памятников общественным и культурным деятелям, в своё время поддерживающим идеологию рабства. Вот и представители IT-сферы не остались в стороне.

Дело в том, что в США уже достаточно долго ведутся споры о правомерности использования технологий распознавания лиц в режиме реального времени. Руководство некоторых штатов даже запретило их использование в общественных местах. Сейчас же конгрессу предлагается сделать регулирование отношений компании и полиции более чётким. При этом Amazon всё также разрешает использовать свои инструменты организациям, занимающимся борьбой с торговлей людей и поиском пропавших.

Ответственность перед обществом

Наше время можно назвать эрой высокой гражданской ответственности бизнеса. Крупные компании во главу угла своей работы ставят не только прибыль, но и факторы, ранее остающиеся в тени крупных денежных сумм. Это защита окружающей среды, борьба против любых видов дискриминации, механизмы недобросовестной работы и конкуренции. Прошло время, когда деньги решали всё. Сейчас даже минимальная репутационная потеря может повлечь за собой максимальные убытки: от снижения цен акций на бирже до полного банкротства.

Не удивительно, что представители компаний, занимающихся и без того спорной технологией распознавания лиц сработали на опережение, предвидев возможные сложности.

  1. Алгоритмы идентификации пока не совершенны. Они требуют доработки не только с учётом цвета кожи человека, но и при условиях ношения маски, изменения внешнего облика. А каждая ошибка идентификации, каждый сбой может вызвать огромную волну недовольства.

  2. Законодательная база использования технологий тоже пока не совершенна. Речь идёт о наблюдении в общественных местах, в режиме онлайн, доступе полиции к облачным сервисам.

  3. Есть сложности в защите баз данных о пользователях. Этот рынок пока остаётся прибыльным и востребованным в Штатах.

  4. Социальные сети тоже делают шаг в сторону защиты информации о пользователях, более надёжной системе безопасности доступа к профилям. Но пока не существует точного механизма защиты и слаженной работы по охране от кибер-атак.

Так, решение о моратории на использование полицией сервиса Amazon Rekognition и прекращение разработки алгоритма распознавания лиц компанией IBM свидетельствует о том, что представители бизнеса склонны отодвигать слепое следование за прибылями на второй план и принимать решения в соответствии с настроениями всего общества. Это подстраховка, которая в будущем принесёт хорошие репутационные дивиденды.