Удачи, если вы женщина или человек с более темной кожей.

Джимми Гомес. калифорнийский демократ, выпускник Гарварда и один из немногих латиноамериканских законодателей, работающих в Палате представителей США.

Но для системы распознавания лиц Amazon он выглядит как потенциальный преступник.

Гомес был одним из 28 членов Конгресса США, ложно подхваченных фотографиями арестованных людей, в рамках теста, проведенного Американским союзом гражданских свобод в прошлом году в рамках программы Amazon Rekognition.

Почти 40 процентов ложных совпадений с помощью инструмента Amazon, который используется полицией, были связаны с людьми цвета.

Это часть специального отчета CNET, в котором рассматриваются преимущества и недостатки распознавания лиц.

Полученные данные усиливают растущую обеспокоенность групп гражданских свобод, законодателей и даже некоторых технологических фирм тем, что распознавание лиц может нанести вред меньшинствам, поскольку технология становится все более распространенной. Одна из форм этой технологии уже используется на iPhone и телефонах на базе Android, и полиция, ритейлеры, аэропорты и школы тоже постепенно приходят к ней. Но исследования показали, что системам распознавания лиц труднее идентифицировать женщин и людей с темной кожей, что может привести к катастрофическим ложным срабатываниям.

«Это пример того, как применение технологий в правоприменительной сфере может привести к пагубным последствиям для сообществ, которые уже перегружены». сказал Джейкоб Сноу, адвокат по технологиям и гражданским свободам в ACLU Северной Калифорнии.

Распознавание лиц имеет свои преимущества. Полиция штата Мэриленд использовала эту технологию для установления личности подозреваемого в массовой стрельбе в «Капитал вестник». В Индии это помогло полиции выявить почти 3000 пропавших детей в течение четырех дней. Facebook использует технологию для идентификации людей на фотографиях для слабовидящих. Это стало удобным способом разблокировать ваш смартфон.

Но технология не совершенна, и были некоторые неловкие публичные ошибки. Google Фото однажды назвал двух черных людей гориллами. В Китае женщина заявила, что ее коллега смог разблокировать свой iPhone X с помощью Face ID. Ставки на то, что их неправильно опознают, усиливаются, когда правоохранительные органы используют распознавание лиц для идентификации подозреваемых в совершении преступления или разоблачения людей в знак протеста.

«Когда вы продаете [эту технологию] правоохранительным органам, чтобы определить, разыскивается ли этот человек за преступление, это совсем другая игра с мячом». сказал Гомес. «Теперь вы создаете ситуацию, когда ошибочная личность может привести к смертельному взаимодействию между правоохранительными органами и этим человеком».

Законодатель не был шокирован выводами ACLU, отметив, что технические работники часто думают о том, как заставить что-то работать, и недостаточно о том, как инструменты, которые они создают, повлияют на меньшинства.

Видео: Распознавание лиц: познакомьтесь с технологией, которая узнает вас

Технологические компании отреагировали на критику, улучшив данные, используемые для обучения их систем распознавания лиц, но, подобно активистам за гражданские права, они также призывают к усилению государственного регулирования, чтобы помочь защитить технологию от злоупотреблений. По оценкам исследователей из юридической школы Джорджтауна, каждый второй взрослый американец находится в сети распознавания лиц, используемой правоохранительными органами.

Читайте так же
Samsung Galaxy S10 — новый тест скорости пок... Galaxy S10 от SAMSUNG мог бы стать одним из лучших телефонов 2019 года, но новый тест скорости показывает, что на подходе что-то еще лучше. Samsung Galaxy S10 скоро получит версию 5G (Изображение: SAMSUNG) Samsung выпустила свой последний флагман Galaxy S10 в мире в начале этого месяца. Этот совершенно новый и полностью обновленный смартфон явля...
Обзор политической предвзятости Facebook пытается ... Бывший сенатор-республиканец возглавлял усилия, чтобы определить, имеет ли социальная сеть антиконсервативную предвзятость. У Фейсбука есть политический уклон против консерваторов? Facebook во вторник опубликовал промежуточный отчет о возможной политической предвзятости в компании. Один вывод: доверие - это «неуловимая цель». Отчетная часть продо...
Пользователи Samsung Galaxy S10 сообщают о легком ... Samsung Galaxy S10, S10 и S10e были запущены недавно Особенности Пользователь сообщил, что может разблокировать Samsung Galaxy S10 своего брата Многие пользователи сообщают, что селфи и видео делают свое дело Пользователи должны будут отключить «более быстрое распознавание», чтобы решить проблему Пользователи Samsung Galaxy S10 и Galaxy...

Amazon выступила против исследования ACLU, утверждая, что организация использовала неправильные настройки при запуске теста.

«Машинное обучение является очень ценным инструментом, помогающим правоохранительным органам, и, несмотря на то, что оно применяется правильно, мы не должны выбрасывать духовку, потому что температура может быть установлена ​​неверно и сжигать пиццу», Мэтт Вуд, генеральный менеджер по искусственному интеллекту в Amazon Web Services, говорится в сообщении в блоге.

Проблема распознавания

Существуют различные причины, по которым службам распознавания лиц может быть сложнее идентифицировать меньшинства и женщин по сравнению с белыми мужчинами.

Почему проблему расовой предвзятости распознавания лиц так трудно решить

Исследования показывают, что технологии распознавания лиц труднее идентифицировать людей с более темной кожей.

Публичные фотографии, которые технические работники используют для обучения компьютеров распознаванию лиц, могут содержать больше белых людей, чем представителей меньшинств, сказала Клэр Гарви, старший сотрудник Центра конфиденциальности и технологий Юридической школы Джорджтауна. Например, если компания использует фотографии из базы данных знаменитостей, она будет ориентирована на белых людей, потому что меньшинства недостаточно представлены в Голливуде.

По словам Гарви, инженеры технологических компаний, в состав которых в основном входят белые люди, могут также невольно разрабатывать системы распознавания лиц, чтобы лучше распознавать определенные расы. Исследования показали, что людям труднее распознать лица другой расы, и что «предубеждение между расами» может перекинуться на искусственный интеллект. Затем возникают проблемы, связанные с отсутствием цветового контраста на более темной коже или с женщинами, которые используют косметику, чтобы скрыть морщины или по-другому носить волосы, добавила она.

По данным исследования, проведенного исследователями из MIT Media Lab, системам распознавания лиц, разработанным Microsoft, IBM и Face , было сложнее определить пол темнокожих женщин, таких как афроамериканцы, по сравнению с белыми мужчинами. Пол 35 процентов темнокожих женщин был неправильно определен по сравнению с 1 процентом светлокожих мужчин, таких как кавказцы.

Другое исследование, проведенное MIT, опубликованное в январе, показало, что технологии распознавания лиц Amazon пришлось труднее, чем инструментам Microsoft или IBM, определяющим пол темнокожих женщин.

Роль технологических компаний

Amazon оспорила результаты исследования MIT, и пресс-секретарь указала на сообщение в блоге, которое назвало исследование «вводящим в заблуждение». Исследователи использовали «анализ лица», который определяет характеристики лица, такие как пол или улыбка, а не распознавание лица, которое сопоставляет лицо человека с похожими лицами на фотографиях или видео.

«Анализ лица и распознавание лица совершенно разные с точки зрения базовой технологии и данных, используемых для их обучения». сказал Вуд в своем блоге об исследовании MIT. «Пытаться использовать анализ лица для оценки точности распознавания лиц нецелесообразно, так как он не предназначен для этой цели».

Это не значит, что технические гиганты не думают о расовых предрассудках.

В прошлом году Microsoft, предлагающая инструмент распознавания лиц через Azure Cognitive Services, заявила, что сократила количество ошибок при идентификации женщин и темнокожих мужчин до 20 раз.

IBM создала набор данных с миллионным лицом, чтобы помочь уменьшить предвзятость в технологии распознавания лиц.

Представитель Facebook, который использует распознавание лиц, чтобы помечать пользователей на фотографиях, сказал, что компания гарантирует, что данные, которые она использует, «сбалансированы и отражают разнообразие населения Facebook». Google указал на опубликованные им принципы искусственного интеллекта, которые включают запрет на «создание или усиление несправедливой предвзятости».

В целях продвижения исследования справедливости и точности распознавания лиц в январе IBM выпустила набор данных для исследователей под названием Diversity in Faces, который рассматривает не только тон кожи, возраст и пол. Данные включают в себя 1 миллион изображений человеческих лиц, помеченных такими метками, как симметрия лица, длина носа и высота лба.

«У нас есть все эти субъективные и неясные представления о том, что означает разнообразие». сказал Джон Смит, ведущий ученый Diversity in Faces в IBM. «Таким образом, намерение IBM создать этот набор данных состояло в том, чтобы покопаться в науке о том, как мы можем реально измерить разнообразие лиц».

Читайте так же
Samsung Galaxy S10 — новый тест скорости пок... Galaxy S10 от SAMSUNG мог бы стать одним из лучших телефонов 2019 года, но новый тест скорости показывает, что на подходе что-то еще лучше. Samsung Galaxy S10 скоро получит версию 5G (Изображение: SAMSUNG) Samsung выпустила свой последний флагман Galaxy S10 в мире в начале этого месяца. Этот совершенно новый и полностью обновленный смартфон явля...
HMD Global сообщает, что проблема с утечкой данных... HMD Global утверждает, что ошибка была вызвана ошибкой программного обеспечения, но личные данные не были переданы. HMD Global, являющийся домом для телефонов Nokia, в последнее время был окружен спором по поводу большой утечки данных после того, как всплыли новости о том, что устройства Nokia 7 Plus отправляют конфиденциальные данные в Китай. Что...
Пользователи Samsung Galaxy S10 сообщают о легком ... Samsung Galaxy S10, S10 и S10e были запущены недавно Особенности Пользователь сообщил, что может разблокировать Samsung Galaxy S10 своего брата Многие пользователи сообщают, что селфи и видео делают свое дело Пользователи должны будут отключить «более быстрое распознавание», чтобы решить проблему Пользователи Samsung Galaxy S10 и Galaxy...

Компания, которая собирала изображения с фото-сайта Flickr, столкнулась с критикой в ​​этом месяце со стороны некоторых фотографов, экспертов и активистов за то, что они не сообщили людям, что их изображения используются для улучшения технологии распознавания лиц. В ответ IBM заявила, что серьезно относится к конфиденциальности, и пользователи могут отказаться от набора данных.

Amazon заявила, что использует данные обучения, отражающие разнообразие, и информирует клиентов о передовых методах. В феврале он выпустил руководящие принципы, в которых говорится, что законодатели должны принимать во внимание, как они рассматривают регулирование.

«Должен быть открытый, честный и серьезный диалог между всеми вовлеченными сторонами, чтобы гарантировать, что технология применяется надлежащим образом и постоянно совершенствуется». заявил в своем блоге вице-президент Amazon по глобальной публичной политике Майкл Панке.

Нужны четкие правила

Даже несмотря на то, что технологические компании стремятся повысить точность своей технологии распознавания лиц, опасения, что эти инструменты могут быть использованы для дискриминации иммигрантов или меньшинств, не исчезают. Отчасти это потому, что люди все еще борются с предвзятостью в личной жизни.

Правоохранительные органы и правительство могут по-прежнему использовать эту технологию для выявления политических протестующих или отслеживания иммигрантов, подвергая риску их свободу, утверждают группы по защите гражданских прав и эксперты.

Член палаты представителей США Джимми Гомес, калифорнийский демократ, был одним из 28 членов Конгресса США, ошибочно сопоставленных системой распознавания лиц Amazon с фотографиями арестованных, как показало исследование ACLU.

Al Seib / Getty Images

«Совершенно точная система также становится невероятно мощным инструментом наблюдения». сказал Гарви.

Группы за гражданские права и технические фирмы призывают правительство вмешаться.

«Единственный эффективный способ управления использованием технологий правительством. это активное управление самим правительством». написал президент Microsoft Брэд Смит в своем блоге в июле. «И если есть опасения по поводу того, как технология будет более широко распространена в обществе, единственный способ отрегулировать это широкое использование. сделать это для правительства».

ACLU призвал законодателей временно запретить правоохранительным органам использовать технологию распознавания лиц. Гражданские правозащитные организации также отправили письмо в Amazon с просьбой прекратить предоставление Rekognition правительству.

Некоторые законодатели и технологические фирмы, такие как Amazon, обратились к Национальному институту стандартов и технологий, который оценивает технологии распознавания лиц, чтобы одобрить отраслевые стандарты и лучшие этические методы для тестирования распознавания лиц по признаку расы.

Для таких законодателей, как Гомес, работа только началась.

«Я не против Амазонки». сказал он. «Но когда дело доходит до новой технологии, которая может оказать глубокое влияние на жизнь людей. их частную жизнь, их гражданские свободы. это вызывает много вопросов».

Читайте так же
Почему Не Работает Интернет Йота На Планшете... Почему не работает Yota? Трудности с Вебом появляются всегда и у многих юзеров. Сейчас некие потребители сетуют, что у их не работает Yota. Почему так происходит? Что делать в сложившейся ситуации? Вдобавок вообщем, что представляет из себя Такой новый интернет-провайдер со странноватым заглавием Yota? О всем этом в это время на данный момент и реч...
Почему просмотр телевизора ночью заставляет вас сл... Проблемы с засыпанием ночью? Ваш телевизор может быть виноват. Экран вашего телевизора (и других устройств, таких как планшеты и телефоны) излучает синий свет, и когда вы смотрите его в темноте, это может вызвать проблемы. Некоторые думают, например, что этот синий свет может повредить ваши глаза. Исследование Университета Толедо показало, что си...
NVIDIA признала проблемы с GeForce RTX 2080 Ti Fou... NVIDIA признала задачи с GeForce RTX 2080 Ti Founders Edition и готова посодействовать с их решением На своём официальном форуме компания NVIDIA опубликовала сообщение, где официально признала наличие заморочек с поставленной задачей флагманской видеоплатой GeForce RTX 2080 Ti Founders Edition. Сегодня, компания готова посодействовать всем юзерам,...