Почему мы должны быть обеспокоены системой распознавания лиц: 4 главных причины

16.07.2019

Предсказания антиутопий начинают понемногу сбываться.

iphone-1283462_960_720

Фото pixabay.com

На сегодняшний день разработкой и модернизацией систем распознавания лиц заняты многие крупнейшие технологические компании. Они продают свои наработки правительствам по всему миру, которые активно используют их в своих целях.

В начале года мэр Москвы Сергей Собянин заявил, что в 2019-м в столице окончательно заработает система распознавания лиц с помощью уличных видеокамер. В настоящий момент такая технология уже используется в московском метро. Он также добавил, что мэрия в вопросе наблюдения за гражданами ориентируется на китайские мегаполисы.

Тем временем, широкой общественности не до конца понятны возможные риски повсеместного внедрения этой технологии. В связи с этим мы решили рассказать, почему система распознавания лиц может быть опасна для рядового гражданина, и что с ней не так.

1 Давайте начистоту: это изначально странная технология

Системы распознавания лиц очень сильно напоминают репрессивный инструмент государственного контроля над населением, от которого невозможно скрыться. Сразу вспоминается известное выражение «Большой брат следит за тобой» из романа-антиутопии Джорджа Оруэлла «1984».

В июле 2016 года «Медуза» впервые рассказала о технологии FaceТ и приложении FindFace, автором которых является Артем Кухаренко. Если коротко, это нейросеть, которая позволяет узнать человека по фотографии и идентифицировать его, сравнив изображение с его фотографиями в социальных сетях, в первую очередь, во «ВКонтакте». Именно эти технологии и лежат в основе современного биометрического наблюдения, которые позволяют распознать лицо прохожего и идентифицировать его по правоохранительным базам данных. Именно об этих видеокамерах и говорил Сергей Собянин.

Правоохранительные органы США активно используют программное обеспечение под названием Rekognition от компании Amazon. С его помощью полицейские могут сканировать лица людей в общественных местах и следить за гражданами, которые находятся в базе данных с правонарушителями. Еще активнее технологии распознавания лиц внедряются китайским правительством, которое уже в некоторых местах создало настоящую систему рейтингов граждан.

Но и Россия не отстает: в мае 2019 года Собянин упомянул, что в столице в настоящий момент действуют 167 тысяч видеокамер нового поколения. Он добавил, что видеозаписи оттуда используются при расследовании 70% всех совершенных преступлений. «Комсомольская правда» приводила статистику: чаще всего записи с видеокамер используются для расследования вандализма или краж (в 52% случаев) и для разбора ДТП (в 40% случаев).

Правда, в ходе следствия, а затем и суда по «болотному делу» о беспорядках на Болотной площади Москвы 6 мая 2012 года стало понятно, что в основу обвинительных материалов легли именно записи с камер уличного наблюдения. Новые задержания проводились по мере поступления все новых видеозаписей, эти же кадры использовались в суде как доказательства вины митингующих. При этом после убийства в центре Москвы оппозиционного политика Бориса Немцова в феврале 2015 года выяснилось, что ключевые камеры, которые могли бы зафиксировать убийц, не работали.

Почему мы должны быть обеспокоены системой распознавания лиц: 4 главных причины

2 Она может работать без твоего согласия

Еще один важный момент этой технологии заключается в том, что она может функционировать без согласия населения или отдельного человека. Например, любая информация, которую ты предоставляешь соцсетям или каким-либо приложениям, может использоваться сомнительными способами. Чего только стоит нашумевшая утечка персональных данных пользователей Фейсбука. Или недавний скандал, в ходе которого стало известно, что компания IBM собирала большое количество фотографий пользователей платформы Flickr для обучения своей системы распознавания лиц.

В России, согласно закону, сайты, попадающие в реестр Роскомнадзора, обязаны хранить переписку пользователей в течение полугода и предоставлять данные пользователей по требованию спецслужб. За отказ передать ФСБ ключи шифрования мессенджер Telegram в нашей стране включен в реестр запрещенных ресурсов. Роскомнадзор пытается заблокировать его с 16 апреля 2018 года.

Почему мы должны быть обеспокоены системой распознавания лиц: 4 главных причины

3 Она работает далеко не идеально

Несмотря на то, что система распознавания лиц применяется в серьезных областях, где требуется повышенная ответственность (например, для поиска преступников), она все равно дает сбои.

В 2018 году организация ACLU провела исследование, в котором выяснилось, что система Rekognition от Amazon ошибочно определяла членов Конгресса США, как преступников из полицейской базы данных. Причем система ошибалась преимущественно на темнокожих людях.

В других странах таких исследований попросту не проводилось, но уже понятно, что система распознавания лиц несовершенна, что, в свою очередь, может привести к серьезным ошибкам и невинно осужденным людям.

4 Она еще не регулируется должным образом

Почему мы должны быть обеспокоены системой распознавания лиц: 4 главных причины

Уже понятно, что у существующих в настоящее время систем распознавания лиц есть куча проблем, которые предстоит долго и упорно решать. Более того, к ним добавляется отсутствие должной регуляции со стороны правительственных органов и компаний. В большинстве стран, использующих данные технологии, пока не приняты какие-либо конкретные своды правил по регулированию систем распознавания лиц.