В вагонах московского метро появятся камеры с системой распознавания лиц. Чем это грозит пассажирам?

Камер видеонаблюдения в российской столице больше, чем в других мегаполисах мира. По крайней мере, так говорит мэр Москвы Сергей Собянин. Системы видеонаблюдения в подземке установлены буквально на каждом шагу: охватывают переходы и вестибюли, зоны входа и выхода и даже туалетные кабинки. 

К концу года «умные» камеры, способные анализировать огромный массив данных и распознавать лица, появятся и в вагонах метро. «МБХ медиа» рассказывает, смогут ли новые технологии стать инструментом для слежки за пассажирами и почему в некоторых странах мира уже начинают отказываться от этой практики. 

Тотальный сканер

Компания «Максимателеком», которая больше известна как провайдер бесплатного Wi-Fi московской подземки, выиграла тендер на оснащение вагонов метро системой видеонаблюдения с функцией распознавания лиц до конца года. На эти цели правительство Москвы выделило 1,38 млрд рублей. В эту сумму входит установка 12 304 камер, 418 серверов распознавания лиц, 1538 коммутаторов и специальное программное обеспечение. Предполагается, что эти нововведения затронут более чем 1500 вагонов — четверть от общего парка метрополитена. 

Столичные власти объясняют это решение заботой о гражданах и борьбой с преступностью. Точной статистики  о том, как системы видеонаблюдения с функцией распознавания лиц помогают силовым ведомствам выполнять их обязанности, в открытом доступе нет. Но, по словам главы ГУ МВД по Москве Олега Баранова, только в 2019 году с помощью этой технологии удалось раскрыть 4000 преступлений. 

Всего в арсенале московских властей находится свыше 174 тысяч камер видеонаблюдения по всему городу, и только небольшая часть из них (около трех тысяч в 2019 году) была подключена к системе распознавания лиц, которая использует для идентификации людей базы МВД. В перспективе планируется распространить эту технологию на все камеры. 

Многие эксперты уверены, что непрозрачный механизм работы этой системы может привести к злоупотреблениям. Так, нейросети могут довольно быстро из инструмента по предотвращению преступлений превратиться в инструмент для тотальной слежки за гражданами. 

 

«Одно дело в режиме реального времени наблюдать, чтобы не произошли какие-то кражи, какие-то криминальные действия. А другое дело — хранить какое-то время наши биометрические данные. Непонятно, кто к ним имеет доступ, на каких основаниях, как долго это хранится. Отсюда и появляются различные риски. Это и то, что мы не давали согласия на сбор этой информации, и то, что происходят регулярно утечки. В том числе со стороны государственных баз», — говорит руководитель общественной организации «Роскомсвобода» Артем Козлюк. 

В 2019 году двадцать шесть станций московского метро уже оборудовали турникетами с современными системами видеонаблюдения. В рамках первого этапа, на который был выделен 101,6 млн рублей, такие видеокомплексы появились на одиннадцати станциях Серпуховско-Тимирязевской линии, на семи станциях Калужско-Рижской и Люблинско-Дмитриевской линий и на одной станции Таганско-Краснопресненской линии. О том, какие данные могут собирать эти видеокомплексы, также нигде не сообщалось. 

В 2017 году в подземке уже функционировали свыше 17 тысяч камер. Системы видеонаблюдения можно увидеть не только в вестибюлях и на турникетах, но и внутри туалетных кабинок. В декабре 2019 года пассажир метрополитена опубликовал видео, на котором можно легко разглядеть вмонтированную в стену кабинки камеру.  В пресс-службе Метрополитена объяснили, что техника начинает работать только тогда, когда человек покидает помещение, чтобы проследить, что внутри не осталось никаких лишних и потенциально опасных предметов.   

«Если ты зашел в метро —  значит, попал в базу данных. Сразу возникают риски, что твой маршрут, твои биометрические данные, где и с кем ты общался — уже где-то хранятся. И к ним имеют доступ какие-то третьи лица. В зоне риска находятся и те, кто пользуется метро постоянно, и те, кто это делает лишь периодически», — резюмирует Козлюк. 

Право на ошибку

Несмотря на то, что за последние годы системы распознавания лиц значительно усовершенствовались по всему миру, абсолютно безошибочно идентифицировать людей пока что не может ни одно программное обеспечение. Как рассказал «МБХ медиа» Олег Кивокурцев, директор по развитию российской компании Promobot, занимающейся в том числе обучением нейросетей, на сегодняшний день хорошим показателем для таких технологий является 90% точность. 

«То есть каждое десятое лицо может быть не распознано. И, безусловно, это может привести к ошибкам. Действительно, распознать можно даже человека в защитной маске, если нейронная сеть обладает данными, как у него выглядит верхняя часть лица. Но точность такого распознавания падает очень сильно. Хорошим показателем в таком случае будет уже 50%».  

Как это ни парадоксально, большой вклад в обучение нейросетей внесла пандемия коронавируса. Несколько китайских компаний, например, SenseTime и Minivision, научили искусственный интеллект распознавать людей не только в шарфах и капюшонах, но даже в защитной маске. Нейросети мгновенно анализируют сотни ключевых точек на лице (расстояние между глаз, выступ скул, ширина носа и т. д.), чтобы найти соответствия в базе данных. Чем больше изображений для сравнения видит алгоритм, тем выше точность идентификации.

Однако в некоторых случаях частотность ошибок распознавания, наоборот, увеличивается. Системы часто дают сбой при идентификации людей с азиатскими чертами лица и темной кожей. Исследование, проведенное в 2019 году университетом Торонто совместно с Массачусетским технологическим институтом, показало, что одна из успешных на международном рынке программ по распознаванию лиц Amazon Rekognition в 35% случаев неверно идентифицирует темнокожих женщин. А в 2018 году технология распознавания лиц, проданная компанией, ошибочно опознала 28 конгрессменов как преступников. 

Системы распознавания лиц на улицах Москвы работают на основе технологий российской компании NtechLab, которая начинала свой путь с создания приложения FindFace в 2016 году. Этот интернет-сервис позволял установить личность человека по фотографии и найти его профиль  «ВКонтакте». С 2018 года компания активно сотрудничает с государственными структурами. На официальном сайте NtechLab пишут о своем продукте FindFace Security так: «Совершенный алгоритм распознавания лиц и быстрое внедрение делают продукт идеальным для решения задач безопасности государства и бизнеса». В ближайшее время компания обещает выпустить новое программное обеспечение, которое позволит точно подсчитывать количество людей на улицах даже в местах массовых скоплений и прослеживать путь отдельно взятого человека по силуэту.

Борьба за персональные данные 

Наибольшую тревогу у правозащитников и обычных граждан в контексте повсеместного распространения технологий искусственного интеллекта вызывает вопрос сбора, обработки и хранения персональных данных. Так как этот вопрос находится не в зоне общественного контроля, многие с недоверием относятся к таким нововведениям со стороны государственных структур.

Само по себе видеонаблюдение в общественных местах является допустимым с точки зрения закона. Правда, с небольшим условием: люди должны быть заранее предупреждены о том, что ведется фото- и видеосъемка. Как рассказал «МБХ медиа» Иван Кайсаров, старший юрист Eversheds Sutherland, гораздо сложнее и противоречивее регулируются технологии распознавания лиц. Здесь и возникают некоторые вопросы к законодательству о персональных данных. 

Обычно для обработки биометрических данных требуется письменное согласие субъекта. Однако это только одно из оснований. Есть и другие: например, случаи, предусмотренные законодательством Российской Федерации об обороне, о безопасности, о противодействии терроризму и коррупции. Здесь уже отказаться от такой обработки невозможно.

«Тут стоит обратить внимание на то, что указанные формулировки достаточно размытые, то есть нет четкого понимания, до какого предела можно все обосновывать безопасностью граждан, — подчеркнул юрист. — Это, наверное, некий новый тренд в сфере безопасности со стороны государственных органов, с которым будет сложно спорить. Государство видит множество законных оснований, чтобы это делать, и оспаривать это будет крайне сложно, если не невозможно, в том числе из-за отсутствия четких границ между общественной безопасностью и ограничением вторжения в жизнь граждан».

Участники общественной организации «Роскомсвобода» выступают за мораторий на использование систем распознавания лиц, в том числе в метро, поскольку это нарушает действующее законодательство и даже конституционные права. 

«Обосновать это целями безопасности вполне логично. Но пока нет указания конкретных случаев, в какой момент и в какой ситуации можно использовать эти системы, мы полагаем, что это незаконно. Потому что граждане без такого конкретного порядка и ясных правил не смогут защититься от злоупотреблений этой технологией», — соглашается юрист и адвокат «Роскомсвободы» Екатерина Абашина.

Пока одни страны тратят миллионы долларов на повсеместное внедрение технологий распознавания лиц, другие стараются взвесить потенциальные риски. Так, в начале года Еврокомиссия выступила с предложением временно запретить использование таких систем в общественных местах, чтобы оценить последствия этой технологии и ее влияние на частную жизнь граждан. 

В июне на волне протестного движения Black Lives Matter представители крупнейшей американской IT-компании IBM заявили, что перестанут продавать программное обеспечение для распознавания лиц правоохранительным органам, потому что это приводит к нарушению прав и свобод обычных людей и поддерживает расовую дискриминацию в обществе. Позднее к мораторию присоединились Amazon и Microsoft.