Но согласимся ли мы на это сами?
1. На грани фантастики
Технологии искусственного интеллекта (ИИ), открывающие практически неограниченные возможности для сбора и обработки информации, сейчас не только увлекают исследователей, активный интерес к ним проявляется как на государственном уровне, так и в деловом мире. В то же время использование или тестирование новых технологий ИИ может насторожить общественность. Так же происходит и с экспериментом, который еще не начался, но уже анонсирован в Москве.
Игорь Ашманов, известный предприниматель в ИТ-отрасли, эксперт Совета при Президенте РФ по правам человека, 22 июня опубликовал в Telegram-канале Совета по правам человека пост, в котором выразил обеспокоенность по поводу эксперимента с ИИ, готовящегося в столице магазины.
«В Москве разработали систему анализа поведения покупателей в магазинах. ИИ определяет возраст, пол и направление взгляда покупателей магазина для выявления товаров, которые потенциально им интересны, — говорится в посте. — С одной стороны, если это совершенно обезличенная система, интересующаяся в основном полками в магазине и общей статистикой интересов обобщённого посетителя магазина, то вроде и волноваться не о чем. — Собирая изображения людей и анализируя их поведение, я хотел бы задать вопросы разработчикам и покупателям этой системы».
Ашманова основано на информации, представленной на официальном ресурсе mos.ru. Согласно отчету, столичная компания Gaodi разработала систему, которая использует искусственный интеллект для анализа поведения покупателей в магазинах. Устройство состоит из камеры и специального компьютера на базе процессора с нейронным ускорителем. Считается, что разработка будет полезна крупным, средним и мелким ритейлерам, а также владельцам товарных полок в магазинах, которые смогут определять свои интересы по направлению взгляда покупателей.
Используя информацию, собранную ИИ, можно узнать, какие товары привлекают внимание покупателя за счет своего внешнего вида, как их лучше расположить на полках магазинов, а также понять, какие инструменты повышают интерес к товарам. Компания Gaodi планирует выпускать не менее тысячи таких систем в год, сообщает ресурс правительства Москвы. И эксперимент с их реализацией начнется в ближайшее время.
Вопросы, которые возникли у Игоря Ашманова, следующие.
«Чтобы распознать «направление взгляда», в любом случае нужно отсканировать лицо покупателя и каким-то образом распознать на нем черты лица, особенно глаза. То есть в систему попадут биометрические данные граждан.
Как это согласуется с запретом на хранение лиц граждан и их описаний (векторов, подписей) где-либо, кроме Единой биометрической системы государства, а также с правом гражданина запрещать организациям сбор и анализ данных о его лице и др биометрия?»
Наряду с этим он эксперт, которого интересует срок хранения данных, а также их защита от утечки. А затем задает следующие вопросы, касающиеся прав отдельных категорий граждан.
«Как планируется отсеивать другие чувствительные и уязвимые категории граждан при съемках несовершеннолетних, сотрудников правоохранительных органов, которых нельзя снимать, идентифицировать и анализировать?»
«Меры предосторожности и управление рисками для личной защиты и национальной безопасности должны быть «вшиты» в систему с самого начала»? - завершает свой пост Ашманов.
Да, как известно, несовершеннолетних можно снимать только с разрешения родителей. Будет ли ИИ спрашивать их разрешения, «сканируя» детей? Есть ли конкретный порядок съемок военнослужащих, будет ли ему следовать ИИ? И кто будет нести ответственность за утечку этих данных, если это произойдет и нанесет вред клиентам?
Сразу отметим, что ФЗ №123 вводит экспериментальный правовой режим, разрешающий коммерческим структурам использовать технологии ИИ в Москве (другие регионы пока запрещены) по согласованию с властями. Так что с этой точки зрения «клиентский опыт» имеет право на существование.
Но дело в том, что вводимый ФЗ-123 экспериментальный правовой режим не отменяет требований ряда других законов, в том числе и о персональных данных. А это значит, например, что хранить и анализировать биометрические данные человека (лицо, глаза.
2. Говорят эксперты и разработчик
«Эксперт» поинтересовался у юриста, специализирующегося в области законодательства о персональных данных, какой должна быть эта исследовательская программа, чтобы не нарушать законодательство РФ. На вопрос ответил руководитель компании «Афонин, Божор и партнеры» Михаил Божор:
«Персональные данные — это информация, которая позволяет идентифицировать конкретное лицо. Разработчики программы заявляют, что будут определять только возраст, пол и направление взгляда.
Обратите внимание: Пополнение доходной части бюджета с помощью л*гализации работы д*вуш*к л*гкого пов*д*ния..
В таком случае это не персональные данные, использование такой информации законом не запрещено».Существует также особая категория персональных данных – биометрические персональные данные. К ним относятся, например, сетчатка глаза, все лицо или сочетание некоторых точек на лице. Однако если в базе данных хранится только рост, прическа, жест, направление взгляда, предполагаемый пол и предполагаемый возраст, но не само видео, то это не биометрические данные.
«Если разработчики хранят изображение, включающее в себя лицо человека, Роскомнадзор может считать это незаконным хранением персональных данных, так как по такому изображению можно идентифицировать человека. Чтобы не привлекать внимание надзорного органа, это не должно Нужно хранить только числовые данные», — советует юрист.
Что касается получения согласия от покупателей на съемку, то в местах, открытых для публики, оно в принципе не требуется. Достаточно признаков того, что есть видеонаблюдение.
«Но образ человека не должен быть главным объектом использования», — подчеркивает Михаил Божор. «Если идет фотоохота на конкретного человека в толпе, его изображение становится основным объектом использования и требуется согласие».
Если организаторы эксперимента будут следовать этим критериям, по мнению юриста, претензий со стороны Роскомнадзора к ним быть не должно.
Критичнее юриста является специалист, профессионально занимающийся видеонаблюдением на практике. Он считает, что закон вообще не позволяет использовать видеонаблюдение за людьми в личных или коммерческих целях.
«В нашей стране нет единого закона о видеонаблюдении. Но есть законы об охранной деятельности, о персональных данных, уголовный и гражданский кодексы, конституция — и все они защищают наши права на неприкосновенность частной жизни», — Алексей Щучкин, начальник отдела информационной безопасности и технических средств защиты ЦКБ гражданской авиации, рассказал Эксперт.
Мониторинг в людных местах регулируется различными государственными постановлениями в зависимости от характера места и отрасли, к которой оно относится. Эти указы не только разрешают, но и обязывают осуществлять наружное наблюдение без сбора разрешений с граждан. Но все эти указы говорят только о безопасности как о цели слежки.
«Видеонаблюдение в местах массового скопления людей следует рассматривать в зависимости от характера этого места и целей, для которых оно осуществляется», — говорит Алексей Щучкин. - Одно дело, когда ведется наблюдение за обеспечением безопасности в общественных местах. Он не спрятан, есть таблички, предупреждающие о том, что ведется видеонаблюдение. И совсем другое дело, если эти действия осуществляются в целях, не урегулированных законом. Никто и никогда не позволял снимать граждан без их согласия и потом делать на этом основании какие-то расчеты для бизнеса».
По словам специалиста по информационной безопасности, без согласия граждан видеосъемка может производиться только в целях обеспечения безопасности. А чтобы использовать такие наблюдения для научных, статистических или маркетинговых исследований, необходимо принять специальный закон или положение.
Идея ясна: такой закон или иные действия нужны не только как формальная санкция. Они бы как-то регламентировали видеонаблюдение (съемку) и обработку, а также хранение полученных данных. Учитывать законодательство, регулирующее как использование персональных данных в целом, так и защищающее права отдельных категорий граждан.
«Эксперт» направил вопросы разработчикам программы, соответствует ли она законодательству и проводилась ли правовая экспертиза этого, безусловно, очень интересного продукта, связанного с искусственным интеллектом. В полученном «Экспертом» ответе ничего не говорится о юридической экспертизе, но в нем говорится: «Система не хранит никаких персональных данных (изображение лица), мы отправляем только данные о поле, возрасте и направлении взгляда, фотоматериалы не участвуют в анализах, и никто не может их видеть».
Ответ вполне убедителен, но мы не можем судить, насколько он снимает все вышеперечисленные вопросы о новой разработке, анализирующей поведение покупателей. Если - не совсем, то, наверное, продолжится профессиональное обсуждение технологий, правовых аспектов их применения. И публичное обсуждение тех отступлений от нашей частной жизни, которые мы готовы допустить ради чьей-то коммерческой выгоды (и, конечно, рост экономики в целом суммирует такие выгоды, мы это понимаем).
Больше интересных статей здесь: Экономика.