" content="width=device-width,initial-scale=1.0,minimum-scale=0.5,maximum-scale=5.0,user-scalable=yes" >ИИ ошибочно опознал аргентинскую активистку на видео из Сеуты: она заявляет о преследованиях и угрозах - LA NACION{ «pagetype»: «nota», «valor»: «comun», «subtype»: «1», „nota_id“: «EQRLTAC2XNBYXDT3R7NZ3VPTSE», «isListenable»: «da», «palabras»: 1400, „lectura“: «8» } @font-face {font-family:„Prumo“;src:url(„ pf resources fonts prumo Prumo-LNVF.woff2?d=2047“) format(„woff2-variations“); font-weight: 90; font-display: swap;} @font-face {font-family:„Prumo Italic“;src:url(„ pf resources fonts prumo Prumo-ItalicLNVF.woff2?d=2047“) format(„woff2-variations“); font-weight: 90; font-display: swap;} .- -prumo{font-family:Prumo,georgia,serif}.- -font-primary{font-family:Prumo,georgia,serif}.row{display:flex;flex-wrap:wrap;width:100%}[class*=col-]{width:100%;position:relative}.col{flex-basis:0%;flex-grow:1;max-width:100%}.col-1 {flex:0 0 8,3333333333%;max-width:8,3333333333%}.col-2{flex:0 0 16,6666666667%;max-width:16,6666666667%}.col-3{flex:0 0 25%; max-width: 25%}.col-4{flex: 0 0 33,3333333333%; max-width: 33,3333333333%}.col-5{flex: 0 0 41,6666666667%; max-width: 41,6666666667%}.col-6{flex: 0 0 50%; max-width: 50%}.col-7{flex: 0 0 58,3333333333%; max-width: 58,3333333333%}.col-8{flex: 0 0 66,6666666667%; max-width: 66,6666666667%}.col-9{flex: 0 0 75%; max-width: 75%}.

26 августа Флавия Броффони получила электронное письмо с темой: «Если ты в Сеуте, будь осторожна». Поскольку она не знала отправительницу, она не придала этому особого значения. Только вечером, когда она снова проверила почту и открыла это сообщение, она обнаружила, что предупреждение было адресовано именно ей. «Незнакомая женщина сообщила мне, что в нескольких группах WhatsApp в Сеуте циркулируют видео и фотографии со мной, и что ходят слухи, будто я снабжаю марокканских мигрантов перцовым газом для противостояния местным силам безопасности». «Моей первой реакцией было рассмеяться; мне это показалось бредом. Я нахожусь в Патагонии, в Аргентине, и никогда не имела никакого отношения к тому, что там происходит. Последний раз я была в Испании, если не ошибаюсь, в 2014 году по работе», — рассказала Флавия газете LA NACION из Эпуйена, провинция Чубут. «Однако, когда она начала понимать, что дело может быть серьёзным, она зашла в Instagram и обнаружила несколько сообщений от людей, которые спрашивали, находится ли она в Испании. Затем к ней стали поступать публикации от жителей Сеуты, которые распространяли ложную информацию на фоне атмосферы ненависти и насилия, царившей на территории. Комментарии, сопровождавшие эти публикации, были тревожными. «Я получала угрозы смерти, изнасилования и нападений в целом», — рассказала Флавия. Она является политологом и активисткой. Она занимала должность директора по экологическим стратегиям города Буэнос-Айрес во время правления Макры, а также была менеджером по вопросам устойчивого развития в компании Tetra Pak в регионе Южного конуса и координатором по вопросам политики в Фонде «Vida Silvestre Argentina». «Флавия спросила у человека, приславшего ей предупреждающее письмо, откуда взялось это обвинение. Женщина прислала ей скриншот из группы в WhatsApp. На снимке было видно, что один из пользователей вырезал фрагмент лица женщины с видео и ввёл его в инструмент искусственного интеллекта Google, чтобы узнать, кто она такая. В запросе в качестве контекста было указано слово «активистка». Ответ идентифицировал человека на фотографии как Флавию Броффони и содержал информацию о её общественной деятельности: что она является политологом, активисткой, писательницей и аргентинкой». По мнению Броффони, эта манипуляция основана на трёх последовательных ложных утверждениях. Первая — фальсификация личности: Флавия не была той женщиной, которая фигурировала на реальном снимке, сделанном в Сеуте. Вторая — фальсификация факта: не существует никаких доказательств или свидетельств того, что реальная женщина с оригинального видео раздавала мигрантам перцовый газ, как это распространялось в чатах, которые стали вирусными. Третьим фактором является приписывание ответственности ИИ: все вымышленные уголовные обвинения в конечном итоге были возложены на него из-за категорической ошибки идентификации со стороны системы искусственного интеллекта. « «Уверенность в достоверности искусственного интеллекта настолько велика, что ответ, не имеющий никакого отношения к реальности, сразу же принимается за чистую правду», — предупреждает Броффони, говоря о том, с какой легкостью этот тройной обман распространился в социальных сетях. «В ответ на запрос газеты LA NACION представители Google Argentina указали, что не могут подтвердить, что данная скриншот соответствует ответу, сгенерированному их системами, поскольку у них нет ссылки на исходный результат. Кроме того, они указали, что ранее не знали об этом случае, поскольку не получали официального сообщения. Наше издание также проверило поиск в Google по видео, снятому женщиной в Сеуте, и ИИ ответил, что речь идет о другом человеке — студентке и менеджере сообщества из Кильмеса, о которой были предоставлены личные данные и ссылки на социальные сети». Обеспокоенность Броффони больше не сводилась только к тому, что её перепутали с другим человеком. Этот случай поднял перед ней более широкий вопрос: что может произойти, когда искусственный интеллект дает ошибочную идентификацию. «Этот случай может создать прецедент в отношении рисков», — заявила она. По её мнению, новизна заключается в том, что результат работы ИИ генерирует утверждения. В её случае система однозначно определила, что на фотографии была именно она. «Она обратилась к специалистам за разъяснениями о принципе работы этих инструментов. Среди первых ответов, которые она получила, были утверждения о том, что системы искусственного интеллекта не способны распознавать лица. Однако другие люди провели тесты с той же фотографией и получили разные результаты: в некоторых случаях инструмент отказывался идентифицировать человека, а в других — начинал формулировать идентификацию, когда ему предоставлялся определенный контекст». В одном из таких тестов, как рассказала Броффони, инструмент ответил, что это «весьма вероятно» она сама, и обосновал свой ответ такими характеристиками, как её деятельность в качестве активистки, короткие волосы и каштановый цвет волос. Проблема, отмечает она, заключается в том, что часть этой информации относилась к старым фотографиям: сейчас у неё длинные седые волосы. «По мнению Марины Бенитес Демченко, адвоката, специализирующейся на компьютерном праве и являющейся законным представителем Броффони, данное дело отличается от обычной ошибки». «Ошибка, допущенная человеком, является определённой или поддающейся определению, но ущерб, нанесённый системой, объяснимость которой недоступна, оставляет нас беззащитными», — пояснила она газете LA NACION. По словам юриста, в таких случаях пострадавший не только вынужден сталкиваться с последствиями обработки своих данных, но и может столкнуться с трудностями при попытке выяснить, как система пришла к такому результату, и, следовательно, при подаче претензии. В случае с Броффони она считает, что на карту поставлены права, выходящие за рамки репутации: «Физическая и психологическая неприкосновенность — два наиболее важных аспекта. Не говоря уже о его цифровой репутации», — заявила она. «Если ИИ предоставляет ложные идентификационные данные, ответственность лежит на компании-разработчике этой модели», — аргументировала Бенитес Демченко. По её мнению, это может быть связано с недостаточной объясняемостью и с погрешностями, которые могут привести к ситуациям, подобным той, с которой столкнулась Броффони. «Специалист также отметила, что существует второй уровень ответственности, связанный с теми, кто использует и распространяет результат, а также с платформами, которые позволяют такому контенту оставаться в сети и получать широкое распространение. «Любое действие, которое может нанести ущерб правам третьих лиц, является ограничением свободы слова», — заявила она. «Однако она уточнила, что определение того, какие меры следует принять в конкретном случае, зависит от обстоятельств, требований пострадавшего лица и имеющихся доказательств». В этой связи он подчеркнул, что появление новых технологий не обязательно означает наличие правового вакуума: существуют правовые инструменты, которые можно применять, хотя юристы должны подходить к таким делам иначе, чем к традиционным спорам. «Когда у нас есть цифровые доказательства, их необходимо проверить на достоверность, чтобы представить в ходе судебного разбирательства», — пояснил он. Поэтому для продвижения дела такого рода в судебном порядке важно восстановить полную цепочку событий: какое изображение использовалось, кто выполнил запрос, какой ответ дал инструмент, кто впоследствии распространил его и как далеко распространился этот контент. По мнению Броффони, этот случай также поднимает проблему, выходящую за рамки её личной ситуации. Активистка считает, что ложная идентификация может подвергнуть риску любого человека, особенно тех, кто находится в центре общественного внимания или участвует в политической деятельности или активизме. «Контекст, в котором произошел этот инцидент, также имеет решающее значение. Ложное обвинение появилось на фоне насилия и напряженности в Сеуте, где распространение ложной информации может усугубить существующую враждебность». По мнению адвоката, обсуждение должно начинаться не тогда, когда человек уже подвергся нападению, а до этого. «Мы должны думать о том, как не допустить, чтобы дело дошло до этого», — заявила она. По его мнению, этот случай свидетельствует о необходимости обсудить меры предосторожности, механизмы безопасности, надлежащие каналы для подачи жалоб, а также обеспечить более высокий уровень объяснимости принципов работы моделей. «Это создает риск того, что любой человек может стать жертвой самосуда из-за ошибки искусственного интеллекта», — предупредил он. На данный момент Броффони и его адвокат разрабатывают юридическую стратегию и надеются добиться прогресса в ближайшие дни.