Южная Америка

Странный случай с человеком, чей номер телефона ИИ не перестает рекомендовать

Странный случай с человеком, чей номер телефона ИИ не перестает рекомендовать
В августе разгневанная девушка написала в WhatsApp Фернандо, 39-летнему испанскому инженеру. Она приложила скриншоты с сайта интернет-аптеки: «Прошло уже восемь дней с момента моего заказа, я хочу, чтобы мне вернули деньги и чтобы я могла подать жалобу». Фернандо отнёсся к этому спокойно: «Понимаю, что ты пыталась связаться с курьерской службой; я же просто обычный частный человек». Девушка извинилась и прислала ему скриншот переписки с Gemini Flash, моделью искусственного интеллекта от Google, где номер телефона Фернандо фигурировал как номер WhatsApp этой аптеки. «Чёрт, это же мой номер», — ответил Фернандо, который предпочитает не называть свою фамилию, чтобы эта проблема не пересеклась с его работой и не создала ему дополнительных хлопот. «Посмотрим, что мне теперь делать», — добавил он. «Не успев как следует обдумать ситуацию, ему написала ещё одна женщина, прислав длинный абзац, тоже в WhatsApp: «Я обращаюсь к вам, потому что заинтересована в получении информации и цен на фракционную лазерную терапию CO2 для лечения атрофии и дряблости влагалища, вызванных менопаузой». Сообщение сопровождалось именем и фотографией в профиле этой женщины, которую Фернандо сразу заблокировал. Затем другой парень написал ему в поисках «подержанного жесткого горного велосипеда», приложив свой бюджет и рост. Это было сообщение для велосипедного магазина. «Потом ему начали звонить по телефону: кто-то рассказывал о заказе манго в Толедо, другой спрашивал, куда нужно отвезти машину на мойку». Фернандо получил как минимум восемь сообщений или звонков в период с августа по октябрь. Запросы к ИИ, в которых указывался его номер, направлялись, насколько он смог это подтвердить, преимущественно в модель Gemini Flash. В одном случае запрос поступил в ChatGPT: это был россиянин, который искал работу повара и писал в ресторан. ИИ в данном случае указал номер Фернандо вместе с текстом на кириллице. «Меня начало беспокоить то, что это происходило всё чаще и чаще», — пояснил Фернандо нашей газете. «Тогда я и подумал, что очень странно, что система всегда выдает один и тот же номер, и что он, видимо, проник в обучающие данные», — добавил он. «То, что языковая модель «бредёт», то есть генерирует ложную информацию, — не новость. Гораздо страннее то, что ИИ упорно продолжает выдавать один и тот же номер. Но это не единичный случай. «Были случаи, когда помощник WhatsApp от Meta выдавал номер частного лица вместо телефона компании, а также случаи, когда ИИ-обзоры Google показывали фальшивые номера службы поддержки, размещённые в интернете мошенниками», — отметила Линда Петрини, исследовательница в области безопасности ИИ, и добавила: «Эта закономерность реальна, и следует ожидать, что всё больше обычных людей окажутся в ловушке по мере того, как всё больше людей будут искать компании через чат-ботов». «Фернандо не знает никого, с кем бы такое произошло. У него этот номер только с 2021 года, и он подозревает, что раньше он мог принадлежать какой-то компании». Отсюда, как он предполагает, оно могло оказаться в данных, на которых обучали ИИ. Такое же подозрение высказывает и Петрини: «Моя наиболее вероятная гипотеза заключается в том, что этот номер фигурирует на реальных бизнес-сайтах, и чат-боты берут его из Интернета при ответе, а не придумывают с нуля». «Но это не единственный возможный вариант. Хосе Эрнандес-Оралло, директор по исследованиям Центра Леверхулма при Кембриджском университете и профессор Политехнического университета Валенсии, считает, что речь может идти о полной галлюцинации, поскольку этот телефонный номер связан с несколькими магазинами. «Не похоже, чтобы этот номер был связан с чем-то конкретным в процессе обучения», — заверил он и добавил: «Так что это, скорее всего, галлюцинация. По какой-то причине этот номер кажется более вероятным, чем другие, и с ним это случается чаще, чем с другими людьми». «Даты также совпадают с выпуском Gemini. В период с конца июля по начало августа Google выпустила свои модели Gemini 3.5 Flash-Lite и 3.7 Flash. «Бесплатные модели Gemini довольно слабы по сравнению с платными, поэтому вполне возможно, что они по-прежнему слабо справляются с галлюцинациями, как видно из различных рейтингов», — пояснил Эрнандес-Оралло. В Google придерживаются того же мнения, что речь идет о галлюцинациях, как пояснил представитель компании этой газете: «Крупные языковые модели иногда могут генерировать ответы, которые, хотя и кажутся правдоподобными, на самом деле являются неверными с фактической точки зрения. Их называют галлюцинациями». Обычный поиск номера Фернандо в Google не даёт результатов. «Это может показаться легко решаемой или несущественной проблемой, но она таит в себе большую опасность, чем кажется: „Меня беспокоит, что мой номер могут разгласить“, — пояснил Фернандо. «Сами по себе такие случаи не причиняют вреда, но, поскольку люди задают ИИ самые разные вопросы, меня беспокоит, в чьи руки может попасть мой номер телефона: к наркоманам, преступникам, самоубийцам или самопровозглашённым гуру», — поделился пострадавший. Это также представляет угрозу для конфиденциальности: «Больше всего меня пугало то, что я с готовностью делюсь своим Instagram-аккаунтом или чем-то ещё, но только не номером телефона, который для меня священен. Через номер доступна моя аватарка, а с номером можно сделать тысячу вещей». «Если бы задали 10 000 вопросов об одной услуге и один и тот же номер появлялся с определённой частотой, то тогда можно было бы доказать, по крайней мере, что Фернандо просто не повезло», — сказал Эрнандес-Оралло. «Распределение галлюцинаций неравномерно, так же как и люди генерируют одни случайные числа гораздо чаще, чем другие», — добавил он, полагая, что у людей здесь возникла бы та же проблема, что и у Gemini Flash: «Его номер мог даже не существовать как телефонный. Это как если бы тебя спросили номер твоей первой девушки: ты не помнишь, и не стоит говорить, что не знаешь. Если я спрошу тебя об этом тысячу раз, найдётся какое-то число, которое повторится десяток раз». «Дополнительная опасность возникла бы, если бы подобная проблема сохранялась и затягивалась во времени. Как её решить?» «Помимо обращения к соответствующим компаниям с предупреждением о том, что „вы можете подать запросы на удаление данных в Google и OpenAI“, — пояснил Петрини и добавил: — „Согласно Общему регламенту по защите данных (европейскому законодательству, регулирующему вопросы конфиденциальности и защиты персональных данных физических лиц в пределах Европейского союза), номер телефона является персональными данными, что придает этому запросу реальный вес“».