Историк, которая заставила Грока изменить свое мнение: «Машины ошибаются»

Во время одного из своих свободных от работы отпусков учительница средней школы Роза Пуиг наткнулась в X, ранее известном как Twitter, на полемику вокруг старой фотографии. На черно-белой фотографии была запечатлена скромная семья, и кто-то загрузил ее с комментарием «При Франко мы жили лучше». Многие пользователи усомнились, что фотография была сделана в Испании, и спросили Grok, чат-бота этой социальной сети, который в своих ответах указал, что фотография была сделана в США во времена Великой депрессии. Однако учительница нашла первоисточник и убедилась, что фотография была сделана в Испании и принадлежала известному и хорошо документированному архиву. Тогда она начала разговор с искусственным интеллектом, который, несмотря на доказательства, не сдавался. Пока не сдался. «Я ошибся», — признал он несколько часов спустя. «Важно понимать, что эти машины не различают информацию и ошибаются», — утверждает преподавательница из Валенсии, удивленная резонансом, который вызвал ее диалог в X, и окончательным исправлением: он набрал более двух миллионов просмотров. «Grok — это искусственный интеллект, созданный в США, и, вероятно, он хорошо обучен на изображениях оттуда. Возможно, это и является причиной его путаницы», — объясняет Алехандро Гарсия, который работает в центре кибербезопасности Google в Малаге. «Поэтому важно инициировать такие дискуссии и открывать обсуждение, как это сделала преподавательница. Кажется, что ИИ пришел, чтобы решить все наши проблемы, и является своего рода божеством, но это далеко не так: он может ошибаться», — уточняет Гарсия, который объясняет, что Grok не имеет инструмента для поиска изображений и работает только с текстом, поэтому совершенно разные изображения кажутся ему одинаковыми. «Его надежность очень высока, но не стопроцентная», — настаивает специалист, который приветствует инициативу Пуиг, когда она проводит поиск и ставит машину в тупик из-за ее ошибки. Преподавательница засомневалась, потому что у нее уже был предыдущий опыт с ChatGPT, который заставил ее подумать, что этот ответ может быть ошибочным. «Пару лет назад я задала ему вопрос, который собиралась включить в экзамен, и он полностью выдумал ответ. Это помогло мне показать студентам, что нужно быть осторожными с искусственным интеллектом, потому что он практически не различает информацию и обычно не признает своих ошибок», — рассказывает Пуиг, которая столкнулась с этой полемикой, проводя день на пляже. Все началось с публикации анонимного пользователя @kritikafull, где можно было увидеть изображение скромной семьи: трое взрослых и четверо детей улыбались и с нетерпением позировали перед камерой в пребывающем в плачевном состоянии доме. Упоминание о франкизме заставило многих пользователей усомниться в том, что фотография была сделана в Испании, и они решили спросить Grok, искусственный интеллект социальной сети Илона Маска. Его быстрый ответ содержал много подробностей: он определил местонахождение фотографии в США и идентифицировал автора как фотографа Уокера Эванса, который снял ее в округе Хейл (Алабама) в 1936 году. «На ней изображена семья Берроуз, фермеры-арендаторы во время Великой депрессии. Это не эпоха Франко в Испании», — подчеркнула машина под всеобщие аплодисменты пользователей, которые осуждали «манипуляцию» рассказом. «Красные — умственно отсталые», — говорил один из них, а многие настаивали, что дети были блондинами и, следовательно, не могли быть испанцами. «Как будто в стране нет блондинов», — отмечает Пуиг, который, как и другие пользователи Твиттера, решил провести повторную проверку. Тогда он использовал инструмент Google Lens, который напрямую анализирует фотографию, чтобы отследить ее происхождение в Интернете. Поисковая система направила его по ссылке в архив Центра технологий изображения (CTI) Университета Малаги (UMA), который является первоисточником изображения, где оно хорошо расположено в каталоге и задокументировано вместе с данными об авторе, дате и месте съемки. Директор CTI Висенте Мартинес отмечает, что для получения этой информации необходима «сложная работа», выполняемая исследователями и историками университета, чтобы она была максимально достоверной. «Это не просто фотография, найденная где-то», — указывает он. Профессор сообщила Grok о своем открытии, и тогда началась перетягивание каната, потому что чат-бот считал одинаковыми фотографии, которые таковыми не были, и даже обвинял университет в Малаге в ошибке. Пока профессор не загрузила обе фотографии вместе, и чат-бот Илона Маска не начал сомневаться. Он ответил только через два часа, и все это время разные пользователи высмеивали попытки исследовательницы заставить Grok признать свою ошибку. «Ты права», — сказал он тогда. «Фотографии не идентичны. Фотография из оригинального поста совпадает с фотографией из архива UMA», — подчеркнул он, чтобы в конце концов утверждать, что «это не Уокер Эванс». Он признал свою ошибку, но затем совершил еще одну, потому что снова перепутал с другим изображением, которое также не имело никакого отношения к делу (на нем была пожилая женщина, сидящая на стуле). «Ха-ха, ты совершенно права, это изображение, которое я загрузил, совсем не похоже! Я ошибся: оригинальная фотография принадлежит Хуану Аренасу (Estudio Arenas), она была сделана в Малаге в 1952 году и показывает бедный дом. Подтверждено в архиве UMA. Спасибо за исправление». «Однако позже другие пользователи снова обратились к нему, и Grok снова ошибся, как будто он ничего не усвоил», — предупреждает профессор. Фотография, о которой идет речь, принадлежит архиву Estudio Fotográfico Arenas, основанному Хуаном Аренасом в начале XX века и просуществовавшему до конца 80-х годов. UMA приобрела его в 2008 году у одного из преемников, Бьенвенидо Гирадо. «Аренас работал в основном в прессе, поэтому у него есть очень богатый каталог важных мест Малаги каждого периода, особенно 40-х и 50-х годов», — говорит Висенте Мартинес, директор Центра технологий изображения Университета Малаги, где хранится множество послевоенных фотографий, отражающих бедность, от которой страдали многие семьи в городе в те десятилетия. В настоящее время в этом архиве насчитывается около 3000 опубликованных фотографий, хотя его фонды достигают 400 000. Чтобы облегчить доступ к ним для всех желающих, а не только для исследователей и историков, Алехандро Гарсия сейчас разрабатывает платформу Panoruma.es, которая поможет демократизировать доступ общественности к таким крупным историческим фондам, как этот.