Скандал с искусственным интеллектом

«Особая благодарность Дарону Асемоглу за его руководство и поддержку», - пишет Эйдан Тонер-Роджерс в первой сноске к своей поразительной работе. Изначальный ход, который в свете произошедшего сочетает в себе хитрость и двусмысленность: поблагодарив тотем вроде Асемоглу - последнего лауреата Нобелевской премии по экономике, - автор признает щедрость наставника и в то же время тонко намекает, что эта поддержка защищает его самого. Ведь в глубине души поставить под сомнение его статью - значит, в какой-то мере поставить под сомнение и Асемоглу. Тот, кто предупреждает, не предает. Или предает? "Возможно, самый актуальный вопрос момента касается влияния искусственного интеллекта (ИИ, с этого момента), вопрос столь же насущный, сколь и трудноразрешимый. Влияние на что, на образование, на будущее работы, на общее благосостояние населения? Спустя несколько лет после массового внедрения ИИ, и в частности его «любимого дитяти», ChatGPT и его разновидностей, эти вопросы плавают в море анекдотов. Наверное, нет ни одного места, от научных конференций до барбекю с друзьями, где разговор не перешел бы к обмену опытом о том, как ИИ помогает, более или менее эффективно, в решении различных задач, дополняет или заменяет, заменят ли нас эти «предсказывающие попугаи». "У науки неоднозначные отношения с анекдотами: статистика, по сути, является их накоплением, но используется строго, чтобы избежать произвола. Именно поэтому контролируемый эксперимент является «Святым Граалем» причинно-следственного анализа: случайно назначив препарат одной группе, а не другой, любые наблюдаемые различия (например, температура тела) можно отнести к чистому следствию причины. С другой стороны, если ибупрофен дают только тем, кому холодно, то различия отражают начальные условия, а не действие препарата. Случайность - это ключ к отделению причины от следствия. "А теперь спросите себя, бросали ли вы когда-нибудь монетку, чтобы решить, стоит ли обращаться в ChatGPT, или знаете ли вы кого-нибудь (скажем, сдавшего психометрический тест), кто так делает. Исключение, похоже, составляют только Шелдон Купер из «Теории большого взрыва», который прибегает к этому методу, чтобы решить, есть ли гамбургер, или герои «Вавилонской лотереи», знаменитого рассказа Борхеса, где случай управляет судьбоносными решениями. Борхес и Шелдон: два примера, далеких от обывателя, который обращается к ИИ из любопытства или от отчаяния. Статья Тонера-Роджерса начинается с заявления о том, что он, похоже, наткнулся на настоящий Святой Грааль причинного исследования эффектов ИИ: «Случайное внедрение инструмента искусственного интеллекта для обнаружения материалов среди 1018 ученых в научно-исследовательской лаборатории крупной американской компании». И вот, найдя ключ к свету, который позволяет нам решить, возможно, самый сложный и насущный вопрос современности, он хирургическим путем приступает к разгадке тайны последствий ИИ. "И именно здесь эта заметка должна раскрыть тайну о причинно-следственных связях ИИ, о том, кому это выгодно, а кому нет. Но этого не происходит. Как и в тех сериалах, конец которых обрывается из-за нехватки бюджета или интереса, в этой истории все так далеко, потому что она, по сути, не соответствует действительности". Эмма Зунц«, тоже эпическая повесть Борхеса, заканчивается словами »только обстоятельства, время и одно или два собственных имени были ложными", в одной из самых ужасающих концовок в аргентинской литературе. Возможно, противоположное можно сказать о работе Тонера-Роджерса, в то время подающего надежды докторанта престижного Массачусетского технологического института, возможно, лучшей экономической школы в мире. За исключением самого Тонера-Роджерса (который действительно был студентом Асемоглу), все кажется продуктом той смеси остроумия и бесстыдства человека, который, почти оксюморонно, «хорошо врет»: компании, о которых идет речь, фальшивые, 1018 исследователей фальшивые, рандомизация использования ИИ фальшивая, и все, что вытекает из исследования, фальшивое, все кажется фальшивым. «Похоже, что это ложь» связано с тем, что в кратком, но уничтожающем коммюнике MIT предусмотрительно не приводится подробностей и ограничивается заявлением, что после детального внутреннего расследования «MIT ставит под сомнение происхождение, надежность и достоверность данных, а также правдивость исследований, представленных в статье». Статья была загружена на платформу arXiv, наиболее актуальное хранилище научных статей, и находилась на рассмотрении в Quarterly Journal of Economics, одном из трех самых престижных научных журналов в области экономики. После объявления MIT статья была немедленно отозвана, и больше нет никаких записей, связывающих Тонера-Роджерса с MIT. Неофициальные консультации, которые автор этой заметки провел с некоторыми своими коллегами-докторантами, говорят о том, что, как и в случае с офицерами, видевшими смерть льва Мануэля Сантильяна (песня кадиллаков Fabulosos), о Тонере-Роджерсе больше никто не слышал, он не делал никаких заявлений и не выражал официально свою позицию по этому скандалу. "Вопрос о влиянии искусственного интеллекта остается открытым, так же, как его нашел Тонер-Роджерс. Но этот случай вновь открывает ящик Пандоры интеллектуальной честности. В условиях напряженных отношений между академическими кругами и сторонниками Дональда Трампа многие воспользовались этим эпизодом, чтобы поставить под сомнение честность научной элиты. Неявная логика такова: если такое происходит в Массачусетском технологическом институте, то что же не может произойти в других местах? "Что мы можем узнать из дела Тонера-Роджерса о надежности науки? Почти ничего. Отдельных эпизодов и анекдотов недостаточно, чтобы подтвердить или опровергнуть общие утверждения. Верно, что универсальные квантификации могут рушиться при наличии контрпримера, но здесь уместно утверждать не то, что в академической среде не бывает позорных эпизодов, а то, что они происходят с ничтожной частотой. Вопиющий случай говорит о науке столько же, сколько пассажир, пропускающий кирпич через сканер, говорит о безопасности полетов. Ни наука, ни авиация не работают с нулевой погрешностью: цель не в том, чтобы исключить неудачи, а в том, чтобы резко снизить их вероятность. Потому что единственный способ избежать авиакатастроф - перестать летать. "Главный вопрос не в том, существуют ли ошибки, подобные ошибкам Тонера-Роджерса, а в том, как часто они происходят. И с этой точки зрения данный случай мало что добавляет к общей картине, если вообще что-то добавляет. Фактически, он был обнаружен и окончательно обезврежен самим MIT. Чего действительно не хватает, так это информации о случаях, которым удается остаться незамеченными в густой паутине рецензий, контррецензий и - во времена социальных сетей - комментариев и слухов, которые регулируют научные публикации. Система, в которой, благодаря любопытному сочетанию героизма и зависти, всегда найдется человек, готовый осудить любое сомнительное поведение своего коллеги. "Есть два вопроса, которые остаются без ответа. Первый - в какой степени ИИ был ключом к этому мошенничеству и насколько велика его вина. А также не позволит ли сам ИИ выявить эти постыдные случаи. В этом отношении тот факт, что кто-то с фамилией «Тонер» был «скопирован», - не что иное, как предчувствие, одно из тех, о которых так любят говорить конспирологи и предсказательные попугаи вроде ChatGPT. «Автор - профессор Университета Сан-Андреса (UdeSA)».