Соединенные Штаты начали использовать предиктивный искусственный интеллект в тюрьмах

В США телекоммуникационная компания обучила модель искусственного интеллекта на основе многолетних телефонных и видеозвонков заключенных. Компания Securus Technologies в настоящее время тестирует эту систему для сканирования в режиме реального времени звонков, текстовых сообщений и электронных писем. Цель — предсказывать преступления до их совершения. Как объясняется в статье, опубликованной на этой неделе в The MIT Technology Review, Securus использует базу данных, созданную на основе записей, сделанных в течение десятилетий. Только часть обучения включала семь лет звонков из пенитенциарной системы Техаса. Компания утверждает, что ее модели могут обнаруживать преступные намерения в повседневных разговорах, отмечая фрагменты, которые затем сотрудники решают передать или не передавать для расследования. Компания утверждает, что это помогло сдержать торговлю людьми и деятельность банд, но не представила конкретных случаев, полученных с помощью новых моделей. Заключенные знают, что их разговоры записываются, но не знают, что эти данные поступают в модели искусственного интеллекта, которые будут использоваться для прослушивания их текущих разговоров. Для таких организаций, как Worth Rises, согласие отсутствует, поскольку система не предоставляет альтернативных способов общения с родственниками. Кроме того, в большинстве штатов звонки оплачиваются семьями заключенных, что создает парадоксальную ситуацию, когда те, кто генерирует данные, платят за их производство и снова платят, когда эти данные используются для наблюдения. Критика объясняется не только отсутствием согласия. Securus имеет историю спорных практик, таких как утечки информации, которые сделали общедоступными тысячи защищенных разговоров между заключенными и их адвокатами. Американский союз гражданских свобод предупредил, что новый инструмент расширяет возможности слежения без надежных регуляторных ограничений. Но дискуссия выходит за пределы тюрем: если система гарантирует возможность обнаружения «мыслей о преступлениях», граница между профилактикой и постоянным мониторингом становится размытой. Внедрение этих технологий также совпало с изменением в регулировании. В 2024 году Федеральная комиссия по связи (FCC) запретила таким компаниям, как Securus, перекладывать расходы на запись и наблюдение на заключенных. Эта мера была направлена на сокращение злоупотреблений и предотвращение зависимости безопасности от тарифов, оплачиваемых заключенными. Политическая реакция не заставила себя ждать. Ассоциации шерифов и генеральных прокуроров выступили против. Некоторые тюрьмы предупредили, что ограничат доступ к телефонным звонкам. В этой ситуации Securus оказала давление на FCC, чтобы отменить ограничения. В июне комиссар Брендан Карр объявил об отсрочке сроков внедрения и открыл возможность финансирования инструментов ИИ за счет сборов, уплачиваемых заключенными. В октябре агентство утвердило новые, более высокие пределы и разрешило компаниям переносить расходы на хранение, транскрипцию и создание систем ИИ. Единственным несогласным была комиссар Анна Гомес, которая указала, что расходы на безопасность должны нести правоохранительные органы, а не семьи. Дело Securus демонстрирует ситуацию, в которой сочетаются технологии, институциональная власть и отсутствие альтернатив. Общественная дискуссия по-прежнему сосредоточена на эффективности и затратах, но центральная проблема заключается в другом: кто контролирует модель, кто определяет использование данных и кто несет ответственность, когда инструмент, обещающий предотвращать преступления, превращается в систему наблюдения без четких границ.