Пентагон запросил $30,3 млн на создание ИИ-детектора лжи

Правительство США намерено потратить $30,3 млн в течение следующих пяти лет на усовершенствованный детектор лжи. Программа, получившая название Polygraph+ или Polygraph Next, будет сосредоточена на алгоритмах оценки, использующих искусственный интеллект и машинное обучение, а также на технике «дистанционного зондирования» (standoff sensing), позволяющей снимать физиологические показатели без крепления устройства к телу человека.

Согласно деталям бюджетного документа, о которых впервые сообщило издание >, проект должен «модернизировать федеральные технологии полиграфа и оценки достоверности» для повышения их точности и надежности. Однако этот проект может оказаться лишь очередной в длинной череде неудачных попыток использовать технологии для распознавания лжи. «Это ошибочная попытка свести сложное к чему-то осязаемому», — говорит Кири Коцоглу, правовед из Университета Нортумбрии в Великобритании, изучающий применение полиграфов в системе правосудия.

Этот шаг предпринимается в период высокой напряженности внутри ведомства. При министре обороны Пите Хегсете Пентагон все чаще прибегает к проверкам на полиграфе, пытаясь найти источники предполагаемых утечек в прессу. В сентябре New York Times сообщила, что сотрудники Объединенного комитета начальников штабов прошли проверку на полиграфе после публикаций в СМИ об истощении запасов американского оружия в войне с Ираном. 

Программой Polygraph+ будет управлять Агентство оборонной контрразведки и безопасности (DCSA), которое проводит проверки биографических данных для федерального правительства. Согласно бюджетному документу, еще не одобренному Конгрессом, новая технология будет использоваться для проверки кандидатов на работу и «выявления внутренних угроз». Пока неясно, какие именно технологии будут задействованы, и DCSA не ответило на запрос о дополнительной информации. 

Однако другие усилия Пентагона дают возможные подсказки. В 2023 году Управление инноваций в области обороны (DIU) министерства провело открытый конкурсный отбор компаний, чьи продукты можно было бы использовать для выявления обмана.

Оно выбрало две компании: Presage Technologies, которая утверждает, что может измерять частоту сердечных сокращений и дыхания с помощью обычных камер, и Altec Research, производителя медицинских датчиков, осваивающего бесконтактные сенсорные технологии. Прототип технологии Altec, опубликованный DIU, показывает, что он отслеживает движение головы, температуру кожи лица и активность пор. Presage Technologies и Altec Research не ответили на запросы о комментариях. DIU отказалось от комментариев. 

Altec Research has built a prototype that tracks head movement, facial skin temperature and pore activity.
Altec Research has built a prototype that tracks head movement, facial skin temperature, and pore activity.
ALTEC RESEARCH

Современные технологии детекции лжи почти не изменились с момента появления полиграфа. Эксперты полагаются на измерения артериального давления, пульса, дыхания и потоотделения, чтобы определить, лжет ли человек. Они делают выводы о правдивости ответов на основании различий в физиологической реакции на базовые вопросы вроде «Небо синее?» и целевые вопросы вроде «Вы когда-нибудь совершали преступление?».

Федеральное правительство ежегодно проводит десятки тысяч таких тестов при проверке сотрудников, но надежность этой технологии неоднократно оспаривалась, а ее результаты редко принимаются в суде. В 1983 году Управление по оценке технологий Конгресса постановило, что доказательств в поддержку использования полиграфа для проверки сотрудников крайне мало, а в 2003 году Национальный исследовательский совет США (NRC) заявил, что доказательства его эффективности «в лучшем случае слабые». 

Исследования показывают, что люди способны распознать ложь чуть чаще, чем в половине случаев, без каких-либо технических средств. Американская ассоциация полиграфологов утверждает, что точность полиграфа составляет от 80% до 94%. Однако в отчете NRC 2003 года отмечалось, что даже при такой точности скрининговый тест может привести ко множеству ошибок. В Министерстве обороны работают 2,8 млн человек; несовершенная система, примененная в таком масштабе, может в итоге ложно обвинить десятки тысяч.

Есть и другие проблемы. Интерпретация результатов полиграфа часто субъективна, а представители групп меньшинств чаще оцениваются как лживые. Более того, при подготовке испытуемые могут освоить различные контрмеры, помогающие обойти тест; например, они могут искусственно усилить свою физиологическую реакцию на базовые вопросы, наступив на спрятанную в обуви кнопку. 

«Если вы знаете, как это работает, вы можете это обойти», — говорит Софи ван дер Зее, доцент, изучающая обман в Университете Эразма в Роттердаме. По ее словам, самый большой эффект аппарата — сдерживающий: часто испытуемые признаются еще до его начала. «Но это работает только в том случае, если люди верят, что полиграф работает», — отмечает она.

Различные новые стратегии детекции лжи испытывались десятилетиями — от тепловизионных камер до трекинга зрачков и сканирования мозга. Ни одна из них не дала надежных результатов за пределами лаборатории. Проблема в том, что не существует единого верного признака лжи для всех людей и во всех ситуациях. «Носа Пиноккио по-прежнему нет», — говорит ван дер Зее. 

Теоретически ИИ мог бы помочь, если бы сумел найти в данных закономерности, недоступные экспертам. Алгоритмы ИИ также чаще применяются для «мультимодального» выявления обмана, которое стремится объединить множество измерений в общую оценку лживости, которую людям сложнее обмануть. По словам ван дер Зее, под поверхностью происходят три вещи, на которые пытается нацелиться детекция лжи: физиологический стресс, когнитивная нагрузка и сознательные усилия человека скрыть факт лжи. Нынешняя технология полиграфа охватывает только одну из них.«Чем больше у вас будет комбинированных методов, подходящих к этому с трех разных сторон, тем успешнее вы будете», — говорит ван дер Зее. Это не новая концепция: в 2000-х исследователи из Манчестерского столичного университета в Великобритании разработали систему под названием r, которая вычисляла оценку обмана по видеозаписи. Позже она была включена в iBorderCtrl — пилотную программу, финансируемую ЕС. В США проект AVATAR объединил отслеживание глаз, анализ голоса и обнаружение движений тела в инструмент для использования на пограничных переходах. Все эти проекты тихо сошли на нет. 

Коцоглу называет сочетание ИИ и полиграфа «худшим из обоих миров», поскольку оно добавляет неопределенность к недействительности. Даже если ИИ или машинное обучение сможет обнаружить ранее незамеченные закономерности в физиологических данных, он не сможет надежно связать их с ложью, поскольку не существует реального эталона истины. 

«Даже если у вас есть все записи полиграфических тестов в мире, вы не знаете, верны эти тесты или нет», — говорит Мэрион Освальд, профессор права, которая вместе с Коцоглу писала об использовании полиграфов в системе правосудия. Она опасается, что новые формы детекции лжи, как и полиграф, будут использоваться скорее как психологическая опора, чем как научный инструмент. 

«Это выглядит как реакция на озабоченность нынешней администрации утечками и предполагаемым отсутствием лояльности», — говорит Освальд. «[Детекция лжи] используется как угроза, чтобы запугивать и принуждать людей признаваться в чем-либо, а не как нечто, действительно дающее достоверную информацию».