Пентагон запрашивает $30,3 млн на создание детектора лжи с искусственным интеллектом

Правительство США намерено потратить $30,3 млн в течение следующих пяти лет на усовершенствованную форму детектора лжи. Программа под названием Polygraph+ или Polygraph Next сосредоточится на алгоритмах оценки с использованием искусственного интеллекта и машинного обучения, а также на технике «дистанционного зондирования» (standoff sensing), позволяющей снимать физиологические показания без прикрепления устройства к телу испытуемого.

Согласно деталям бюджетного документа, о которых впервые сообщило издание, проект должен «модернизировать федеральные технологии полиграфа и оценки достоверности» для повышения их точности и надёжности. Однако проект может стать лишь очередной попыткой использовать технологии для выявления лжи. «Это ошибочная попытка свести сложное к чему-то осязаемому», — говорит Кири Коцоглу, правовед из Университета Нортумбрии в Великобритании, изучающий применение полиграфов в системе правосудия.

Это происходит в период высокой напряжённости в ведомстве. При министре обороны Пите Хегсете Пентагон всё чаще прибегает к проверкам на полиграфе, пытаясь найти источники предполагаемых утечек в прессу. В сентябре New York Times сообщила, что сотрудники Объединённого комитета начальников штабов прошли проверку на полиграфе после публикаций о истощении запасов американского оружия в войне с Ираном. 

Программу Polygraph+ будет курировать Агентство оборонной контрразведки и безопасности (DCSA), которое проводит проверки для федерального правительства. Согласно бюджетному документу, ещё не одобренному Конгрессом, новая технология будет использоваться для проверки потенциальных сотрудников и «выявления внутренних угроз». Пока неясно, какие именно технологии будут задействованы, и DCSA не ответило на запрос о дополнительной информации. 

Однако другие усилия Пентагона дают возможные подсказки. В 2023 году Управление инноваций в оборонной сфере (DIU) провело открытый конкурс для поиска компаний с продуктами, которые можно использовать для обнаружения обмана.

Оно выбрало Presage Technologies, заявляющую о способности измерять частоту сердечных сокращений и дыхания с помощью обычных камер, и Altec Research, компанию по производству медицинских датчиков, которая теперь развивает технологии бесконтактного зондирования. Прототип технологии Altec, опубликованный DIU, показывает, что он отслеживает движение головы, температуру кожи лица и активность пор. Presage Technologies и Altec Research не ответили на запросы о комментариях. DIU отказалось от комментариев. 

Altec Research has built a prototype that tracks head movement, facial skin temperature and pore activity.
Altec Research has built a prototype that tracks head movement, facial skin temperature, and pore activity.
ALTEC RESEARCH

Современные технологии детекции лжи почти не изменились с момента изобретения полиграфа. Экзаменаторы полагаются на измерение артериального давления, пульса, дыхания и потоотделения, чтобы определить, лжёт ли человек. Они судят о правдивости ответов по различиям в физиологической реакции на базовые вопросы вроде «Небо голубое?» и целевые вопросы вроде «Вы когда-нибудь совершали преступление?».

Федеральное правительство ежегодно проводит десятки тысяч таких тестов при проверке сотрудников, но надёжность этой технологии неоднократно оспаривалась, а её результаты редко принимаются судом. В 1983 году Управление по оценке технологий Конгресса установило, что существует очень ограниченное количество доказательств в поддержку использования полиграфа для проверки сотрудников, а в 2003 году Национальный исследовательский совет США (NRC) заявил, что доказательства его эффективности «в лучшем случае слабые». 

Исследование показывает, что люди могут распознать ложь чуть более чем в половине случаев без технической помощи. Американская ассоциация полиграфологов заявляет, что точность полиграфа составляет от 80% до 94%. Но отчёт NRC 2003 года отметил, что скрининговый тест с таким уровнем точности всё равно может привести ко множеству ошибок. В Министерстве обороны работают 2,8 млн человек; несовершенная система в таком масштабе может в итоге ложно обвинить десятки тысяч.

Есть и другие проблемы. Интерпретации полиграфа часто субъективны, и представители меньшинств с большей вероятностью оцениваются как лживые. Более того, при тренировке испытуемые могут освоить различные контрмеры, помогающие обойти тест; например, они могут искусственно усилить физиологическую реакцию на базовые вопросы, наступив на спрятанную в обуви кнопку. 

«Если вы знаете, как это работает, вы можете это обойти», — говорит Софи ван дер Зее, доцент, изучающая обман в Университете Эразма в Роттердаме. По её словам, самый большой эффект машины — сдерживание: часто испытуемые признаются ещё до начала теста. «Но это работает только если люди думают, что полиграф работает», — отмечает она.

Различные новые стратегии детекции лжи предпринимались годами, с использованием технологий от тепловизоров до трекеров зрачков и сканирования мозга. Ни одна из них не дала надёжных результатов вне лаборатории. Проблема в том, что нет единого верного признака лжи для всех и всегда. «Носа Пиноккио до сих пор нет», — говорит ван дер Зее. 

ИИ теоретически мог бы помочь, если бы нашёл в данных закономерности, недоступные экзаменаторам. Алгоритмы ИИ также чаще используются для «мультимодального» обнаружения обмана, которое стремится объединить несколько измерений в общую оценку лжи, которую сложнее обмануть. По словам ван дер Зее, под поверхностью происходят три вещи, на которые пытается нацелиться детекция лжи: физиологический стресс, когнитивная нагрузка и сознательные усилия человека скрыть ложь. Современная технология полиграфа охватывает только одну. «Чем больше у вас будет комбинированных методов, подходящих с этих трёх разных углов, тем успешнее вы будете», — говорит ван дер Зее. Это не новая концепция: в 2000-х исследователи из Манчестерского столичного университета в Великобритании разработали систему под названием, которая генерировала оценку обмана по видеозаписи. Позже она была включена в iBorderCtrl — пилотную программу, финансируемую ЕС. В США проект под названием AVATAR объединил отслеживание глаз, анализ голоса и обнаружение движений тела в инструмент для использования на пограничных переходах. Все эти проекты тихо канули в прошлое. 

Коцоглу говорит, что сочетание ИИ и полиграфа — «худшее из обоих миров», потому что оно добавляет неопределённость к недействительности. Даже если ИИ или машинное обучение смогут обнаружить ранее незамеченные закономерности в физиологических данных, они не смогут надёжно связать их с ложью, поскольку нет реальной «эталонной истины». 

«Даже если у вас есть все записи полиграфических тестов в мире, вы не знаете, верны эти тесты или нет», — говорит Мэрион Освальд, профессор права, писавшая вместе с Коцоглу о применении полиграфов в системе правосудия. Она опасается, что новые формы детекции лжи, как и полиграф, будут использоваться скорее как психологическая опора, чем как научный инструмент. 

«Это выглядит как ответ на озабоченность нынешней администрации утечками и воспринимаемой нехваткой лояльности», — говорит Освальд. «[Детекция лжи] используется как угроза, чтобы запугивать и заставлять людей признаваться в чём-либо, а не для получения достоверной информации».