Пентагон запрашивает $30,3 млн на создание детектора лжи с искусственным интеллектом

Правительство США намерено потратить 30,3 миллиона долларов в течение следующих пяти лет на усовершенствованный детектор лжи. Программа под названием Polygraph+ или Polygraph Next будет сосредоточена на алгоритмах оценки, использующих искусственный интеллект и машинное обучение, а также на методике «бесконтактного считывания», позволяющей получать физиологические показатели без прикрепления устройства к телу испытуемого.

Согласно деталям бюджетного документа, о которых впервые сообщило издание, проект должен «модернизировать федеральные технологии полиграфа и оценки достоверности» для повышения их точности и надёжности. Однако этот проект может стать лишь очередной попыткой использовать технологии для распознавания лжи, которых уже было немало. «Это ошибочная попытка свести сложное к чему-то осязаемому», — говорит Кири Коцоглу, правовед из Университета Нортумбрии в Великобритании, изучающий применение полиграфов в системе правосудия.

Инициатива реализуется в период высокой напряжённости внутри ведомства. При министре обороны Пите Хегсете Пентагон всё чаще прибегает к проверкам на полиграфе, пытаясь найти источники предполагаемых утечек в прессу. В сентябре New York Times сообщила, что сотрудников Объединённого комитета начальников штабов проверяли на полиграфе после публикаций об истощении запасов американского оружия в войне с Ираном. 

Проект Polygraph+ будет курировать Агентство оборонной контрразведки и безопасности (DCSA), которое проводит проверки для федерального правительства. По данным бюджетного документа, ещё не одобренного Конгрессом, новая технология будет использоваться для проверки кандидатов на работу и «выявления внутренних угроз». Пока неясно, какие именно технологии будут задействованы, и DCSA не ответило на запрос о дополнительной информации. 

Однако другие инициативы Пентагона дают возможные подсказки. В 2023 году Управление оборонных инноваций (DIU) министерства провело открытый отбор компаний, чьи продукты можно было бы использовать для обнаружения обмана.

Оно выбрало две: Presage Technologies, которая утверждает, что может измерять частоту сердечных сокращений и дыхания с помощью обычных камер, и Altec Research, компанию по производству медицинских сенсоров, осваивающую бесконтактные технологии. Прототип Altec, опубликованный DIU, отслеживает движение головы, температуру кожи лица и активность пор. Presage Technologies и Altec Research не ответили на запросы о комментариях. DIU от комментариев отказалось. 

Altec Research has built a prototype that tracks head movement, facial skin temperature and pore activity.
Altec Research has built a prototype that tracks head movement, facial skin temperature, and pore activity.
ALTEC RESEARCH

Современные технологии детекции лжи почти не изменились с момента создания полиграфа. Эксперты оценивают кровяное давление, пульс, дыхание и потоотделение, чтобы определить, лжёт ли человек. Они судят о правдивости ответов по различиям в физиологической реакции на базовые вопросы вроде «Небо синее?» и целевые вопросы вроде «Вы когда-нибудь совершали преступление?».

Федеральное правительство ежегодно проводит десятки тысяч таких тестов при проверке сотрудников, однако надёжность этой технологии неоднократно оспаривалась, а её результаты редко принимаются в суде. В 1983 году Управление по оценке технологий Конгресса установило, что доказательств в поддержку использования полиграфа для проверки сотрудников крайне мало, а в 2003 году Национальный исследовательский совет США (NRC) назвал доказательства его эффективности «в лучшем случае слабыми». 

Исследования показывают, что люди без технической помощи распознают ложь чуть лучше, чем в половине случаев. Американская ассоциация полиграфологов утверждает, что точность полиграфа составляет от 80% до 94%. Но в отчёте NRC 2003 года отмечалось, что даже при такой точности скрининговый тест может привести к множеству ошибок. В Министерстве обороны работают 2,8 миллиона человек; несовершенная система в таких масштабах может ложно обвинить десятки тысяч.

Есть и другие проблемы. Интерпретация результатов полиграфа часто субъективна, и представителей меньшинств чаще признают лживыми. Более того, при обучении испытуемые могут освоить различные контрмеры, помогающие обойти тест; например, искусственно усилить физиологическую реакцию на базовые вопросы, наступив на спрятанную в обуви кнопку. 

«Если вы знаете, как это работает, вы можете это обойти», — говорит Софи ван дер Зе, доцент, изучающая обман в Университете Эразма в Роттердаме. По её словам, главный эффект машины — сдерживающий: часто испытуемые признаются ещё до начала теста. «Но это работает только если люди верят, что полиграф работает», — отмечает она.

Различные новые стратегии детекции лжи испытывались годами, от тепловизоров до трекеров зрачков и сканирования мозга. Ни одна из них не дала надёжных результатов вне лаборатории. Проблема в том, что нет единого признака лжи, верного для всех и всегда. «Носа Пиноккио до сих пор нет», — говорит ван дер Зе. 

Теоретически ИИ мог бы помочь, если бы находил в данных закономерности, недоступные экспертам. Алгоритмы ИИ также чаще применяются для «мультимодальной» детекции обмана, которая объединяет множество измерений в общую оценку лжи, которую сложнее обмануть. По словам ван дер Зе, под поверхностью происходят три вещи, на которые нацелена детекция лжи: физиологический стресс, когнитивная нагрузка и сознательные усилия человека скрыть ложь. Нынешняя технология полиграфа охватывает лишь одну.«Чем больше вы сможете объединить методов, подходящих с этих трёх разных сторон, тем успешнее будете», — говорит ван дер Зе. Это не новая концепция: в 2000-х исследователи из Манчестерского столичного университета в Великобритании разработали систему, которая вычисляла оценку обмана по видеозаписи. Позже она была включена в iBorderCtrl, пилотную программу, финансируемую ЕС. В США проект AVATAR объединил отслеживание глаз, анализ голоса и распознавание движений тела в инструмент для пограничных переходов. Все эти проекты тихо сошли на нет. 

Коцоглу называет сочетание ИИ и полиграфа «худшим из обоих миров», поскольку оно добавляет неопределённость к невалидности. Даже если ИИ или машинное обучение сможет обнаружить ранее незаметные закономерности в физиологических данных, он не сможет надёжно связать их со ложью, поскольку нет истинного критерия. 

«Даже если у вас есть все записи полиграфических тестов мира, вы не знаете, верны эти тесты или нет», — говорит Мэрион Освальд, профессор права, публиковавшаяся с Коцоглу о применении полиграфов в системе правосудия. Она опасается, что новые формы детекции лжи, как и полиграф, будут использоваться скорее как психологический рычаг, чем как научный инструмент. 

«Это выглядит как реакция на озабоченность нынешней администрации утечками и perceived нехваткой лояльности», — говорит Освальд. «[Детекция лжи] используется как угроза, чтобы запугивать и заставлять людей признаваться в чём-либо, а не для получения достоверной информации».