Пентагон запрашивает $30 млн на создание ИИ-детектора лжи

Правительство США намерено потратить $30,3 млн в течение следующих пяти лет на усовершенствованный детектор лжи, согласно бюджетным документам. Программа, получившая название Polygraph+ или Polygraph Next, сосредоточится на алгоритмах оценки с использованием искусственного интеллекта и машинного обучения, а также на технологии «дистанционного зондирования» (standoff sensing), позволяющей снимать физиологические показатели без прикрепления устройства к человеку.

Как впервые сообщило издание, детали бюджетного документа указывают, что проект призван «модернизировать федеральные технологии полиграфа и оценки достоверности» для повышения их точности и надёжности. Однако этот проект может стать лишь очередной попыткой в длинном ряду неудач по использованию технологий для распознавания лжи. «Это ошибочная попытка свести сложное к чему-то осязаемому», — говорит Кири Коцоглу, правовед из Университета Нортумбрии в Великобритании, изучающий применение полиграфов в системе правосудия.

Это происходит в период высокой напряжённости внутри ведомства. При министре обороны Пите Хегсете Пентагон всё чаще прибегает к полиграфическим проверкам, пытаясь найти источники предполагаемых утечек в прессу. В сентябре The New York Times сообщила, что сотрудники Объединённого комитета начальников штабов прошли проверку на полиграфе после публикаций о истощении запасов американского оружия в войне с Ираном.

Программу Polygraph+ будет курировать Агентство оборонной контрразведки и безопасности (DCSA), которое проводит проверки для федерального правительства. Согласно бюджетному документу, ещё не одобренному Конгрессом, новая технология будет использоваться для проверки потенциальных сотрудников и «выявления внутренних угроз». Пока неясно, какие именно технологии будут задействованы, и DCSA не ответило на запрос о дополнительной информации.

Однако другие усилия Пентагона дают возможные подсказки. В 2023 году Управление инноваций обороны (DIU) при министерстве провело открытый отбор компаний, чьи продукты могли бы применяться для выявления обмана.

Были выбраны две компании: Presage Technologies, утверждающая, что может измерять частоту сердечных сокращений и дыхания с помощью обычных камер, и Altec Research, производитель медицинских датчиков, теперь осваивающий бесконтактные сенсорные технологии. Прототип технологии Altec, опубликованный DIU, отслеживает движение головы, температуру кожи лица и активность пор. Presage Technologies и Altec Research не ответили на запросы о комментариях. DIU отказалось от комментариев.

Altec Research has built a prototype that tracks head movement, facial skin temperature and pore activity.
Altec Research has built a prototype that tracks head movement, facial skin temperature, and pore activity.
ALTEC RESEARCH

Современные технологии детекции лжи почти не изменились с момента изобретения полиграфа. Эксперты оценивают артериальное давление, пульс, дыхание и потоотделение, чтобы определить, лжёт ли человек. Они делают выводы о правдивости ответов на основе различий в физиологической реакции на контрольные вопросы вроде «Небо синее?» и значимые вопросы вроде «Вы когда-нибудь совершали преступление?».

Федеральное правительство ежегодно проводит десятки тысяч таких тестов при проверке сотрудников, но надёжность этой технологии неоднократно оспаривалась, а её результаты редко принимаются судом. В 1983 году Управление по оценке технологий Конгресса заключило, что доказательств в поддержку использования полиграфа для проверки сотрудников крайне мало, а в 2003 году Национальный исследовательский совет США (NRC) назвал доказательства его эффективности «в лучшем случае слабыми».

Исследования показывают, что люди способны распознать ложь чуть более чем в половине случаев без технической помощи. Американская полиграфическая ассоциация утверждает, что точность полиграфа составляет от 80% до 94%. Однако доклад NRC 2003 года отметил, что даже при такой точности скрининговый тест может приводить ко множеству ошибок. В Министерстве обороны работают 2,8 млн человек; несовершенная система в таком масштабе может привести к ложным обвинениям десятков тысяч.

Есть и другие проблемы. Интерпретация результатов полиграфа часто субъективна, и представители меньшинств чаще оцениваются как лживые. Более того, при обучении можно освоить различные контрмеры, помогающие обойти тест; например, искусственно усилить физиологическую реакцию на контрольные вопросы, наступив на спрятанную в обуви кнопку.

«Если вы знаете, как это работает, вы можете это обойти», — говорит Софи ван дер Зее, доцент, изучающая обман в Университете Эразма в Роттердаме. По её словам, главный эффект аппарата — сдерживающий: часто испытуемые признаются ещё до его начала. «Но это работает только если люди верят, что полиграф действует», — отмечает она.

Различные новые стратегии детекции лжи испытывались годами: от тепловизионных камер до трекинга зрачков и сканирования мозга. Ни одна не дала надёжных результатов вне лаборатории. Проблема в том, что нет единственного верного признака лжи для всех и всегда. «Носа Пиноккио до сих пор нет», — говорит ван дер Зее.

Теоретически ИИ мог бы помочь, если бы находил закономерности в данных, недоступные экспертам. Алгоритмы ИИ также чаще применяются для «мультимодального» выявления обмана, объединяющего множество измерений в общую оценку лжи, которую труднее обмануть. По словам ван дер Зее, под поверхностью происходит три вещи, на которые нацелена детекция лжи: физиологический стресс, когнитивная нагрузка и сознательные усилия человека скрыть ложь. Нынешняя полиграфическая технология охватывает лишь одну из них.«Чем больше комбинированных методов, подходящих с этих трёх разных углов, тем успешнее будет результат», — говорит ван дер Зее. Это не новая концепция: в 2000-х исследователи из Манчестерского столичного университета в Великобритании разработали систему, которая вычисляла оценку обмана по видеозаписи. Позже она была включена в iBorderCtrl — пилотную программу, финансируемую ЕС. В США проект под названием AVATAR объединил отслеживание глаз, анализ голоса и детекцию движений тела в инструмент для пограничных переходов. Все эти проекты тихо сошли на нет.

Коцоглу называет сочетание ИИ и полиграфа «худшим из обоих миров», поскольку оно добавляет неопределённость к недействительности. Даже если ИИ или машинное обучение смогут обнаружить ранее незаметные закономерности в физиологических данных, они не смогут надёжно связать их с ложью, потому что нет реальной «эталонной истины».

«Даже если у вас есть все записи полиграфических тестов в мире, вы не знаете, верны ли эти тесты или нет», — говорит Мэрион Освальд, профессор права, писавшая вместе с Коцоглу об использовании полиграфов в системе правосудия. Она опасается, что новые формы детекции лжи, как и полиграф, будут использоваться скорее как психологический рычаг, чем как научный инструмент.

«Это выглядит как реакция на озабоченность нынешней администрации утечками и предполагаемой нелояльностью, — говорит Освальд. — [Детекция лжи] используется как угроза, чтобы запугивать и заставлять людей признаваться в чём-либо, а не для получения достоверной информации».