Цифровая перегрузка может ослабить бдительность и облегчить манипуляции, согласно анализу, посвященному технострессу и когнитивному суверенитету, подписанному Эриком Фарро, экспертом Orange Group, и опубликованному ZATAZ. Техностресс, то есть стресс, связанный с интенсивным использованием цифровых инструментов, таким образом, присоединяется к человеческим факторам, которые социальная инженерия, направленная на то, чтобы заставить человека принять определенное поведение, использует для провоцирования рискованного решения.
Перегрузка подготавливает почву для манипуляции
Одно уведомление прерывает поиск, другое заставляет сменить приложение, сообщение требует немедленного ответа, а техническое оповещение ждет подтверждения. Каждое из этих требований может казаться оправданным. Однако их накопление фрагментирует мышление и усложняет расстановку приоритетов.
Эрик Фарро описывает дисбаланс между когнитивными способностями человека и информационными средами, которые постоянно требуют внимания пользователей. Рабочая память, которая временно удерживает информацию, необходимую для выполнения задачи, сохраняет ограниченное количество элементов. Внимание выбирает те из них, которые будут обработаны. Когда требования превышают эти ресурсы, понимание ситуации может ухудшиться.
Это ограничение напрямую затрагивает область социальной инженерии. Киберпреступник стремится получить информацию, открытие документа, принятие подключения или выполнение операции. Чтобы достичь этого, он может опираться на усталость, срочность и трудность одновременной проверки нескольких элементов. Каналом подхода остается электронная почта, звонок, мессенджер или личное взаимодействие, в то время как перегрузка создает условия, при которых предлог становится более эффективным.
Анализ приводит пример иллюстративного сценария: человек получает несколько требований, представленных как приоритетные, затем собеседник, выдающий себя за сотрудника IT-поддержки, предлагает ему «решить проблему». Обещание восстановить нормальную работу может способствовать поспешному подтверждению. Этот случай описывает возможный механизм и не соответствует инциденту, описанному в анализе.
Таким образом, профилактика касается и организации труда. Процедура проверки должна оставаться выполнимой в период загруженности, потому что если каждый контроль добавляет непропорциональные трудности, искушение сократить путь возрастает. Интерфейсы, схемы утверждения и управление прерываниями таким образом участвуют в сопротивлении манипуляциям.
Автоматизация смещает давление и риски
Автономные агенты, системы, способные самостоятельно выполнять последовательности операций, могут взять на себя часть работы. Человек становится тогда надзирателем за решениями или действиями, все этапы которых он не обязательно отслеживает. Эрик Фарро подчеркивает, что эта эволюция трансформирует когнитивную нагрузку, не гарантируя ее уменьшения.
Надзиратель должен понимать результаты, выявлять аномалии и знать, когда вмешаться. Обычно надежная автоматизация может, однако, снизить активную бдительность. Когда происходит необычное событие, необходимо быстро восстановить контекст и принять решение под давлением — ситуация, в которой злонамеренный собеседник мог бы сослаться на сбой инструмента, срочное исключение или подтверждение, представленное как необходимое.
Некоторые технологии также пытаются оценить усталость или умственную нагрузку. Анализ упоминает, в частности, пупиллометрию (измерение изменений размера зрачка), вариабельность сердечного ритма, электродермальную активность (изменения проводимости кожи) и некоторые характеристики нажатия клавиш. Рассматриваемая цель — адаптировать помощь, упрощая информацию, изменяя распределение контроля или переводя систему в безопасный режим. Сразу возникает вопрос: кто может получить доступ к этим оценкам уязвимости и для каких целей?
Эрик Фарро также описывает теоретический риск для центров мониторинга. Актор, контролирующий одновременно поток оповещений и оценку когнитивного состояния аналитиков, мог бы попытаться вызвать насыщение в подходящий момент. Таким образом, защита касается собираемых данных, производимых выводов и действий, которые могут из них следовать. Локальная обработка, ограничение централизации и разделение использования входят в число рассматриваемых направлений.
