В то время как Европейский союз готовится к применению своего закона об искусственном интеллекте, качество данных, питающих системы ИИ, привлекает меньше внимания, чем их соответствие нормам. Как отмечают авторы анализа, модель может успешно пройти заключительные тесты и соответствовать регуляторным требованиям, но это не гарантирует её технической надёжности.
Неопределённость относительно сроков действия европейского закона об ИИ, а также новые ожидаемые требования в рамках плана действий ЕС в области кибербезопасности и искусственного интеллекта, сильно занимают руководителей по информационной безопасности (CISO) европейских компаний. Чтобы считаться « надёжной », система ИИ должна успешно пройти тестирование в песочницах, то есть изолированных испытательных средах, и соответствовать конкретным регуляторным стандартам. Однако официальное соответствие и операционная безопасность не обязательно являются синонимами.
Данные, это наиболее часто упускаемое из виду звено. Если данные, предоставляемые моделям, являются избыточными, устаревшими или тривиальными (так называемые данные ROT), то проверки теряют свою силу.
Стандарты всё ещё неполны
Европейское регулирование в области ИИ продолжало развиваться в последние месяцы. Поскольку технические стандарты, необходимые для оценки соответствия, ещё не завершены, основной срок соответствия, применимый к системам ИИ, развёрнутым в средах высокого риска, был перенесён с августа 2026 года на декабрь 2027 года.
Чтобы компенсировать отсутствие оценочных ориентиров, Европейский союз опубликовал свой план действий через несколько недель после объявления об этом переносе. Этот план не добавляет никаких юридических ограничений. Вместо этого он предусматривает защищённые испытательные среды, руководящие принципы и инструменты оценки, которые следует использовать до любого коммерческого запуска, с целью безопасного развёртывания передовых систем ИИ и сохранения их соответствия регламенту об ИИ и директиве NIS2.
Согласно анализу, эта структура способствует разработке безопасных моделей, но охватывает лишь часть цепочки. Для получения сертификатов соответствия командам безопасности придётся детально изучать код и собирать доказательные документы. Тем не менее, безопасный и соответствующий нормам инструмент ИИ может выдавать некорректные результаты, если его использовать неправильно.
В большинстве случаев человеческая ошибка обнаруживается до того, как усугубится. Однако нечеловеческие идентичности и автономные агенты в средних компаниях в 82 раза превосходят по численности сотрудников-людей. С агентами ИИ ошибки распространяются очень быстро, а дефектная информация может исказить даже самую защищённую модель, не вызывая тревоги.
Скрытая стоимость данных
Компании тщательно изучают модели, но информация, которая их питает, получает меньше внимания. Когда вопрос данных поднимается, это происходит в основном под углом безопасности и редко под углом качества.
Около 80% данных, хранимых компаниями, находятся в неструктурированных форматах и содержат большое количество файлов ROT, накопленных за несколько десятилетий в устаревших облачных инфраструктурах. Питание агентов ИИ такими данными может их повредить и привести к решениям, основанным на искажённом анализе, вплоть до возникновения ситуаций несоответствия, даже когда тесты в песочницах оказываются успешными.
Управление этими паразитными, часто дублирующимися данными также порождает расходы, которые трудно выявить в учёте организаций. Вычислительные и облачные ресурсы задействуются для обработки бесполезной информации. Капитальные инвестиции (CapEx) крупных технологических групп, посвящённые искусственному интеллекту, превысили отметку в 650 миллиардов долларов, но, как отмечается в анализе, европейские нормативные акты до сих пор игнорируют стоимость данных, питающих эти системы.
