К инициативе присоединились Cisco, CrowdStrike, IBM, Hugging Face, Palantir, Red Hat, Salesforce, SAP, ServiceNow, Siemens и Фонд Linux. Участники намерены совместно разрабатывать открытые модели, агентные платформы и инструменты, которые компании смогут проверять, дорабатывать и запускать на собственной инфраструктуре.

В NVIDIA объясняют инициативу распространением автономных ИИ-агентов, которые получают доступ к корпоративным системам и могут выполнять действия без постоянного участия человека. Для их защиты требуется контролировать права доступа, журналы операций и изоляцию среды, а также проверять механизмы, управляющие поведением агентов. Альянс намерен сделать такие компоненты доступными для независимого аудита и совместной доработки.

При этом участники не предлагают отказаться от закрытых разработок.

В официальном сообщении NVIDIA говорится: "Миру нужны и закрытые, и открытые модели".

Компании смогут использовать системы разных типов в зависимости от задачи, сохраняя возможность самостоятельно проверять и настраивать открытые решения при работе с критической инфраструктурой и чувствительными данными.

Практическая часть проекта уже включает несколько разработок. NVIDIA передает альянсу открытые модели, данные и исследовательскую платформу NOOA, предназначенную для тестирования и аудита поведения ИИ-агентов. Microsoft предоставляет систему MDASH, которая объединяет более 100 специализированных агентов для поиска и подтверждения уязвимостей в программном коде.

По данным Microsoft, с ее помощью были обнаружены 16 ранее неизвестных уязвимостей в сетевых и аутентификационных компонентах Windows, включая четыре критические ошибки удаленного выполнения кода.

Одним из аргументов в пользу такого подхода NVIDIA называет недавний инцидент с Hugging Face. Во время расследования атаки компания запустила открытую модель GLM 5.2 на собственной инфраструктуре и использовала ее для анализа более 17 тыс. действий, поскольку закрытые инструменты блокировали часть операций по расследованию.

Этот случай показывает практическое значение доступа к модели, которую служба безопасности может самостоятельно развернуть и адаптировать под конкретный инцидент.

Для корпоративного рынка проект важен из-за усложнения ИИ-инфраструктуры, где одновременно используются облачные сервисы, собственные модели и агентные решения разных поставщиков. Альянс планирует развивать общие наборы данных, инструменты оценки и симуляторы атак, чтобы компании могли проверять безопасность таких систем независимо от конкретного разработчика.

В результате крупнейшие участники рынка пытаются сформировать общий технологический слой киберзащиты прежде, чем автономные ИИ-агенты получат массовый доступ к корпоративным процессам.

Источник: Царьград.

Больше новостей читайте в сообществе SAPLAND в ВК и телеграм-канале SAPLAND: Новости экосистемы.