Cisco использует мифы Клода из Anthropic в защите ИИ для объединения агентов ИИ в красной команде

В понедельник (9 ноября) на мероприятии Cisco Live в Азиатско-Тихоокеанском регионе и Японии в Мельбурне, Австралия, компания Cisco объявила, что ее платформа AI Defense будет включать в себя недавно выпущенную пограничную модель Claude Mythos от Anthropic для адаптивной красной команды искусственного интеллекта, используя принцип состязательного подхода для моделирования реальных атак и тестирования корпоративных приложений искусственного интеллекта и агентских систем.

Модель Frontier для имитации реальных атак

Согласно заявлению Cisco, Claude Mythos предлагает передовые состязательные рассуждения, которые AI Defense будет использовать для проведения непрерывных состязательных тестов корпоративных приложений ИИ и автономных агентов, выявляя слабые места, которыми злоумышленники могут воспользоваться, прежде чем модели будут запущены в эксплуатацию. В Cisco заявили, что с момента запуска в январе 2025 года AI Defense помогла сотням клиентов найти критические недостатки перед развертыванием. Claude Mythos является частью нового семейства моделей Anthropic, представленного в тот же день вместе с Fable и предназначенного для решения передовых задач рассуждения.

Инструменты наблюдения за агентами запущены одновременно

Cisco также представила Splunk Agent Observability и новые возможности Cisco IQ, которые помогут предприятиям отслеживать поведение и производительность агентов. Токеномика, которая связывает затраты агентов с рентабельностью инвестиций в режиме реального времени, войдет в частную предварительную версию в декабре и станет общедоступной на AWS Marketplace в начале 2027 года; Оценочные модели и оценочный тюнер, как правило, доступны в этом месяце.

Источники: пресс-релиз Cisco (через PRNewswire).