Anthropic ограничила доступ к моделям Claude Fable 5 и Mythos 5 по требованию властей США

Компания Anthropic временно приостановила работу своих новых нейросетевых моделей Claude Fable 5 и Mythos 5. Решение было принято после введения правительством США директивы об экспортном контроле, которая запрещает использование данных сервисов лицами, не являющимися гражданами страны. В настоящее время компания ведет переговоры с Белым домом для поиска решения, однако на текущий момент доступ к технологиям остается ограниченным.

Двойное назначение технологий

С момента выпуска Mythos в апреле эксперты Anthropic предупреждали о неоднозначном характере возможностей модели. Алгоритм способен как эффективно находить уязвимости в программном обеспечении для их последующего устранения, так и разрабатывать методы эксплуатации этих брешей, что может быть использовано в преступных целях. В блоге компании отмечалось, что возможности нейросетей обладают эффектом двойного назначения: одни и те же инструменты, помогающие специалистам по кибербезопасности и биологам, могут представлять угрозу при попадании в руки злоумышленников.

Реакция властей США

Изначально модель Mythos была доступна ограниченному кругу специалистов в рамках инициативы Project Glasswing. Claude Fable 5, обладающая схожей мощностью, была выпущена для широкой аудитории с установленными программными фильтрами, ограничивающими ответы на запросы по биологии и кибербезопасности. Однако администрация президента Дональда Трампа потребовала ограничить использование обеих моделей, предположив, что защитные барьеры Fable 5 могут быть обойдены, что создает риски для национальной безопасности.

Мнение экспертов о будущем ИИ

Специалисты в области технологий и кибербезопасности отмечают, что текущее противостояние лишь откладывает неизбежное. По словам Тары Уиллер, директора по безопасности TPO Group, попытки ограничить Anthropic не учитывают тот факт, что аналогичными или сопоставимыми мощностями вскоре будут обладать многие другие разработчики, включая проекты с открытым исходным кодом.

• Разработчики других компаний уже сейчас близки к созданию подобных нейросетей, но сдерживают их выпуск, наблюдая за регуляторной политикой в отношении Anthropic.
• Представители отрасли подчеркивают, что необходимость подготовки к повсеместной доступности таких мощных инструментов назреет в течение ближайших 6–24 месяцев.
• Корпорация OpenAI* также развивает свои решения в области кибербезопасности, представив стратегию и специализированные модели в апреле текущего года.

Эффективность ограничений

Исследователи, включая эксперта из Гарвардского университета Брюса Шнайера, указывают на системный характер проблемы. Современные, более доступные модели при правильных запросах способны демонстрировать показатели, сопоставимые с Mythos и Fable. Эксперты сходятся во мнении, что правительству следует сосредоточиться не на запретах отдельных продуктов, а на разработке прозрачной стратегии адаптации к стремительному прогрессу ИИ.

Смотрите также:

Глава Take-Two подтвердил дату выхода Grand Theft Auto 6 http://stroybud.com/glava-take-two-podtverdil-datu-vyihoda-grand-theft-auto-6/.

Интересности на тему: Обзор лучших сервисов по доставке веганских блюд и наборов для приготовления

Классные советы в статье "LiberNovo запускает линейку профессиональных кресел: специальные цены до конца июля" здесь.

Крис Вайсопал, сооснователь компании Veracode, подчеркивает: ключевой вопрос заключается не в наличии рисков, присущих технологии, а в том, насколько конкретные ограничения действительно снижают угрозы, а не просто замедляют работу специалистов, стремящихся сделать системы более безопасными.

* — деятельность компании запрещена на территории РФ