Искусственный интеллект под ударом: администрация США блокирует нейросеть Anthropic

Разработчик нейросетей Anthropic столкнулся с неожиданными последствиями собственных призывов к строгому государственному регулированию в сфере искусственного интеллекта. Генеральный директор компании Дарио Амодеи неоднократно заявлял, что передовые модели ИИ могут представлять угрозу общественной безопасности и должны блокироваться в случае несоответствия жестким стандартам защиты. Однако на практике ситуация приняла неожиданный оборот: правительство США применило к новейшей разработке компании ограничения, которые привели к её полной остановке.

Суть конфликта вокруг модели Fable

Последняя разработка Anthropic — мощная нейросеть, существующая в двух версиях: полнофункциональной Mythos и ограниченной общедоступной Fable. На момент своего недолгого пребывания в открытом доступе модель демонстрировала значительный прирост производительности по сравнению с предшественниками. Специалисты отмечают, что ИИ стал эффективнее справляться с комплексными задачами, однако именно это вызвало настороженность властей.

Администрация Белого дома ввела экспортные ограничения на Fable, де-факто запретив Anthropic предоставлять доступ к модели иностранным гражданам. Из-за невозможности технически верифицировать национальность каждого пользователя в реальном времени, компания была вынуждена полностью отключить сервис.

• Правительство использовало аргумент о наличии в Fable критической уязвимости безопасности.
• Исследование, предоставленное компанией Amazon — крупным инвестором в Anthropic — указывало на возможность так называемого «джейлбрейка» (обхода встроенных защитных фильтров).
• Anthropic заявила, что данные уязвимости являются стандартными для индустрии и не представляют уникальной угрозы, однако администрация сочла эти доводы недостаточными.

Причины для сомнений в объективности

Эксперты указывают на несколько факторов, которые ставят под сомнение исключительно технический характер принятых мер. В обзорах ситуации отмечается, что ограничения могли быть продиктованы политическими мотивами, а не реальными опасениями за кибербезопасность.

По словам представителей отрасли, конфликт между Anthropic и администрацией президента США длится не первый месяц. Ранее компания отказалась адаптировать свои модели для задач массовой слежки и создания автономных систем вооружения, что привело к попыткам Пентагона признать фирму «риском для цепочки поставок». Дополнительную почву для скепсиса дает информация о том, что администрация сохраняет лояльные отношения с основными конкурентами Anthropic, такими как OpenAI и xAI*.

Проблемы государственного регулирования

Главная претензия к действиям американских властей заключается в отсутствии прозрачного и объективного процесса принятия решений. Вместо установления четких, законодательно закрепленных стандартов безопасности, администрация президента предпочла действовать путем прямого запрета. Отсутствие публичного анализа затрат и выгод, а также единоличное принятие решений исполнительной властью создают опасный прецедент для всего технологического сектора.

Смотрите также:

Парижский стартап Rocapine привлек $13 млн на создание приложений для цифрового благополучия http://stroybud.com/parizhskiy-startap-rocapine-privlek-13-mln-na-sozdanie-prilozheniy-dlya-tsifrovogo-blagopoluchiya/.

Интересности на тему: Борьба за Claude: как Белый дом вынудил Anthropic заблокировать новейшие ИИ-модели

Классные советы в статье "Пептид GHK-Cu: поможет ли «молекула меди» остановить старение" здесь.

Аналитики предупреждают: если иностранные партнеры осознают, что доступ к передовым американским технологиям может быть отозван в любой момент по произвольному решению, это подтолкнет мировой рынок к поиску альтернативных решений вне юрисдикции США. На текущий момент очевидно лишь одно: попытка государства взять под контроль развитие ИИ привела к формированию режима, который руководствуется политическими предпочтениями, а не экспертной оценкой специалистов.

* — деятельность компании запрещена на территории РФ