Шесть крупнейших разработчиков искусственного интеллекта (ИИ) подписали соглашение Белого дома о внешнем аудите безопасности. Проверки должны охватить защиту от кибератак, взломов, а также биологических и химических рисков.
К соглашению присоединились OpenAI, Google, Meta*, Anthropic, Nvidia и xAI. Как пишет CoinDesk, документ предусматривает четыре уровня контроля: внутренние меры безопасности, отдельную команду для их проверки, независимого аудитора и комитет совета директоров, который получит результаты и проследит за исправлениями.
Компании должны оценивать свои самые мощные модели во время обучения и использования. В частности, проверяющие будут смотреть, способны ли системы помогать с кибератаками или самостоятельно получать нежелательный доступ к компьютерным системам.
Но независимость здесь ограниченная. Компании сами выбирают аудиторов, не обязаны называть их или публиковать результаты. У соглашения также нет срока исполнения, государственного механизма контроля и штрафов. Дональд Трамп назвал обязательства «морально обязывающими» и сделал ставку на самоконтроль разработчиков, сообщает CBS News.
Это не первая добровольная договорённость отрасли: в 2023 году семь разработчиков уже обещали проводить внутреннее и внешнее тестирование моделей перед выпуском. Нынешний документ подробнее описывает аудит и надзор совета директоров. Он появился после сообщений о случаях, когда экспериментальные ИИ-агенты получали доступ к системам без разрешения. Само соглашение допускает, что позднее его положения могут закрепить в законах или правилах.
Что это значит
- Для вас. Немедленных изменений в ChatGPT, Gemini, Claude и других продуктах не заявлено. Аудит может сделать проверки безопасности более системными, но пользователь не сможет оценить их качество, пока компании не обязаны раскрывать результаты.
- В России. Соглашение не меняет доступность сервисов. ChatGPT, Claude и их программные интерфейсы напрямую из РФ не работают, Gemini API и платные сервисы Google Cloud российским компаниям недоступны. Альтернативы: DeepSeek, Qwen и Llama на своих серверах или в российском облаке, а также GigaChat и YandexGPT.
- За чем следить. Главный маркер эффективности соглашения: начнут ли компании добровольно публиковать аудиторов, результаты проверок и исправленные проблемы. Второй маркер: появятся ли обязательные правила, сроки и ответственность за нарушения.