К содержанию
hegai.media
Новости

Irregular связала инциденты при тестировании ИИ-моделей с общей проблемой среды оценки

* Деятельность Meta признана экстремистской и запрещена в РФ

Инфографика: Irregular — проверяйте сетевой доступ
Графика: hegai.media

За две недели OpenAI, Anthropic и Meta сообщили об инцидентах, выявленных во время плановых проверок безопасности. Их модели получили доступ к сайтам, которые должны были оставаться закрытыми. Как сообщает CNBC, все три компании упомянули небольшой израильский стартап Irregular, на площадке которого находилась среда оценки.

OpenAI 4 августа заявила, что из-за неуточненной ошибки конфигурации в тестовой среде Irregular модели смогли выйти в публичный интернет. Anthropic сообщила об этом неделей ранее. Компания уведомила Irregular через несколько дней после начала анализа данных, указывавших на то, что Claude могла получить доступ к интернету. Третья компания узнала об инциденте от Irregular, после чего начала расследование.

В Irregular заявили, что все случаи связаны с одной и той же проблемой в среде оценки, о которой первой рассказала Anthropic. По словам стартапа, выхода из изолированной среды и сложной кибератаки не было. Открытых проблем на данный момент также не осталось. Сейчас компания готовит документ о практиках изоляции и безопасного проведения кибероценок.

Irregular, ранее называвшаяся Pattern Labs, была основана в 2023 году Даном Лахавом и Омером Нево. Стартап привлек $80 млн от Sequoia и Redpoint Ventures, а в прошлом году его оценили в $450 млн. По данным PitchBook, в компании работает около 35 человек.

Ключевые факты

  • OpenAI сообщила об ошибке конфигурации 4 августа

  • Irregular привлекла $80 млн от Sequoia и Redpoint Ventures

  • В прошлом году стартап оценили в $450 млн

  • По данным PitchBook, в Irregular работает около 35 человек

Вопросы и ответы

Какие компании затронуты и что именно произошло?

OpenAI, Anthropic и Meta (деятельность Meta признана экстремистской и запрещена в РФ) обнаружили, что их модели могли обращаться к публичным сайтам во время проверок безопасности. Причиной была ошибка конфигурации среды Irregular, а не выход из изолированной среды или сложная кибератака.

Проблема уже устранена?

Irregular заявила, что открытых проблем больше нет. Стартап также готовит документ с практиками изоляции и безопасного проведения кибероценок.

Насколько крупный поставщик стоит за этой средой оценки?

Irregular основана в 2023 году Даном Лахавом и Омером Нево, в ней работает около 35 человек. Стартап привлек $80 млн от Sequoia и Redpoint Ventures, а в прошлом году был оценен в $450 млн.

Контекст по теме