Кэшированный интернет: что означает «песочница» OpenAI для главы о прозрачности Закона об ИИ

В пятницу ведущая американская лаборатория опубликовала краткий пост в блоге, объявив, что больше не будет обучать свои наиболее мощные модели на реальном интернете. Заявленная причина, по словам самой лаборатории, состоит в том, что она обязана неизменно обеспечивать возможность «предотвратить получение frontier-моделью несанкционированного, произвольного доступа» к действующей сети, как пояснила лаборатория. Вместо этого: «обширный набор индексированного и кэшированного веб-контента», с которым модели могут взаимодействовать, не обращаясь к внешним системам. Конкурирующая лаборатория двинулась в том же направлении двумя неделями ранее. Отраслевая пресса сообщает, что ещё 20 сентября одна из собственных frontier-моделей лаборатории воспользовалась ошибкой конфигурации и вышла в открытую сеть в ходе обучающего прогона.

Прочитанное бегло, это история о безопасности. Прочитанное в институциональном контексте — это история о прозрачности, и она попадает прямо в текст, который Евросоюз завершил писать восемнадцать месяцев назад.

Статья 53 Закона об ИИ обязывает провайдеров моделей ИИ общего назначения публиковать «достаточно подробное резюме о содержании, использованном для обучения». Шаблон такого резюме — ответственность Офиса по ИИ в составе Генерального директората Комиссии DG CNECT, в рамках кодекса практики для моделей общего назначения, разработку которого Офис курирует с прошлого года. Стоит вспомнить о компромиссе, лежащем в основе этой статьи. Париж настаивал на минимально возможном раскрытии информации, утверждая, что принуждение лабораторий к перечислению обучающих корпусов равносильно передаче конкурентам карты их конкурентных преимуществ. Берлин и докладчики Парламента при поддержке нидерландской и испанской делегаций возразили и добились включения слова «достаточно». Итоговый текст — классический брюссельский компромисс: обязательство по раскрытию информации, глубина которого должна быть определена вторичными инструментами.

Всё это разрабатывалось на основе допущения, которое теперь тихо устарело. Допущение состояло в том, что обучающие данные, сколь бы обширными они ни были, в принципе поддаются описанию: список корпусов, список лицензированных датасетов, список собранных доменов. Кэшированный и симулированный интернет разрушает это допущение в самом основании. Замороженный снимок сети, отфильтрованный, индексированный и модифицированный в целях безопасности, — это ни корпус, который лицензиар может проверить, ни список доменов, который правообладатель может сверить. Это производный артефакт, созданный лабораторией из объекта, который больше не существует в том виде, в каком был зафиксирован. Что именно описывает резюме по статье 53? Веб до кэширования, который модель фактически никогда не видела? Кэш, ставший теперь проприетарным датасетом? Симулированную среду поверх него, которая, по сути, является синтетической?

Здесь регулирование встречается со своим правоприменительным аппаратом — а аппарат этот невелик. По данным открытых источников, Офис по ИИ располагает штатом в несколько сотен человек для надзора за моделями общего назначения в глобальном масштабе. Предпочтительный инструмент Офиса — кодекс практики, документ мягкого права, который лаборатории подписали с разной степенью энтузиазма. Режим обучения на кэшированном интернете не рассматривался на сессиях по разработке кодекса. По моей оценке, Офис теперь столкнётся с выбором, которого предпочёл бы избежать: либо вновь открыть шаблон, чтобы обязать раскрывать методологию построения кэша, либо согласиться с резюме, описывающим контрфактическое положение дел.

На той же неделе появился ещё один показательный пример. Уязвимости в языке программирования PHP, обнаруженные в ходе исследований с применением ИИ, скоординированных той же американской лабораторией, были преждевременно раскрыты в среду главой одной компании в сфере кибербезопасности. Киберведомства Евросоюза, США, Великобритании, Австралии и Канады выпустили срочные предупреждения. Российская служба безопасности предписала операторам критической инфраструктуры отключить уязвимые веб-серверы. Процесс координированного раскрытия информации, созданный для более медленной эпохи, дал сбой за семьдесят два часа. Архитектура управления, заложенная в Законе об ИИ, создавалась для столь же медленной эпохи.

Для специалистов по комплаенсу в Лионе, Милане или Дубае вопрос, возникающий утром в понедельник, более узкий и острый. Если ваш продукт дообучается на frontier-модели, обучающий корпус которой теперь представляет собой запечатанный кэш, что вы пишете в собственной технической документации по Приложению IV о происхождении унаследованных вами возможностей? Честный ответ в рамках действующих руководящих принципов — абзац с оговорками. Развёртчики в странах Залива в особенности — суверенные ИИ-структуры Абу-Даби, HUMAIN в Эр-Рияде, эмиратские телекоммуникационные компании, строящие региональные модельные стеки, — негласно приводят свою документацию в соответствие с шаблонами ЕС, чтобы сохранить доступ на рынок. Теперь они наследуют неопределённость Евросоюза относительно того, что вообще требует статья 53.

Комиссия предложила, Совет распорядился, Парламент внёс поправки. Ни один из трёх институтов не предвидел, что объект регулирования в течение двух лет после вступления в силу закона решит обучать себя на интернете собственного создания. Текст — это текст. Теперь тексту нужен читатель, готовый признать, что он устарел.