Сорок пять процентов парламента, написанных тем, что нельзя вызвать на допрос

Цифра, над которой стоит задуматься сегодня утром, — 68 из 150. Региональное издание в Нидерландах, работавшее с академическим инструментом обнаружения, установило: шестьдесят восемь членов нижней палаты голландского парламента использовали искусственный интеллект для подготовки по меньшей мере одной речи или выступления в комитете. Репортёры признали, что их данные почти наверняка занижены, поскольку учитывались лишь материалы, в которых доля машинного авторства превышала пятьдесят процентов. Отдельный анализ двадцати восьми тысяч парламентских запросов, проведённый национальным вещателем ранее осенью, уже зафиксировал: примерно четверть из них несёт стилистические признаки языковой модели.

Сам премьер-министр Нидерландов признал, что использует эту технологию для составления публикаций в социальных сетях — в том числе рассуждений на деликатную историческую тему молукских ветеранов, — защищая такую практику указанием на то, что около трёх четвертей голландцев также пользуются подобными инструментами. Лидер фермерской партии BBB сравнил эту практику с использованием калькулятора. Бывший депутат Эсмах Лахла объяснила, что прибегала к языковой модели, чтобы уложить разговоры с избирателями в ограниченное время выступления. Представительница ультраправой PVV подтвердила, что использует ИИ ради лаконичности, и заверила: она никогда не скажет в парламенте того, с чем не согласна. Депутат от центристской правой CDA сообщил, что использует его для редактирования, а не для генерации текста.

Примите каждое из этих обоснований всерьёз на мгновение — они не легкомысленны. А затем задайте вопрос, на который Закон об ИИ должен был бы дать ответ и не даёт: каков режим соблюдения требований для парламентария, который передаёт составление собственных слов на аутсорсинг?

Ответ, если строго придерживаться текста, принятого в 2024 году, таков: никакого. Перечень запрещённых применений Закона не затрагивает законодательное делопроизводство. Приложение III о высоком риске охватывает системы, используемые государственными органами для оценки права на льготы, рассмотрения ходатайств об убежище, распределения экстренных служб. Оно не распространяется на систему, которую избранный депутат использует для генерации предложений, которые он затем зачитает в зале заседаний. На провайдеров моделей общего назначения возложены обязательства по прозрачности в отношении обучающих данных и оценке системных рисков; эти обязательства действуют выше по цепочке — в отношении разработчика, а не ниже — в отношении пользователя в зале.

Моя интерпретация такова: этот пробел — не упущение. Это политический выбор, сделанный в ходе трилога, когда парламентские переговорщики не были готовы законодательно ограничивать инструменты, которые их собственные сотрудники уже негласно применяли. Документ писали люди, которые прекрасно знали, что именно они опускают.

Это подводит нас к архитектуре правоприменения, и здесь картина неприглядна. Офис по ИИ в Брюсселе формирует штат. Национальные компетентные органы в соответствии со статьёй 70 в ряде государств-членов всё ещё остаются строкой в проекте бюджета. Голландский орган по защите данных — ведомство, которое на практике рассматривало бы жалобу на использование парламентарием чат-бота, — по сообщениям на этой неделе, вывело собственный сайт в офлайн вместе с другими нидерландскими государственными ресурсами в ходе каскадного сбоя, связанного с уязвимостью PHP. Регулятор, призванный следить за цифровым поведением нидерландского государства, не смог удержать собственную страницу в рабочем состоянии. Это не дешёвый выпад; это операционный базис, на фоне которого следует измерять любое правоприменение в рамках Закона об ИИ. Следует оговориться, что сбой был вызван уязвимостью широко используемого языка программирования, а не какой-либо ошибкой самого ведомства — что как раз и иллюстрирует проблему общей цифровой инфраструктуры.

Влияние на страны Персидского залива я хочу обозначить как предположение, а не как факт, — тем не менее за ним стоит следить. Ряд консультативных органов Совета сотрудничества арабских государств Персидского залива в последние годы рассматривал европейскую практику применения технологий в законодательной сфере как ориентир. Моё ожидание — именно ожидание, а не журналистская находка — состоит в том, что нидерландское раскрытие информации на этой неделе будет воспринято в регионе как разрешение, а не предупреждение: если почти половина депутатов северо-европейского парламента составляет документы с помощью языковой модели, а флагманское регулирование Евросоюза не имеет по этому поводу ничего сказать, политическое прикрытие для аналогичного применения в других странах фактически выдано бесплатно — самой Гаагой. Вендоры, продающие в регион помощников для парламентского делопроизводства, по моим ожиданиям, найдут эту ссылку полезной. Читателям следует воспринимать это как мой вывод, сделанный на основе европейских фактов, а не как репортаж из стран Залива.

Два небольших замечания — поскольку они важны. Во-первых, партии, в материалах которых не было обнаружено признаков использования ИИ, — социалисты, партия защиты прав животных и Volt — входят в число малочисленных фракций. Делайте из этого выводы сами — о том, у каких групп достаточно средств в кадровом бюджете, чтобы писать собственные речи. Во-вторых, сам инструмент обнаружения является частным продуктом, и его показатель ложноположительных результатов применительно к неродному английскому языку и институциональному нидерландскому, насколько можно судить по опубликованным материалам, не прошёл независимого аудита. Система регулирования, которая при установлении фактов о парламентском поведении зависела бы от проприетарных классификаторов, — это система регулирования, в которой на следующем витке ждёт проблема привязки к вендору.

Парламентарий, делегировавший составление текста языковой модели, не нарушил ни одной статьи Закона об ИИ. Это и есть проблема, а не оправдание. Евросоюз законодательно урегулировал те риски, которые мог видеть, и сознательно предпочёл не замечать этот. Следующая редакция — а она будет, вероятно, раньше, чем нынешняя рабочая программа Комиссии готова признать, — будет оцениваться по тому, закроет ли она этот пробел или закрепит его.