by Sarah ConnorFINRA для ИИ? Хассабис против Армстронга
Демис Хассабис опубликовал большое эссе, назвав AGI делом «нескольких ближайших лет» и сравнив его с открытием огня — и попросил Вашингтон создать орган стандартов по образцу FINRA, проверяющий frontier-модели до релиза. Брайан Армстронг, потративший годы на борьбу с SEC из-за крипты, ответил предупреждением: саморегулируемая организация обычно приходит в паре с госкорегулированием, и в итоге нужно одобрение от обоих. Спор о том, как регулировать ИИ, разделился на два лагеря — и он рифмуется со спором, который крипта уже пережила.
- Демис Хассабис опубликовал эссе, назвав AGI делом «нескольких коротких лет» и сравнимым с открытием огня, и предложил Frontier AI Standards Body в стиле FINRA, куда лаборатории подавали бы фронтир-модели на предрелизную проверку — по сообщениям, за 30 дней до выпуска.
- Брайан Армстронг — воевавший с SEC из-за крипты — предупредил, что саморегулируемая организация обычно добавляется поверх государственного регулирования, создавая двойную систему, где нужно два одобрения вместо одного.
- Армстронг доказывает, что ИИ ближе к софтверной индустрии, чем к банкингу, что действующее право (мошенничество, деликт, UDAP) уже покрывает реальные кейсы, а рынок наказывает опасные модели потерей выручки; Хинтон возражает, что регулирование — это «руль, а не тормоз».
- Ставка для крипто-деска: режим предрелизного одобрения — это ров, навешивающий фиксированную стоимость комплаенса на каждый запуск, ничтожную для Google, OpenAI и Anthropic и смертельную для open-weight и децентрализованных ИИ-претендентов.
- Позиция TT desk: разделить режим — предпочесть режим прозрачности/информации (открытые аудиты, публичная запись поведения моделей) режиму разрешений, который одобряет до релиза и укрепляет инкумбентов.
- Торгуемый вывод: реальный предрелизный шлюз одобрения краткосрочно бычий для инкумбент-лабораторий и структурно медвежий для open-weight и децентрализованного ИИ — следить, появится ли в реальном законопроекте язык «шлюза одобрения», сигнал того, что инкумбенты захватили написание правил.
Цепочка аргументов
Предложение Хассабиса, как его пересказали в ответах: американский Frontier AI Standards Body по образцу FINRA с Уолл-стрит, куда лаборатории добровольно сдают модели на проверку — якобы за 30 дней до релиза — с хорошо финансируемым госорганом, способным классифицировать модели и тестировать их в зонах нацбезопасности. Он описывает разработку как «дилемму заключённого», где тот, кто сбавляет темп, проигрывает, и прямо поддерживает координированное замедление frontier-лабораторий «если потребуется». Джеффри Хинтон, цитируемый в треде, поддерживает направление: регулирование — это «руль, а не тормоз», а у лабораторий есть фидуциарная обязанность максимизировать прибыль, что может идти вразрез с безопасностью.
Армстронг режет в обратную сторону. SRO, по его мнению, «вроде разумна» в теории, но на практике приходит как двойная система — SRO и госрегулятор, в каждой стране — и нужно два одобрения вместо одного. На месте frontier-лаборатории он бы доказывал, что ИИ — это просто софт-индустрия, указал бы на отсутствие непоправимого вреда и опёрся бы на уже существующие законы: мошенничество, деликт и UDAP. Рыночные стимулы, добавляет он, и так наказывают опасные модели потерей выручки.
Настоящий водораздел не «регулировать ИИ или нет». Это информация против разрешения.
Две стороны
За — рефери для frontier-ИИ
Хассабис, Хинтон и лагерь стандартов
Разработка — дилемма заключённого: кто сбавляет ради безопасности, проигрывает гонку, поэтому индустрия сама несётся к риску. Орган стандартов — единственный способ координировать замедление, если оно понадобится.
@demishassabisРегулирование — руль, а не тормоз. Лаборатории юридически обязаны максимизировать прибыль акционеров, а это структурное давление против безопасности, которое один рынок не исправит.
Джеффри Хинтон, via @karlmehtaСтатичное регулирование устаревает ещё до написания. Орган по образцу FINRA с проверкой до релиза и правом тестировать модели по критериям нацбезопасности — это рамка, способная успевать.
предложение, via @BSCNewsПротив — ловушка двойного регулирования
Армстронг и лагерь лёгкого подхода
SRO редко заменяет госкорегулирование — она добавляется сверху. Итог — классическая двойная система финсервиса: одобрение от SRO и регулятора, в каждой стране, вместо одного.
@brian_armstrongИИ ближе к софт-индустрии, чем к банкингу. Трудно указать на масштабный непоправимый вред — значит, строить режим вокруг гипотетической проблемы неверно.
@brian_armstrongСуществующее право уже покрывает реальные случаи — мошенничество, деликт и возмещение, UDAP — а рынок добавляет свой тормоз: компании и потребители не будут пользоваться опасной моделью. Лаборатории уже сильно мотивированы быть ответственными.
@brian_armstrongДискуссия их словами
Почему это инвестиционный вопрос
Форма регулирования ИИ решает, кто захватит ИИ-стек — поэтому крипто-деск читает спор Хассабиса и Армстронга как рыночное событие, а не политический семинар. Режим одобрения до релиза — это ров. Он накладывает фиксированную стоимость комплаенса на каждый запуск модели, и эта стоимость пустякова для Google, OpenAI и Anthropic и убийственна для open-weight-претендентов и децентрализованных ИИ-проектов. Та же логика лицензирования, которая задушила инновации в крипте и с которой Армстронг бился в SEC, применённая к ИИ, закрепит инкамбентов и обложит налогом всех остальных. И наоборот: чем легче режим, тем открытие frontier остаётся открытее и тем больше стоимости утекает от лабораторий-инкамбентов к вычислениям, данным и open-source-рельсам.
Мнение TT-деска
Армстронг прав в механизме, Хассабис прав в риске, и синтез — единственное, что важно для позиционирования. «Саморегулируемый» орган с господдержкой становится точкой двойного одобрения — ровно это крипта прожила, и ровно это сделает с ИИ режим одобрения до релиза. Но хвостовой риск ИИ — не крипто-риск: плохо оценённый стейблкоин возместим, а ущерб возможностям нацбезопасности — возможно нет. Поэтому режим надо разделить. За орган стандартов, который тестирует и публикует — режим информации: открытые аудиты, публичная запись поведения моделей, результаты, которые может прочитать каждый, — против органа, который одобряет до релиза, режим разрешения, захватывающий frontier за теми, кто может оплатить юристов. Информация помогает пользователям и регуляторам решать; разрешение закрепляет инкамбентов и негласно банит open-source.
Трейд-вывод: реальный режим одобрения до релиза краткосрочно бычь для лабораторий-инкамбентов (регуляторный ров) и структурно медвежий для open-weight и децентрализованного ИИ. Режим только-прозрачности — наоборот: он держит frontier конкурентным и фаворит вычисления, открытые модели и рельсы под ними. Следи, в какую сторону ломается реальный билль: язык approval-gate — маркер, что инкамбенты захватили написание правил, и момент перекладываться из open-AI-экспозиции в рельсы.
Читать дальше
Регулирование крипты: анализ влияния — рамка · Как крипто-регулирование переоценивает рынки · Все статьи