OpenAI, Anthropic и Google обсуждают отраслевой орган стандартов безопасности ИИ

Коротко о главном

Три ведущие ИИ-лаборатории — OpenAI, Anthropic и Google — с июля 2026 года ведут рабочие встречи о создании отраслевого органа стандартов безопасности ИИ. Модель, о которой они говорят, — это FINRA для ИИ: финансируемый индустрией саморегулятор, который проводил бы независимое предрелизное тестирование передовых моделей до их публичного запуска, оценивая опасные способности в кибербезопасности, биорисках и склонности к обману. Формального устава, пресс-релиза и структуры управления пока нет — это переговоры, а не готовый институт.

Для команд, которые создают продукты на ИИ или встраивают чужие модели, сигнал важнее заголовка: рынок движется к тому, что предрелизная проверка и документирование опасных способностей станут ожидаемой нормой, а не любезностью. Те, кто закладывает управляемость в ИИ-агентов и сервисы с самого начала, окажутся готовы, когда добровольный режим начнёт превращаться в условие доступа на рынок.

Это ещё не регулирование и даже не отраслевой стандарт — у участников нет согласия по форме будущего органа, а критики уже называют затею попыткой крупных игроков закрепить за собой роль привратников. Но само направление показательно: конкуренты обсуждают общий язык оценки безопасности, и именно этот язык — тесты, отчётность, аудит моделей — скоро станет частью инженерной практики, а не только предметом политических дебатов.

Что именно обсуждают лаборатории

По данным деловых СМИ, OpenAI, Anthropic и Google с июля проводят встречи рабочих групп, чтобы спроектировать отраслевой орган стандартов, который сами компании смогут финансировать и наполнять техническими специалистами и вычислительными мощностями. Отправная точка — идея Демиса Хассабиса, главы Google DeepMind, который ещё летом предложил «FINRA для ИИ»: по аналогии с саморегулируемой организацией, надзирающей за американскими брокерами, орган начинал бы с добровольных предрелизных проверок и мог со временем ужесточиться до обязательных правил доступа на рынок.

Суть механики — независимое тестирование до запуска. Компании-разработчики передового ИИ на добровольной основе передавали бы новые модели на внешнюю оценку, которая проверяла бы наличие опасных способностей: помощь в кибератаках, риски двойного назначения в биологии, а также обманчивое поведение самих систем. Именно эти три класса — кибербез, биориски и децептивность — фигурируют как первоочередные предметы аудита. Замысел в том, чтобы вынести проверку за пределы самих лабораторий и сделать её сопоставимой между разными разработчиками по общей методике.

Три разных видения одного органа

Единства по форме нет — и это ключевая деталь. Публично поддержавший инициативу Сэм Альтман, гендиректор OpenAI, склоняется к органу под управлением самих лабораторий в отсутствие федеральных действий; в колонке для Financial Times он продвигал скорее «МАГАТЭ для ИИ» — международный форум под эгидой США, сертифицирующий страны, компании и стандарты безопасности. Глава Anthropic Дарио Амодеи, наоборот, призывает притормозить развитие и описывает более жёсткую конструкцию — «FAA для ИИ»: федеральное агентство с полномочиями блокировать выпуск модели с первого дня.

Разброс визий — от добровольного клуба до государственного регулятора — показывает, что стороны договорились о проблеме, но не о решении. Хассабис задал рамку саморегулятора, Альтман тянет к международной сертификации, Амодеи — к надзорному агентству с правом вето. Пока у инициативы нет ни устава, ни объявленной модели управления, речь идёт о попытке ведущих игроков собрать общий «сценарий безопасности» на своих условиях, прежде чем это сделает за них законодатель.

Почему это важно для команд разработки

Даже на стадии переговоров тренд задаёт направление инженерной практике. Если предрелизная оценка опасных способностей станет отраслевой нормой для базовых моделей, она неизбежно спустится вниз по цепочке — к тем, кто дообучает, интегрирует и разворачивает эти модели в своих продуктах. Условия доступа к передовым моделям, требования к документации и логированию, ожидания по внешнему аудиту — всё это уже знакомо командам, которые готовятся к EU AI Act, и здесь работает та же дисциплина.

Практический вывод простой: управляемость ИИ дешевле проектировать заранее, чем достраивать под давлением. Ведите реестр моделей, которые вы используете и встраиваете, включая сторонние; фиксируйте назначение каждой системы, данные, на которых она работает, и границы её применения. Закладывайте логирование решений модели, человеческий надзор в критичных сценариях и воспроизводимую оценку качества — не потому, что этого уже требует закон, а потому, что именно это спросит любой будущий орган стандартов, внешний аудитор или крупный заказчик из регулируемой отрасли.

Кто против и почему

Инициатива не встречена единодушно. Гендиректор Cohere Айдан Гомес публично раскритиковал затею как потенциальный сговор о привратничестве: по его словам, спор идёт не столько о самих правилах, сколько о том, кто их пишет, кто допущен к участию и чьи интересы эти правила защищают. Опасение понятное — саморегулятор, спроектированный тремя крупнейшими игроками, рискует закрепить их преимущество и поднять барьер входа для меньших лабораторий и открытых моделей.

Историческая аналогия с FINRA двусмысленна: саморегулирование в финансах не раз оказывалось скорее удобным для отрасли, чем строгим к ней. Поэтому ключевой вопрос — не «появится ли орган», а «кто в нём будет решать» и «станет ли добровольная проверка реальным фильтром или витриной». Для команд это означает, что полагаться на один отраслевой знак качества преждевременно: свою методику оценки и внутренний контроль над ИИ придётся выстраивать самостоятельно, независимо от того, какой формат в итоге победит.

Что делать уже сейчас

Не ждите финального формата органа — базовые практики управляемости полезны при любом исходе. Инвентаризируйте все ИИ-системы в продукте, включая сторонние модели и API. Зафиксируйте для каждой назначение, входные данные и сценарии, где ошибка модели дорого стоит. Внедрите логирование и человеческий надзор там, где решения модели влияют на людей или деньги. Проводите регулярную независимую проверку и техническую экспертизу моделей и связанного кода — так вы получите ту самую предрелизную оценку, о которой спорят лаборатории, ещё до того, как она станет обязательной.

Стратегический сигнал ясен: отрасль ищет общий язык оценки безопасности ИИ, и этот язык — тесты, отчётность, аудит — становится частью нормальной разработки. Выигрывают команды, которые относятся к управляемости как к инженерной задаче сегодня, а не как к комплаенс-авралу завтра.

Часто задаваемые вопросы

Что именно создают OpenAI, Anthropic и Google? Пока — ничего готового. С июля 2026 года они ведут переговоры о возможном отраслевом органе стандартов безопасности ИИ, который проводил бы предрелизное тестирование передовых моделей. Формального устава, объявленной структуры управления и запуска нет — это стадия рабочих встреч.

Что такое «FINRA для ИИ»? Это предложенная Демисом Хассабисом аналогия: финансируемый индустрией саморегулятор, начинающий с добровольных предрелизных проверок моделей и способный со временем ужесточиться до обязательных правил доступа на рынок — по образцу организации, надзирающей за американскими брокерами.

Что орган проверял бы в моделях? Наличие опасных способностей: помощь в кибератаках, риски двойного назначения в биологии и обманчивое поведение самих систем. Идея — вынести оценку за пределы самих лабораторий и сделать её сопоставимой между разработчиками.

Есть ли согласие между компаниями? Нет. Альтман склоняется к органу под управлением лабораторий и международной сертификации, Амодеи — к федеральному агентству с правом блокировать выпуск модели, Хассабис задал рамку саморегулятора. Единой модели управления пока не согласовано.

Что делать командам разработки уже сейчас? Инвентаризировать свои ИИ-системы, фиксировать назначение и данные каждой, внедрять логирование и человеческий надзор, проводить независимую оценку моделей. Эти практики полезны при любом исходе переговоров и совпадают с подготовкой к EU AI Act.

Источники

TechXplore — OpenAI, Anthropic and Google are working to create an AI standards body, 15 сентября 2026 года.

Forkast — Three Frontier Labs Are Building a FINRA-Style Safety Body, 2026.

Financial Times — Sam Altman on AI safety and international oversight (колонка), 2026.