Tech Review 
Введение
Словосочетание «AI safety» звучит нейтрально: речь якобы о том, чтобы искусственный интеллект не причинял вреда. Но чем громче становятся споры, тем чаще звучит встречный вопрос — а не идёт ли под вывеской безопасности борьба за контроль над самой перспективной технологией десятилетия? Этот вопрос перестал быть маргинальным: он раскалывает исследовательские лаборатории, парламенты и инвесторские советы директоров.
Детали: что говорят факты
Публичная дискуссия об управлении ИИ институционализировалась за последние годы. В 2023 году в США прошли слушания в Сенате с участием руководителей ведущих AI-лабораторий, а в ноябре того же года в Великобритании состоялся первый глобальный саммит по безопасности ИИ в Блетчли-парке, где была принята декларация о совместных усилиях. В 2024 году эстафету принял Сеульский саммит, а в 2025-м — Парижский AI Action Summit, где акцент сместился с «безопасности» на «действия» и инновации.
Институты тоже оформились. В США при NIST действует AI Safety Institute, созданный в 2023 году; в Великобритании — собственный AI Safety Institute, позже переименованный в AI Security Institute, что само по себе показательно: слово «security» смещает фокус с исследовательской повестки на защитную. В ЕС в 2024 году вступил в силу AI Act — первый в мире комплексный закон об ИИ, вводящий градацию рисков и обязательства для моделей общего назначения.
Ключевой документ, вокруг которого идёт спор, — концепция «frontier AI»: моделей на переднем крае возможностей. Именно для них предлагаются пороги вычислений, обязательные оценки рисков, отчётность перед регулятором. Одновременно растёт концентрация: обучение фронтирных моделей требует сотен миллионов долларов, что делает круг игроков узким — и это питает подозрения, что правила писались под уже сложившуюся олигополию.
Анализ: где проходит водораздел
Спор имеет две оси.
Первая — эпистемическая. Сторонники жёсткого регулирования исходят из гипотезы, что достаточно способная система может обрести цели, несовпадающие с человеческими, и что это риск экзистенциального масштаба. Их оппоненты — от исследователей до части индустрии — считают такие сценарии спекулятивными, а реальные harms видят в предвзятости, дезинформации, утечках данных и концентрации власти. Это не спор о фактах, а спор о вероятностях редких событий, где эмпирика принципиально ограничена.
Вторая — политическая. Даже если отбросить экзистенциальную риторику, остаётся вопрос: кто получает право решать, какие модели допустимы. Механизмы вроде обязательной сертификации, порогов вычислений и аудитов повышают барьеры входа. Крупные лаборатории могут их выдержать; академические группы, стартапы и open-source-сообщество — с трудом. Это создаёт парадокс: меры, обоснованные безопасностью, одновременно укрепляют позиции тех, кто уже на вершине.
Показательна эволюция языка. «Safety» (безопасность как исследовательская задача) всё чаще заменяется на «security» (защита от злонамеренного использования) и «governance» (управление). Каждый сдвиг термина меняет и набор инструментов: от интерпретируемости и alignment-исследований — к лицензированию, экспортному контролю и вычислениям как регулируемой величине.
Мнение
Я склоняюсь к тому, что дихотомия «безопасность или контроль» — не софизм, а точное описание реальной двусмысленности. Опасность в том, что обе стороны используют один и тот же моральный словарь, а различаются лишь распределением полномочий. Тот, кто определяет, что считать «безопасной» моделью, де-факто определяет, кому её разрешено строить.
При этом циничный вывод «всё это лишь захват рынка» тоже неверен. Риски злоупотреблений, утечек весов, автономных агентов с доступом к инфраструктуре — вполне осязаемы, и какая-то форма надзора нужна. Проблема не в регулировании как таковом, а в его архитектуре: закрытые процедуры, пороги, обсуждённые с узким кругом игроков, и отсутствие симметричных требований к прозрачности самих регуляторов.
Здоровый компромисс выглядел бы так: обязательная прозрачность для фронтирных моделей, независимый аудит с публикацией методологий, защита права на исследование и open-source ниже определённого порога риска, и — что важнее всего — международные механизмы, не сводящиеся к клубу нескольких стран и компаний. Пока же дискуссия об AI safety слишком часто ведётся теми, кто одновременно является её объектом и главным бенефициаром.
Итог
Спор об AI safety — это одновременно и о безопасности, и о контроле, причём второе измерение систематически недооценивается. Реальные технические риски существуют, но институциональный ответ на них формируется в условиях крайней концентрации отрасли. Вопрос не в том, регулировать ли ИИ, а в том, кто пишет правила, кого они связывают и кто остаётся за бортом.
FAQ
Это правда, что регулирование ИИ выгодно крупным компаниям?
Отчасти да. Высокие издержки на аудит, сертификацию и юридическое сопровождение легче несут крупные игроки. Это не значит, что любое регулирование вредно, но его дизайн влияет на структуру рынка.
Чем AI safety отличается от AI security?
Safety — про непреднамеренный вред и надёжность систем, security — про защиту от злонамеренного использования и атак. Смещение терминологии в официальных названиях институтов отражает смену приоритетов.
Может ли open-source быть безопасным?
Да, при разумных порогах: открытость повышает проверяемость и распределяет экспертизу. Риск возникает при публикации моделей с возможностями, допускающими массовое злоупотребление, — здесь нужны дифференцированные правила, а не запрет как таковой.