Гендиректор Google DeepMind предложил создать «регулятор ИИ» под руководством США для установления глобальных стандартов безопасности
Демис Хассабис, CEO и сооснователь Google DeepMind, призвал США создать орган по надзору за передовыми моделями ИИ (frontier AI), который сможет проверять разработки и приостанавливать их внедрение в случае рисков.
Демис Хассабис, глава Google DeepMind, выступил с важной инициативой: создать глобальный орган по надзору за ИИ под эгидой США. Его задача — проверять и контролировать самые передовые модели (frontier models) на предмет потенциально опасных возможностей. Предложение было изложено в его статье «A Framework for Frontier AI and the Dawning of a New Age» от 14 июля.
Хассабис предлагает взять за основу модель FINRA (Financial Industry Regulatory Authority) — частную организацию, регулирующую финансовый сектор под контролем государства. На начальном этапе ведущие лаборатории ИИ будут добровольно предоставлять свои модели на проверку за 30 дней до релиза. Тесты будут включать проверку на кибербезопасность, биологические угрозы и склонность к «дезинформации» (deception). После отладки системы оценки, прохождение этого аудита станет обязательным для выхода моделей на рынок США, независимо от страны-разработчика и открытости кода. Цель — запустить орган до конца этого года.
Толчком к предложению послужил инцидент, когда администрация Дональда Трампа экстренно ввела ограничения на экспорт моделей Mythos и Fable компании Anthropic. Хассабис считает это «тревожным сигналом», указывающим на острую нехватку четких нормативных механизмов, из-за чего компаниям приходится вести долгие переговоры без понятных правил игры.
Идею ужесточения регулирования поддерживает и Дарио Амодей, CEO Anthropic, который ранее сравнивал надзор за ИИ с работой FAA (Federal Aviation Administration) — органа, имеющего право запретить полеты небезопасным самолетам. Это отражает растущий консенсус среди лидеров индустрии о необходимости стандартизированных механизмов безопасности в эпоху стремительного развития ИИ.
Это предложение может стать фундаментом для глобального регулирования ИИ, что напрямую повлияет на всех разработчиков технологий, включая компании в Таиланде, и определит, как мощный ИИ будет безопасно внедряться в будущем.