ทันเอไอ

Демис Хассабис, генеральный директор Google DeepMind, предложил план создания независимой организации для контроля передового ИИ (Frontier AI) перед его запуском, с целью установления стандартов безопасности.

Генеральный директор и соучредитель Google DeepMind представил проактивный план, призывая США создать финансируемый отраслью орган по регулированию ИИ для проверки и сертификации безопасности самых передовых моделей перед их публичным выпуском.

Демис Хассабис (Demis Hassabis), генеральный директор и соучредитель Google DeepMind, предложил план создания нового независимого органа по регулированию ИИ в США, который будет иметь полномочия проверять самые передовые модели ИИ в мире и координировать широкомасштабное замедление разработки в случае обнаружения опасных рисков. Это предложение было опубликовано в личном документе, озаглавленном "A Framework for Frontier AI and the Dawning of a New Age".

Хассабис предлагает, чтобы эта организация была похожа на FINRA (Financial Industry Regulatory Authority), которая является частным регулирующим органом, финансируемым самой отраслью для надзора за Уолл-стрит под контролем правительства. Предлагаемый орган по надзору за ИИ должен иметь команду технических экспертов мирового уровня и быть подотчетным правительству США. Процесс заключается в том, что компании-разработчики ИИ уровня Frontier должны будут представлять свои модели на проверку безопасности организации не позднее чем за 30 дней до запуска и должны пройти тесты на наличие опасных рисков, прежде чем их можно будет использовать на рынке США.

Что касается структуры совета директоров, Хассабис предполагает, что большинство должны составлять независимые директора, включающие лауреатов премии Тьюринга (Turing Award) и признанных экспертов, наряду с представителями промышленности, правительства и сообщества открытого исходного кода. Он также установил амбициозные сроки, заявив, что это должно занять «несколько месяцев», и организация должна начать работу «до конца этого года».

Основной импульс для этого предложения исходит от внезапных мер экспортного контроля, введенных администрацией Трампа в отношении моделей Mythos и Fable компании Anthropic в прошлом месяце, что Хассабис назвал «важным предупреждением», указывающим на то, что Вашингтону нужен более надежный механизм, чем временные директивы. Он добавил, что лидеры других крупных лабораторий ИИ в целом согласны с тем, что отрасли требуется регулирование, но по-прежнему расходятся во мнениях относительно того, кто должен обладать регулирующими полномочиями.