ทันเอไอ

План тестирования ИИ администрации Трампа раскритиковали как «ограниченный и расплывчатый» — он не охватывает open-source модели

Добровольная методология оценки кибербезопасности продвинутого ИИ, по сообщениям, не включает open-source модели и не будет обнародована

Администрация президента Дональда Трампа разрабатывает методологию (framework) для оценки рисков кибербезопасности, связанных с продвинутым ИИ. Однако, как сообщает Axios со ссылкой на The Verge, у этого подхода есть явные ограничения: он совершенно не охватывает open-source модели (модели, которые любой может скачать и изучить их внутреннее устройство).

Согласно отчёту, добровольный подход не только исключает open-source модели из зоны тестирования, но и прямо указывает, что методология не может быть использована для ограничения или контроля open-source моделей после их публичного выпуска. Именно поэтому аналитики называют план «ограниченным и расплывчатым».

Истоки этой методологии тестирования восходят к исполнительному указу (executive order), подписанному президентом Трампом в июне, который предлагает ИИ-компаниям делиться своими передовыми моделями с федеральным правительством до их релиза. Это должно развеять опасения в сфере кибербезопасности — например, риск того, что ИИ будет использован для создания или атак на цифровые системы.

Независимые источники подтверждают ту же картину: Newsmax со ссылкой на источник, получивший сводку с совещания в Белом доме, сообщает, что новая методология охватывает только closed-source системы (закрытые модели, доступ к которым контролируют сами компании), а её детали не будут раскрыты публике. Gizmodo добавляет, что федеральные чиновники подготовили предварительный проект методологии для оценки кибербезопасностных возможностей моделей, что может привести к ограничению публичного доступа, и запланированы встречи с топ-менеджерами американской технологической отрасли, включая представителей OpenAI.

Ключевая претензия критиков: исключение open-source моделей делает методологию слепой к рискам от самых распространённых моделей. Ведь после выпуска открытой модели кто угодно может использовать или модифицировать её без каких-либо механизмов контроля — а именно этот канал является самой уязвимой точкой для утечек рисков безопасности.