Исследователи предлагают 'Plan A': отложить создание Superintelligence до 2040 года и раскрыть все исследования
Исследовательская организация AI Futures Project предлагает амбициозный план по управлению рисками от продвинутого ИИ, призывая отложить его разработку до 2040 года и раскрыть все исследования, чтобы снизить опасную конкуренцию.
Некоммерческая исследовательская организация AI Futures Project опубликовала важное программное предложение под названием "AI 2040: Plan A", которое представляет совершенно иной подход к управлению рисками будущего продвинутого искусственного интеллекта. Его основные авторы – Daniel Kokotajlo, бывший исследователь OpenAI, и Thomas Larsen, соавтор ранее получившего широкое внимание отчета AI 2027. Суть "Plan A" – не предсказание, а рекомендация, которая, по мнению исследовательской группы, "должна произойти", чтобы привести человечество к наилучшему исходу. План призывает отложить разработку Superintelligence (искусственного интеллекта, превосходящего человека во всех отношениях) как минимум до 2040 года. Ключевая предложенная мера – обязать все лаборатории ИИ публично раскрывать свои исследования и модели для устранения секретной конкуренции и обеспечения прозрачности в отрасли. Предложение далее указывает, что полное раскрытие данных позволит десяткам компаний и исследовательских организаций по всему миру догнать технологии лидеров, что приведет к децентрализации и предотвратит захват единоличной власти какой-либо одной организацией. Еще одна важная концепция – это преднамеренное создание состояния, называемого "mutually assured compute destruction", что является принципом, похожим на "взаимное гарантированное уничтожение" (mutually assured destruction) времен Холодной войны, но вместо ядерного оружия использует вычислительную мощность (compute power). Если какая-либо сторона попытается тайно ускорить разработку ИИ, остальные смогут объединить свои раскрытые вычислительные мощности для сдерживания или ответных действий, не позволяя никому нарушать соглашение. Этот доклад является третьей важной работой AI Futures Project после AI 2027 и AI Futures Model. Веб-сайт проекта также разработан совместно с Lightcone Infrastructure. Это предложение было подтверждено и освещено ведущими новостными агентствами, такими как Axios и Washington Post, что свидетельствует о его серьезном рассмотрении в мировом технологическом и политическом сообществе.
Это предложение напрямую бросает вызов текущему подходу к разработке ИИ, который сосредоточен на жесткой конкуренции между несколькими гигантами технологической индустрии. Если этот подход будет реализован, он может трансформировать мировую индустрию ИИ, сделав ее более открытой и безопасной, что может принести пользу различным странам, включая Таиланд, в плане равного доступа к технологиям и знаниям.