План "AI 2040" по замедлению развития сверхинтеллекта до 2040 года раскритикован Джорджем Хоцом как всего лишь "культ интеллекта"
Известный хакер Джордж Хоц раскритиковал предложение "AI 2040" от бывшей команды OpenAI, которое предлагает замедлить развитие ИИ и опубликовать все исследования, назвав его концепцией, игнорирующей физическую реальность.
Горячей темой в технологическом сообществе на этой неделе стала критическая статья Джорджа Хоца (geohot), хакера и основателя Comma.ai, озаглавленная "AI 2040: Plan A", которая представляет собой позитивное видение будущего искусственного интеллекта, предложенное группой исследователей, ранее работавших в OpenAI.
Предложение "AI 2040" является продолжением отчета "AI 2027", написанного той же командой. В предыдущей версии они предсказывали тревожное будущее, в котором ИИ может привести к вымиранию человека или к тотальной централизации власти. Однако в "Plan A" они предложили идеальное решение, суть которого заключается в замедлении развития сверхразумного искусственного интеллекта (superintelligence) до 2040 года, публикации всех исследований ИИ для децентрализации технологий и создании системы, в которой все стороны могут совместно контролировать и сдерживать слишком быстрое развитие. В состав авторов входят ключевые фигуры в области безопасности ИИ, такие как Daniel Kokotajlo, Thomas Larsen, Eli Lifland и Romeo Dean.
Однако Джордж Хоц опубликовал ответную статью в своем блоге, назвав эту концепцию частью "культа интеллекта" (cult of intelligence). Он утверждает, что интеллект не является конечной целью, а лишь нынешним "узким местом". Хоц указал, что захватить мир невозможно одними "токенами" (tokens — базовые единицы данных, обрабатываемые моделями ИИ), для этого требуется контроль над ресурсами и цепочками поставок в реальном мире.
Кроме того, Хоц раскритиковал иллюстрации в отчете "AI 2040", изображающие огромные плавучие центры обработки данных, назвав их "vaporware" (программное или аппаратное обеспечение, анонсированное, но так и не выпущенное). По его словам, такие изображения легко создать, но в реальности они сталкиваются с огромными инженерными и логистическими проблемами. Эта тема вызвала широкую дискуссию на форуме Hacker News, собрав более 103 комментариев и 75 голосов, что отражает диаметрально противоположные взгляды на будущее развитие ИИ.
Этот вопрос отражает важную дискуссию в сфере ИИ между теми, кто хочет ускорить развитие ради выгоды, и теми, кто обеспокоен безопасностью и стремится замедлить его темпы. Исход этой дискуссии повлияет на будущее направление развития ИИ-технологий, которое затронет каждого.