Виталик Бутерин предлагает снизить глобальную вычислительную мощность для борьбы с рисками ИИ
Сооснователь Ethereum Виталик Бутерин предложил временно приостановить доступ к глобальным вычислительным ресурсам, чтобы справиться с рисками, связанными с суперинтеллектом ИИ. Эта инициатива направлена на то, чтобы "купить больше времени для человечества", как указано в его блоге от 5 января, который следует за его обсуждением "защитного акселерационизма" (d/acc) в ноябре 2023 года. Бутерин предсказывает, что суперинтеллектуальный ИИ может появиться в течение пяти лет, и результаты этого будут неопределенными.
Бутерин предложил реализовать "мягкую паузу" на аппаратном обеспечении промышленного масштаба, чтобы замедлить развитие ИИ. Он рекомендовал сократить глобальную вычислительную мощность на 99% на один или два года, чтобы дать человечеству время подготовиться.
В своем предыдущем посте о d/acc Бутерин признал неясные предложения против разработки рискованных форм суперинтеллекта и теперь стремится предоставить конкретные стратегии для решения сценариев высокого риска, связанных с ИИ.
Виталик Бутерин о регулировании ИИ
Бутерин также обсудил регулирование сектора ИИ, выступая за "мягкую паузу" на аппаратное обеспечение, если правила ответственности окажутся недостаточными. Предложенные правила будут привязывать ответственность физических лиц или организаций за ущерб, причиненный их моделями ИИ. Он подчеркнул необходимость мониторинга развития ИИ, включая отслеживание физических местоположений чипов ИИ и требование их регистрации.
Для управления аппаратным обеспечением ИИ промышленного масштаба Бутерин предложил систему, где интеграция чипов требует еженедельного разрешения от трех основных международных организаций. Этот подход направлен на обеспечение контролируемых и ответственных операций ИИ по всему миру. Бутерин объяснил:
“Подписи будут независимы от устройства (если это необходимо, мы даже можем потребовать доказательство с нулевым разглашением, что они были опубликованы в блокчейне), так что это будет все или ничего. Не будет практического способа авторизовать одно устройство для продолжения работы без авторизации всех остальных устройств.”
Концепция d/acc продвигает осторожный подход к технологическому развитию, контрастируя с эффективным акселерационизмом (e/acc), который поддерживает быстрый технологический прогресс.