Google DeepMind запустила институт для обсуждения будущего AGI
Google и Google DeepMind запустили DeepMind Institute, который займется развитием дискуссии вокруг искусственного общего интеллекта и потенциального сверхразума.
Руководителями института стали соучредитель DeepMind Шейн Легг, исполнительный директор Google Джеймс Манника и глава совета директоров Google DeepMind Демис Хассабис. Легг также занял должность главного редактора.
Институт намерен объединить разные взгляды на развитие AGI — как внутри Google и Google DeepMind, так и среди исследователей по всему миру. Авторы отмечают, что позиции участников могут меняться по мере появления новых данных и результатов исследований.
Первый выпуск института включает четыре эссе. В них рассматриваются экономическая политика при возможных изменениях из-за AGI, прозрачность рассуждений ИИ-моделей, принципы человеческого благополучия и подходы к оценке передовых систем искусственного интеллекта.
В одной из работ исследователи безопасности Google DeepMind Рохин Шах и Анка Драган рассматривают проблему снижения прозрачности ИИ. Они предлагают изучать ограничения на так называемую «непрозрачную последовательную глубину» — объем вычислений, который модель выполняет без формирования понятной для человека цепочки рассуждений.
Отдельное эссе Хассабиса посвящено созданию органа по разработке стандартов для передовых ИИ-моделей под руководством США. Согласно предложению, разработчики могли бы добровольно передавать модели на проверку за 30 дней до запуска. В дальнейшем успешное прохождение таких тестов может стать условием для внедрения наиболее передовых систем в США.
По мере развития системы оценки институт предлагает перейти к независимым закрытым тестам, результаты которых не будут известны разработчикам заранее. Хассабис также допускает возможность координированного замедления разработки ИИ, если риски от передовых систем потребуют таких мер.
Запуск DeepMind Institute отражает переход дискуссии о безопасности AGI от общих предупреждений к обсуждению конкретных механизмов оценки, контроля и регулирования передовых моделей.
Источник: TechCrunch