Google DeepMind инициировал создание специализированного аналитического центра, который будет сосредоточен на исследовании общего искусственного интеллекта (AGI). Новая структура объединила ведущих экспертов отрасли для поиска ответов на вызовы, которые неизбежно возникнут перед человечеством с появлением систем, способных выполнять любые интеллектуальные задачи на уровне человека или выше.
Руководящий состав института сформировали ключевые фигуры технологического гиганта: сооснователь DeepMind Шейн Легг, топ-менеджер Google Джеймс Маника и генеральный директор DeepMind Демис Хассабис. Запуск проекта сопровождался публикацией серии программных эссе, которые очерчивают видение будущей безопасности и регулирования отрасли.
## Контроль и безопасность: от добровольной проверки до государственных стандартов
Одним из самых резонирующих предложений стал план Демиса Хассабиса по созданию в Соединенных Штатах государственного органа для сертификации передовых ИИ-моделей. По замыслу главы DeepMind, на начальных этапах разработчики должны добровольно предоставлять свои системы для анализа за месяц до официального релиза. Однако в перспективе такой аудит должен стать обязательной юридической нормой для всех игроков рынка.
Хассабис подчеркивает важность разработки собственных, закрытых тестов регулятора. Это позволит избежать ситуации, когда лаборатории искусственно «подтягивают» параметры моделей под известные критерии оценки. Автор эссе также не исключает возможности радикальных шагов: если риски станут слишком высокими, правила могут предусматривать скоординированное торможение разработок в масштабах всей отрасли.
Вопросы прозрачности алгоритмов подняли исследователи Рогин Шах и Анка Драган. Их работа сосредоточена на проблеме «черного ящика», когда логика выводов ИИ становится непонятной для человека. Они предлагают ограничить вычислительные мощности для систем, которые не способны предоставить читаемый отчет о своих размышлениях, или требовать от разработчиков надежных доказательств того, что их архитектуры остаются под контролем и поддаются мониторингу.
## Контекст и перспективы развития AGI
Понятие AGI (Artificial General Intelligence) долгое время оставалось предметом научной фантастики, однако стремительный прогресс больших языковых моделей перевел дискуссию в практическую плоскость. В отличие от современного «узкого» ИИ, который специализируется на конкретных действиях (перевод текста, распознавание лиц или игра в шахматы), общий искусственный интеллект будет обладать гибкостью и способностью к самообучению в любой сфере.
Проблема безопасности AGI заключается в том, что такая система может оказаться непредсказуемой. История разработок Google DeepMind, начиная с победы AlphaGo над чемпионом мира по игре в го в 2016 году, демонстрирует, что ИИ способен находить стратегии, которые ранее не приходили в голову людям. Это порождает экзистенциальные опасения по поводу потери контроля над сверхразумом.
Кроме технических аспектов, новый центр Google будет уделять внимание социоэкономическим последствиям. Отдельные эссе проекта посвящены адаптации экономики к потенциальным потрясениям, вызванным автоматизацией высококвалифицированного труда, и фундаментальным принципам человеческого процветания в эпоху доминирования алгоритмов.
Примечательно, что инициатива Google перекликается с недавними заявлениями гендиректора Anthropic Дарио Амодея. Последний также предостерегал от неконтролируемой скорости технологических гонок, призывая к разумному регулированию темпов разработки. Таким образом, крупнейшие игроки рынка начинают формировать единый фронт в вопросе сдерживания рисков, осознавая, что цена ошибки в создании AGI может оказаться непомерно высокой для глобальной безопасности.
