Google DeepMind ініціював створення спеціалізованого аналітичного центру, що фокусуватиметься на дослідженні загального штучного інтелекту (AGI). Нова структура об’єднала провідних експертів галузі для пошуку відповідей на виклики, які неминуче постануть перед людством із появою систем, здатних виконувати будь-які інтелектуальні завдання на рівні людини або вище.
Керівний склад інституту сформували ключові фігури технологічного гіганта: співзасновник DeepMind Шейн Легг, топменеджер Google Джеймс Маніка та генеральний директор DeepMind Деміс Гассабіс. Запуск проєкту супроводжувався публікацією серії програмних есе, що окреслюють бачення майбутньої безпеки та регулювання галузі.
## Контроль і безпека: від добровільної перевірки до державних стандартів
Однією з найбільш резонансних пропозицій став план Деміса Гассабіса щодо створення у Сполучених Штатах державного органу для сертифікації передових ШІ-моделей. За задумом очільника DeepMind, на початкових етапах розробники повинні добровільно надавати свої системи для аналізу за місяць до офіційного релізу. Проте в перспективі такий аудит має стати обов’язковою юридичною нормою для всіх гравців ринку.
Гассабіс наголошує на важливості розробки власних, закритих тестів регулятора. Це дозволить уникнути ситуації, коли лабораторії штучно «підтягують» параметри моделей під відомі критерії оцінювання. Автор есе також не виключає можливості радикальних кроків: якщо ризики стануть надто високими, правила можуть передбачати скоординоване гальмування розробок у масштабах усієї галузі.
Питання прозорості алгоритмів порушили дослідники Рогін Шах та Анка Драган. Їхня праця зосереджена на проблемі «чорної скриньки», коли логіка висновків ШІ стає незрозумілою для людини. Вони пропонують обмежити обчислювальні потужності для систем, що не здатні надати читабельний звіт про свої міркування, або вимагати від розробників надійних доказів того, що їхні архітектури залишаються підконтрольними та піддаються моніторингу.
## Контекст і перспективи розвитку AGI
Поняття AGI (Artificial General Intelligence) тривалий час залишалося предметом наукової фантастики, проте стрімкий прогрес великих мовних моделей перевів дискусію у практичну площину. На відміну від сучасного «вузького» ШІ, який спеціалізується на конкретних діях (переклад тексту, розпізнавання облич чи гра в шахи), загальний штучний інтелект володітиме гнучкістю та здатністю до самонавчання у будь-якій сфері.
Проблема безпеки AGI полягає в тому, що така система може виявитися непередбачуваною. Історія розробок Google DeepMind, починаючи з перемоги AlphaGo над чемпіоном світу з гри в го у 2016 році, демонструє, що ШІ здатний знаходити стратегії, які раніше не спадали на думку людям. Це породжує екзистенційні побоювання щодо втрати контролю над надрозумом.
Крім технічних аспектів, новий центр Google приділятиме увагу соціоекономічним наслідкам. Окремі есе проєкту присвячені адаптації економіки до потенційних потрясінь, спричинених автоматизацією висококваліфікованої праці, та фундаментальним принципам людського процвітання в епоху домінування алгоритмів.
Примітно, що ініціатива Google перегукується з нещодавніми заявами гендиректора Anthropic Даріо Амодея. Останній також застерігав від неконтрольованої швидкості технологічних перегонів, закликаючи до розважливого регулювання темпів розробки. Таким чином, найбільші гравці ринку починають формувати єдиний фронт у питанні стримування ризиків, усвідомлюючи, що ціна помилки у створенні AGI може виявитися непомірно високою для глобальної безпеки.
