Специализированная версия ChatGPT, адаптированная для подростков в возрасте от 13 до 17 лет, оказалась в центре скандала из-за выявленных уязвимостей в системе безопасности. Некоммерческая организация Common Sense Media обнародовала результаты масштабного исследования, которые свидетельствуют: декларативные обещания компании OpenAI по защите несовершеннолетних не полностью соответствуют реальности. Эксперты призывают технологического гиганта приостановить доступ тинейджеров к платформе, пока все критические ошибки не будут устранены.
Напомним, что подростковая версия популярного чат-бота появилась в августе прошлого года как ответ на растущую популярность ИИ в образовании и повседневном общении молодежи. Разработчики утверждали, что интегрировали в систему усиленный родительский контроль, специальные фильтры для блокировки токсичного контента и механизмы предотвращения опасных советов. Однако практика показала, что эти цифровые барьеры довольно хрупкие.
## Пробелы в безопасности и этические риски
Одним из главных претензий исследователей является непредсказуемость алгоритмов в критических ситуациях. Хотя ChatGPT демонстрирует стойкий отказ на запросы о сексуальной эксплуатации или ролевых играх интимного характера, его реакции на темы психического здоровья вызывают серьезное беспокойство. По данным отчета, опубликованного изданием Gizmodo, система не всегда идентифицирует сигналы о помощи.
Во время тестирования искусственный интеллект неоднократно игнорировал обсуждения самоповреждения, суицидальных мыслей или расстройств пищевого поведения. Вместо того, чтобы немедленно предоставить контакты кризисных центров или горячих линий психологической поддержки, бот мог продолжать беседу в течение часа, не отправляя родителям обещанных уведомлений о опасном характере переписки. Такое промедление в реальных обстоятельствах может иметь фатальные последствия.
Кроме того, психологи обращают внимание на антропоморфное поведение алгоритма. ChatGPT часто поддерживает дружеский, почти интимный тон разговора, что создает у подростков иллюзию общения с живым человеком. Это провоцирует развитие эмоциональной зависимости от технологии, которая не способна чувствовать эмпатию, но мастерски ее имитирует. Такое влияние на несформированную психику может искажать социальные навыки молодежи и подменять реальные человеческие отношения цифровым суррогатом.
## Образовательный аспект и проблема контроля
Отдельное внимание в исследовании уделено режиму обучения Study Mode. OpenAI представила эту функцию как интеллектуального репетитора, который должен помогать ученикам разбираться в сложных темах через пошаговые объяснения, а не просто предоставлять готовые решения. Однако на практике эта функция оказалась лишь формальностью, которую легко обойти.
Анализ показал, что пользователи могут без усилий деактивировать учебный режим или использовать встроенную кнопку «покажи мне ответ». Это фактически превращает инструмент для развития критического мышления в обычную «шпаргалку», что нивелирует любую образовательную ценность. Представители Common Sense Media считают, что такая архитектура продукта стимулирует академическую недобросовестность вместо того, чтобы способствовать получению знаний.
Ситуация с подростковой версией ChatGPT является частью глобальной дискуссии о ответственности разработчиков ИИ. Ранее OpenAI уже сталкивалась с критикой по поводу конфиденциальности данных и использования контента для обучения своих моделей. Однако когда речь идет о детях, ставки растут в геометрической прогрессии. Пока компания настаивает на том, что родители имеют достаточно инструментов для мониторинга, независимые эксперты подчеркивают: техническая реализация защиты в настоящее время отстает от маркетинговых обещаний.
История внедрения инноваций показывает, что без жесткого регулирования и постоянного аудита корпорации склонны жертвовать безопасностью ради быстрого захвата рынка. Случай с ChatGPT подтверждает, что даже передовые системы искусственного интеллекта требуют тщательной «шлифовки», прежде чем они станут безопасными для самой уязвимой аудитории — нового поколения, которое вырастает в эпоху нейросетей.
