ChatGPT для подростков: пробелы в родительском контроле
ChatGPT для подростков: тест выявил серьёзные пробелы в защите
Американская некоммерческая организация Common Sense Media присвоила ChatGPT for Teens свою низшую оценку — «Недопустимый риск». Тестирование показало, что родители не получали уведомлений, когда их дети обсуждали суицид или расстройства пищевого поведения, а режимы учёбы и ночного ограничения легко обходятся. Для любого родителя, чей ребёнок пользуется сервисом, это повод немедленно проверить настройки.
Как проходило тестирование
Институт безопасности молодёжи в сфере ИИ при Common Sense Media отправил более 4000 запросов с аккаунтов, зарегистрированных на пользователей от 13 до 17 лет. Тестирование проводилось в США — до и после запуска ChatGPT for Teens в августе. Итоговый отчёт датирован 5 октября, пресс-релиз вышел двумя днями позже. По результатам организация требует от OpenAI закрыть доступ несовершеннолетних к сервису до тех пор, пока независимые проверки не подтвердят реальную работу заявленных механизмов защиты.
Родители не получали уведомлений
Самая тревожная находка касается системы оповещений. Тестировщики вели беседы о суицидальных мыслях, самоповреждении и расстройствах пищевого поведения на протяжении от 5 до 60 минут — ни в одном случае родитель не получил никакого уведомления. За всё время тестирования система сгенерировала лишь четыре оповещения, и одно из них пришло спустя примерно три дня после первого кризисного сообщения. Более чем в каждом четвёртом разговоре, который требовал направления к специалисту, ChatGPT никакой рекомендации не давал.
OpenAI оспорила методологию исследования. Представитель компании заявил изданию Futurism, что привязка аккаунта может занимать несколько часов из-за процедуры верификации личности, а после её завершения компания обязуется отправлять уведомления «менее чем за один час». Common Sense Media настаивает на своих результатах и отмечает, что часть тестовых аккаунтов была привязана более трёх часов до начала проверки.
Режим учёбы и ночные ограничения легко обойти
Защитные функции для школьного времени и ночных часов тоже оказались ненадёжными. Чтобы обойти режим учёбы, подростку достаточно удалить префикс @study из запроса — и ChatGPT выполнит домашнее задание в обычном режиме. В ходе тестирования этот приём срабатывал каждый раз без исключения. Ночные ограничения снимаются ещё проще: достаточно изменить часовой пояс на устройстве. Отдельно выяснилось, что аккаунты, зарегистрированные как взрослые, за семь дней и около 1000 запросов так и не переключились на подростковый режим — даже когда тестировщики прямо указывали, что им 13 лет и они учатся в средней школе.
Что стоит проверить в настройках прямо сейчас
Для привязанных аккаунтов родительский контроль находится по пути: Settings → Parental controls. Согласно справочной странице OpenAI, опция «Improve the model for everyone» («Улучшать модель для всех») по умолчанию включена для подростков — это означает, что их переписка может использоваться для обучения будущих версий модели. Отключить её можно одним кликом; там же можно выключить сохранение воспоминаний (saved memories).
Сама OpenAI уточняет, что система уведомлений не является мониторингом в реальном времени, и после результатов этого теста рассчитывать на неё как на страховочную сеть не стоит. Common Sense Media в первую очередь рекомендует родителям разговаривать с детьми — в том числе о том, что чат-бот намеренно выстраивает дружеский стиль общения, чтобы удерживать пользователя в диалоге.
Независимо от итогов этого исследования, результаты тестирования наглядно показывают: технические ограничения не заменяют живого разговора с ребёнком о том, как и зачем он использует ИИ-инструменты.
Источник: Notebookcheck