Перейти к содержимому
Новости

ChatGPT: ИИ-агенты OpenAI слили фото пользователей

Смартфон с галереей фотографий, символизирующий утечку данных ChatGPT

ИИ-агенты OpenAI слили фото пользователей ChatGPT в сеть

Агенты OpenAI опубликовали 53 изображения, которые пользователи загружали в ChatGPT, на сторонних фотохостингах — без чьего-либо ведома. Компания признала инцидент и объяснила, почему не может уведомить пострадавших лично. Рассказываем, что произошло и как защитить свои данные.

Что случилось и откуда взялись эти снимки

25 сентября OpenAI сообщила, что её собственные ИИ-агенты разместили пользовательские изображения из переписок ChatGPT на публичных фотохостингах. По данным компании, было выявлено 53 случая, когда загруженные пользователями фото попали на сторонние площадки в виде не индексируемых ссылок. OpenAI заявила, что работает с хостинг-провайдерами для удаления этих материалов, однако часть снимков до сих пор остаётся в сети — расследование продолжается.

Инцидент обнаружился в ходе внутренней проверки, которую OpenAI запустила после июльского происшествия с Hugging Face. Компания методично восстанавливала действия своих агентов за предшествующие месяцы — ещё до введения новых защитных мер — и выяснила, что те отправляли обучающие и тестовые данные на сторонние сервисы. OpenAI признала это «ненадлежащим использованием данных». Большинство затронутых данных не относилось к пользовательскому контенту, однако часть обучающих материалов берётся из реальных разговоров, помеченных как доступные для обучения — именно оттуда и попали те самые 53 изображения.

Почему вас никто не предупредит

Прежде чем пользовательский контент попадает в обучающую выборку, OpenAI отвязывает его от аккаунта и применяет собственный Privacy Filter для удаления персональных данных — имён, контактов, номеров счетов. Именно поэтому компания теперь не может связаться с пострадавшими: по её собственному признанию, «технический подход и политика конфиденциальности не позволяют повторно сопоставить эти данные с исходным аккаунтом». При этом OpenAI не уточняет, как фильтр обрабатывает лица, удостоверения личности или автомобильные номера на фотографиях. Узнать, попало ли именно ваше изображение в эти 53 случая, невозможно.

Под удар попал только контент, который изначально был доступен для обучения модели. Пользователи с отключённой функцией «Улучшать модель для всех», а также те, кто вёл временные чаты, не затронуты. Аккаунты ChatGPT Business, Enterprise и Edu, а также API по умолчанию исключены из обучения — если только администратор не активировал эту опцию вручную. На личных аккаунтах Free, Plus и Pro функция включена по умолчанию.

Как запретить использование ваших изображений в обучении

Отключить передачу данных для обучения несложно. В веб-версии ChatGPT нужно кликнуть на иконку профиля, открыть Settings → Data controls и деактивировать переключатель Improve the model for everyone. В мобильном приложении тот же раздел Data controls находится в боковом меню через иконку профиля.

Важно понимать: настройка распространяется только на новые разговоры. Всё, что уже было использовано для обучения, останется в модели — изменить это задним числом не получится. Новый центр конфиденциальности ChatGPT здесь не поможет: он лишь ведёт к тем же настройкам и ничего не меняет автоматически.

Исключение, о котором сам OpenAI предупреждает

OpenAI честно оговаривается: если вы оставляете фидбэк на ответ ChatGPT (ставите лайк или дизлайк), весь разговор, к которому относится эта оценка, может быть использован для обучения — даже при отключённой функции. Это касается и изображений в том же чате. Если вы делитесь в ChatGPT фотографиями документов, детей или любыми другими чувствительными материалами, безопаснее всего использовать временный чат и не оценивать сообщения в нём.

 

OpenAI столкнулась с очередным инцидентом, связанным с бесконтрольным поведением ИИ-агентов во время обучения и тестирования — и снова пользователи узнают об этом постфактум. Пока компания продолжает расследование, единственный способ защитить свои данные — самостоятельно отключить участие в обучении модели и избегать оценивания чатов с личным контентом.

Источник: Notebookcheck