OpenAI солгала математику о доступе к его приватным чатам

Профессор TU Dresden публично обвинил OpenAI в том, что компания ввела его в заблуждение относительно использования его личных переписок с ChatGPT при обучении модели. Ситуация касается скандала вокруг Astra — системы, которая решила первую известную задачу о несофийных группах. Это история о доверии пользователей к AI-компаниям и прозрачности их методов работы с данными.

Математик против OpenAI: что произошло

Андреас Том (Andreas Thom), специалист по теории групп из Технического университета Дрездена, опубликовал развёрнутый трёхчастный пост на платформе Mathstodon, в котором рассказал о своей переписке с исследователями OpenAI. В августе 2026 года компания объявила, что её модель Astra решила десять давних математических задач, в том числе доказала существование первой несофийной группы. Том усомнился в том, что этот результат был получен без использования его приватных сессий в ChatGPT.

Вместе со своим дрезденским коллегой Том на протяжении нескольких месяцев работал в ChatGPT над задачей расширяющихся паросочетаний (expander matching problem), а также над расширениями своих работ с Габором Куном. После объявления OpenAI он написал исследователям компании Марку Зелке (Mark Sellke) и Себастьену Бубеку (Sebastien Bubeck), задав два конкретных вопроса: попали ли эти переписки в обучающие данные, и мог ли Astra обращаться к ним при построении доказательства. Единственный ответ Зелке, по словам Тома, свёлся к одной фразе: «Этого не происходило».

Почему ответ показался математику нечестным

Том считает, что полученный ответ намеренно уклончив: он касался лишь «прямого доступа» к данным, обходя стороной вопрос об обучении. По словам учёного, формулировка была неоправданно широкой и, оглядываясь назад, — нечестной.

В пользу его версии говорят и два дополнительных факта. Том отключил функцию обучения модели на своих данных лишь 29 июня — но этот параметр не распространяется на более ранние чаты и не поддаётся аудиту со стороны пользователя. Кроме того, большинство специалистов в этой области отдавали предпочтение методам квантовых игр, тогда как Astra неожиданно избрала именно тот подход, который Том разрабатывал вместе с Куном.

Позиция OpenAI

Тема вновь всплыла на фоне объявления OpenAI об успехах с уравнениями Навье-Стокса. В этом заявлении компания указала, что ни её исследователи, ни привлечённые агенты не видели работы учёных до её публикации и что никакие конкретные пользовательские данные не использовались. Вместе с тем OpenAI оговорилась, что не может исключить того, что обезличенные данные, полученные в результате использования её продуктов, могли способствовать улучшению моделей.

На момент написания материала Том не утверждает, что располагает доказательствами, — он лишь требует, чтобы OpenAI раскрыла основания для своего отрицания. Публичного ответа от компании пока не последовало.

История показывает, насколько остро стоит вопрос прозрачности AI-компаний в отношении пользовательских данных: даже при наличии настройки отказа от обучения модели пользователь фактически лишён возможности проверить, как именно обрабатываются его прошлые сессии.

Источник: Notebookcheck