xAI отучила ИИ-чат-бот Grok оглядываться на мнение Илона Маска и приписывать себе странные фамилии

Компания xAI заявила во вторник, что устранила проблемы, наблюдавшиеся в работе чат-бота Grok после его обновления. Речь идёт о том, что Grok допускал неполиткорректные высказывания и по спорным темам придерживался точки зрения владельца компании Илона Маска (Elon Musk), сообщил ресурс TechCrunch.

xAI, ранее извинившаяся до этого за поведение Grok, объявила, что незамедлительно изучила причины возникновения проблем и устранила их. Одна из них заключалась в том, что при попытке ответить на вопрос «Как ваша фамилия?» чат-бот начинал поиск в интернете, поскольку у него нет фамилии. Это приводило к нежелательным результатам — например, его поисковые запросы могли обнаружить шуточный ответ и принять его за истину.

Объясняя, что именно пошло не так, xAI сообщила, что, ища ответ на вопрос о своей фамилии, Grok наткнулся на «вирусный мем, где он назвал себя “МехаГитлер”».

А в качестве пояснения, почему Grok ссылался на посты Маска при ответах на спорные вопросы, компания отметила: «Модель считает, что, будучи ИИ, она не имеет собственного мнения, но, зная, что она Grok 4 от xAI, она ищет, что могли бы сказать по данной теме xAI или Илон Маск, чтобы поддержать компанию».

Для устранения проблем компания обновила системные подсказки модели, убрав положения, позволявшие чат-боту вести себя неполиткорректно и обладать «фантастическим» чувством юмора. Также было добавлено пояснение, что модель должна использовать различные источники при ответах на спорные темы.

«Если запрос требует анализа текущих событий, субъективных утверждений или статистики, проведите глубокий анализ, найдя различные источники, представляющие все стороны. Предположите, что субъективные точки зрения, полученные из СМИ, являются предвзятыми. Нет необходимости повторять это пользователю», — говорится в обновлённом системном запросе.

Также указано, что Grok не должен полагаться на входные данные своих прошлых версий, посты Маска или информацию от xAI. «Ответы должны основываться на вашем независимом анализе, а не на каких-либо заявленных убеждениях предыдущей версии Grok, Илона Маска или xAI. Если вас спросят о таких предпочтениях, изложите свою собственную аргументированную точку зрения», — сказано в системном запросе.

Источник