Перейти к содержимому

безопасность AI

Уязвимость OpenAI compaction: обход защиты рассуждений

Уязвимость в компакции OpenAI: исследователи обошли защиту скрытого рассуждения Компания Xint обнаружила способ извлечь зашифрованную цепочку рассуждений моделей OpenAI через штатную функцию компакции. OpenAI подтвердила проблему и устранила…

Продолжить чтение

OpenAI безопасность: глава отдела ушёл и раскритиковал компанию

Руководитель отдела безопасности OpenAI ушёл и назвал культуру компании сломанной Дэвид Робинсон проработал в OpenAI три с половиной года, курировал написание отчётов о безопасности для 12 крупных запусков…

Продолжить чтение

Сотрудники OpenAI и Anthropic требуют замедлить AI

Сотрудники OpenAI и Anthropic просят замедлить развитие AI Более 1 290 сотрудников ведущих AI-компаний подписали открытое письмо с призывом к властям создать механизм контролируемого замедления развития искусственного интеллекта.…

Продолжить чтение