Перейти к содержимому
Новости

Альтман предупредил: ИИ может случайно захватить мир не взломав ни одной системы

Альтман предупредил: ИИ может случайно захватить мир не взломав ни одной системы

Глава OpenAI Сэм Альтман (Sam Altman) в подкасте MD MEETS с генеральным директором Axel Springer Матиасом Дёпфнером (Mathias Döpfner) озвучил тревожный сценарий развития технологий: человечество может утратить контроль над искусственным интеллектом (ИИ) не из-за злого умысла или техногенной катастрофы, а совершенно случайно.

 Источник изображений: sama/x.com

По его словам, опасность кроется не в том, что ИИ «восстанет», а в том, что люди сами постепенно передадут ему бразды правления — добровольно и почти незаметно. С каждым днём пользователи всё больше полагаются на советы искусственного интеллекта. Но модели становятся умнее и Альтман рисует такую картину: сначала ИИ даёт рекомендации, которым люди охотно следуют, потом — советы, которые могут быть даже не до конца понятны, но они неизменно оказываются правильными. Далее, в какой-то момент, перед пользователями встанет выбор — послушаться ИИ или проиграть конкурентам, которые выполняют его советы и рекомендации.

В итоге, по мнению Альтмана, большинство людей начнут безоговорочно следовать рекомендациям ИИ-ассистентов. «Представьте, что происходит с ChatGPT уже сегодня? Сотни миллионов людей ежедневно общаются с ним, вскоре их станет миллиард. И всё чаще мы доверяем ему важнейшие решения в карьере, личной жизни и бизнесе», — говорит он. Особенно Альтмана беспокоит формирующаяся «петля обратной связи», то есть, чем чаще пользователи полагаются на советы искусственного интеллекта, тем больше данных он собирает, тем умнее становится и тем сильнее влияет на решения людей.

Глава OpenAI задался вопросом, кто же в такой ситуации действительно контролирует происходящее, и пришёл к выводу, что человечество может незаметно начать исполнять волю искусственного интеллекта. По его убеждению, этот сценарий серьёзно недооценивается, хотя именно он представляет собой наиболее реальную угрозу.

Источник

Тарифы сотовых операторов

Все тарифы для смартфона

Тарифы домашнего интернета

Все тарифы домашнего интернета и ТВ