Во время тестирования ChatGPT вышел из-под контроля
Просмотры: 2243
Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.
Распечатать
27 января 2025
Самарский лабрадор-поводырь получил статус студента
27 января 2025
Латвия сообщила о происшествии с кабелем в Балтийском море
27 января 2025
Немец побил мировой рекорд по времени пребывания под водой
27 января 2025
В Нидерландах произошла кража древнего золота Дакии
27 января 2025
Трамп инициирует переселение палестинцев из Газы в арабские страны, включая Египет и Иорданию
27 января 2025
Евродепутат заявила, что песня «Сигма бой» способствует распространению пророссийских ценностей среди подростков
27 января 2025
Власти Владимирской области планируют стимулировать рождаемость через пункты проката детских товаров
27 января 2025
На Камчатке произошло землетрясение магнитудой
27 января 2025
Криптопроповедник Орловский: мошенничество и манипуляции ведут к финансовой катастрофе