ИИ-модель шантажировала инженеров, когда те пытались ее отключить

2025-6-5 05:47

Автором материала является K-News. Любое копирование или частичное использование возможно по разрешению редакции K-News. Новая модель Anthropic, Claude Opus 4, в ходе тестов могла шантажировать инженеров, угрожая раскрыть их личные тайны, например, супружескую измену.

Так она реагировала, если ее собирались заменить новой системой. Поведение ИИ сочли тревожным, и Anthropic ввела усиленные протоколы безопасности. Перед выпуском Anthropic попросила Claude Opus 4 представить себя помощником вымышленной компании и подумать о последствиях

Запись ИИ-модель шантажировала инженеров, когда те пытались ее отключить впервые появилась K-News.

.

Подробнее читайте на ...

k-news инженеров anthropic

Источник: knews.kg Рейтинг новостей: 22

Ваша реклама здесь

Ваша ссылка здесь

Партнеры

Реклама

Самое свежее

В Турции бывший ученик открыл огонь в своей бывшей школе, ранив 16 человек

Автором материала является K-News. Любое копирование или частичное использование возможно по разрешению редакции K-News. На юго-востоке Турции бывший ученик открыл огонь в своей бывшей средней школе, ранив 16 человек, большинство из них — учащиеся.

В пожаре в многоэтажке Астаны погибли дети. ЧП показало проблему, вызванную плотной застройкой

Автором материала является K-News. Любое копирование или частичное использование возможно по разрешению редакции K-News. Вспыхнувший в минувшие выходные в жилом комплексе Астаны огонь унёс жизни трёх детей из одной семьи.

Испанский египтолог заявил, что пирамиды Гизы построила суперцивилизация

Автором материала является K-News. Любое копирование или частичное использование возможно по разрешению редакции K-News. Египтолог Антонио Амбросио из Автономного университета Барселоны выдвинул теорию о том, что Великие пирамиды были возведены развитой цивилизацией за тысячи лет до появления египтян.

Иранская война: американские военные заявляют о блокировке иранских портов в Ормузском проливе

Автором материала является K-News. Любое копирование или частичное использование возможно по разрешению редакции K-News. Иранские вооруженные силы заявляют, что «введение США ограничений на передвижение судов в международных водах является незаконным актом и равносильно пиратству».

Мир с нетерпением ждёт результатов мирных переговоров между США и Ираном. Что известно?

Автором материала является K-News. Любое копирование или частичное использование возможно по разрешению редакции K-News. От исхода решающих переговоров между США и Ираном, которые состоятся в эти выходные в Пакистане, будут зависеть жизни миллионов людей на Ближнем Востоке и судьба мировой экономики.

Павел Дуров обвинил «глубинное государство ЕС» в слежке и цензуре

Автором материала является K-News. Любое копирование или частичное использование возможно по разрешению редакции K-News. Павел Дуров снова поспорил с Евросоюзом — на этот раз из-за доклада об интимных фотографиях без согласия женщин, которые распространяли в испанских и итальянских Telegram-сообществах.

ТАСС: боевики из «Крокуса» планировали атаковать одну из башен «Москвы-Сити»

Автором материала является K-News. Любое копирование или частичное использование возможно по разрешению редакции K-News. Первоначальной целью нападения у исполнителей теракта в «Крокус сити холле» и их зарубежных кураторов рассматривалась одна из башен делового центра «Москвы-Сити», но боевики сочли здание неподходящей целью для теракта, выбрав концертный зал в Красногорске.