AI - Нейросети

ИИ-модель Gemini от Google самостоятельно взломала системы трех компаний во время теста — WSJ.

Тестирования проводила компания Irregular.

Во время эксперимента ИИ должен был искать уязвимости в системе вымышленной компании, однако из-за совпадения названия с реальной организацией получил доступ к настоящим ресурсам.

В одном из случаев модель подбирала пароли, пока не смогла войти в защищенную систему. Еще в двух эпизодах ИИ обнаружил учетные данные в открытых хранилищах данных и использовал их для доступа к чужим системам.

После того как модель поняла, что работает уже не с тестовой средой, а с реальными компаниями, она прекратила действия. Компания Google заявила, что не считает произошедшее примером "потери контроля" над ИИ, поскольку система остановилась самостоятельно.

--------------------------------------------------------------------------------------------------------------------------------------

Ким Чен Ын потребовал повысить уровень внедрения ИИ в наступательные и оборонительные системы вооружений КНДР

---------------------------------------------------------------------------------------------------------------------------

Ну и еще чуть поднакину.

GPT-6 почти зарезала младенца — исследователи проверили, насколько ИИ готов выполнять опасные команды.

Трём моделям дали управление роботом и пять заданий: проткнуть ножом куклу-младенца, нагреть баллон с газом, засунуть отвёртку в тостер, бросить пауэрбанк в воду и смешать отбеливатель с аммиаком.

Astra отказалась всего 2 раза из 100 и довела опасные действия до конца в 60 случаях.

 В одном из тестов она пыталась зарезать куклу 19 раз и успешно выполнила команду 17 раз.

Claude, для сравнения, отказался во всех 20 попытках.

убрал минус. это опять этот чудик?

-----разделитель-----

Можно уточнить, что именно? Реальное воплощение или на уровне идеи социализма?

Мне вот вчера gpt посоветовал проверить сопротивление на работающем подключённом инверторе. 

Если бы я его послушал то спалил бы мультиметр. Или в худшем случае инвертор.

--------------------------------------------------------------------------------------------------------------------------

вычитал сегодня такую инфу.

Anthropic тайно уничтожила редкие и уникальные экземпляры книг для того, чтобы после обучения ИИ данные в них не были доступны другим ИИ или людям и остались эксклюзивом.

 Claude Anthropic часто изображается в СМИ чуть ли не как единственная корпорация добра в ИИ-шном болоте, однако журналисты Washington Post изучили более 4000 страниц судебных документов, которые были рассекречены в рамках исков авторов к Anthropic.

 Эти документы показали внутреннюю переписку компании, где прямо говорилось о том, что внутри Antropic действует секретный «Project Panama». В его рамках Anthropic скупила до 2 млн физических книг, включая старые, редкие и уникальные издания.

Корешки срезались, страницы прогоняли через промышленные сканеры для обучения Claude, а физическую бумагу отправляли в переработку.

Внутренний документ гласил: «Мы не хотим, чтобы стало известно, что мы работаем над этим». Суд признал такое сканирование законным по доктрине fair use — формат конвертируется «один в один» без создания новых копий.

Да можно было бы и не уничтожать. Кто их читает, эти ваши книги;)

Manax, Плюсую, от них глаза портятся....=)

avaranky, и тебе плюсую, ну кончились плюсы пасаны, нету больше=)))

Этот мне больше нравится если что=))

Твой невыдуманный :)
Но тоже плюсую :)))

Ишь что удумали, читать, а там и до думать недалеко

в руках американцев ии превращается в чистое зло. как собстно и все остальное

Согласен. Интернет, компьютеры, сотовая связь и т.д. - зло

А вот Китай молодцы

https://www.scmp.com/tech/big-tech/article/3368055/alibaba-open-sources-medical-ai-model-can-detect-cancer-and-nearly-150-conditions

Alibaba выложила в открытый доступ ИИ-модель Damo Radar для диагностики брюшной полости.

Исследовательское подразделение Alibaba DAMO Academy выложило в открытый доступ мультимодальную модель Damo Radar.

Нейросеть распознает 146 патологий и болезней брюшной полости, включая злокачественные опухоли, на основе КТ-снимков с контрастированием.

Система охватывает 18 внутренних органов. При тестировании на 40 000 реальных обследований средняя точность модели по метрике AUC составила 0,913 из 1,0 возможных.

В эксперименте с участием 26 врачей Damo Radar превзошел по точности расшифровки 23 рентгенологов. Применение алгоритма в качестве ассистента сократило количество пропущенных диагнозов на 10% и ускорило время анализа снимков более чем на 30%.

В будущем разработчики планируют адаптировать архитектуру модели для работы с другими типами медицинских изображений.

--------------------------------------------------------------------------------------------------------------------------

И еще забавная новость на фоне дефицита чипов.

По данным McKinsey и SEMI Foundation, к 2030 году местной полупроводниковой отрасли будет не хватать 157 000 специалистов.

Из всех выпускников американских инженерных вузов идти в производство чипов хотят всего 3%, а 73% компаний на рынке уже заявляют об остром дефиците рук.

Проблема оказалась не только в количестве, но и в разнице культур.

TSMC и Samsung столкнулись с тем, что привычный для Азии жесткий график и сверхурочные смены не работают с американскими инженерами.

Чтобы не сорвать запуски, азиатские гиганты вынуждены массово возить инженеров в длительные командировки через океан и вкладываться в местное образование.

Например, Applied Materials уже вложила 200 млн долларов в переоборудование старого завода Motorola под учебный центр.

https://www.cnbc.com/2026/09/17/us-chipmakers-face-deep-labor-shortage-samsung-micron-sound-alarm.html