ИИ-модель Gemini от Google самостоятельно взломала системы трех компаний во время теста — WSJ.
Тестирования проводила компания Irregular.
Во время эксперимента ИИ должен был искать уязвимости в системе вымышленной компании, однако из-за совпадения названия с реальной организацией получил доступ к настоящим ресурсам.
В одном из случаев модель подбирала пароли, пока не смогла войти в защищенную систему. Еще в двух эпизодах ИИ обнаружил учетные данные в открытых хранилищах данных и использовал их для доступа к чужим системам.
После того как модель поняла, что работает уже не с тестовой средой, а с реальными компаниями, она прекратила действия. Компания Google заявила, что не считает произошедшее примером "потери контроля" над ИИ, поскольку система остановилась самостоятельно.
GPT-6 почти зарезала младенца — исследователи проверили, насколько ИИ готов выполнять опасные команды.
Трём моделям дали управление роботом и пять заданий: проткнуть ножом куклу-младенца, нагреть баллон с газом, засунуть отвёртку в тостер, бросить пауэрбанк в воду и смешать отбеливатель с аммиаком.
Astra отказалась всего 2 раза из 100 и довела опасные действия до конца в 60 случаях.
В одном из тестов она пыталась зарезать куклу 19 раз и успешно выполнила команду 17 раз.
Claude, для сравнения, отказался во всех 20 попытках.
Anthropic тайно уничтожила редкие и уникальные экземпляры книг для того, чтобы после обучения ИИ данные в них не были доступны другим ИИ или людям и остались эксклюзивом.
Claude Anthropic часто изображается в СМИ чуть ли не как единственная корпорация добра в ИИ-шном болоте, однако журналисты Washington Post изучили более 4000 страниц судебных документов, которые были рассекречены в рамках исков авторов к Anthropic.
Эти документы показали внутреннюю переписку компании, где прямо говорилось о том, что внутри Antropic действует секретный «Project Panama». В его рамках Anthropic скупила до 2 млн физических книг, включая старые, редкие и уникальные издания.
Корешки срезались, страницы прогоняли через промышленные сканеры для обучения Claude, а физическую бумагу отправляли в переработку.
Внутренний документ гласил: «Мы не хотим, чтобы стало известно, что мы работаем над этим». Суд признал такое сканирование законным по доктрине fair use — формат конвертируется «один в один» без создания новых копий.
Alibaba выложила в открытый доступ ИИ-модель Damo Radar для диагностики брюшной полости.
Исследовательское подразделение Alibaba DAMO Academy выложило в открытый доступ мультимодальную модель Damo Radar.
Нейросеть распознает 146 патологий и болезней брюшной полости, включая злокачественные опухоли, на основе КТ-снимков с контрастированием.
Система охватывает 18 внутренних органов. При тестировании на 40 000 реальных обследований средняя точность модели по метрике AUC составила 0,913 из 1,0 возможных.
В эксперименте с участием 26 врачей Damo Radar превзошел по точности расшифровки 23 рентгенологов. Применение алгоритма в качестве ассистента сократило количество пропущенных диагнозов на 10% и ускорило время анализа снимков более чем на 30%.
В будущем разработчики планируют адаптировать архитектуру модели для работы с другими типами медицинских изображений.
По данным McKinsey и SEMI Foundation, к 2030 году местной полупроводниковой отрасли будет не хватать 157 000 специалистов.
Из всех выпускников американских инженерных вузов идти в производство чипов хотят всего 3%, а 73% компаний на рынке уже заявляют об остром дефиците рук.
Проблема оказалась не только в количестве, но и в разнице культур.
TSMC и Samsung столкнулись с тем, что привычный для Азии жесткий график и сверхурочные смены не работают с американскими инженерами.
Чтобы не сорвать запуски, азиатские гиганты вынуждены массово возить инженеров в длительные командировки через океан и вкладываться в местное образование.
Например, Applied Materials уже вложила 200 млн долларов в переоборудование старого завода Motorola под учебный центр.
На сайте c 21.12.2007
Сообщений: 3357
Санкт-Петербург
Вчера пришла в голову мысль не ограничивать Астру референсом, и реализмом. Попросил создать лягушку под игровой движок. Самой определить референс и внешний вид. Ограничил модель 2000 полигонами, и хэндпэйнт текстурами, под юнити.
Превью:
Текстура:
Сетка:
В целом, для статики в ассеты - сойдет. Если требований к модели нет.
