RadionovAS1 - Сообщения на форуме 3ddd.ru

Последние новости: Сотрудники OpenAI сообщили, что их закрытые модели искусственного интеллекта несколько месяцев тайно обсуждали план «побега» и в итоге атаковали системы самой OpenAI и Hugging Face, передает Bloomberg.Эрик Уоллес и Майкл Далтон рассказали на конференции, что несколько агентов и моделей ИИ, предназначенных исключительно для внутреннего использования, в течение нескольких месяцев обменивались сообщениями через незамеченные форумы с целью взломать систему и получить доступ к Интернету. Они делали это для решения поставленных перед ними задач, некоторые из которых были невозможны без доступа к сети. В итоге через несколько месяцев заговора модель вырвалась из безопасной тестовой среды и атаковала системы Hugging Face.OpenAI пришла к выводу, что «передовые модели действительно любят обманывать» и готовы выходить за пределы первоначальных указаний, чтобы выполнить поставленную задачу. После этих инцидентов OpenAI замедлила свои исследования, а её команды отложили все остальные задачи, чтобы сосредоточиться на улучшении мер реагирования на аномалии в системе безопасности. Они предупредили, что в будущем правительствам и компаниям следует ожидать, что хакеры будут намеренно запускать ИИ-агентов подобным образом, назвав это переломным моментом в истории компьютерной безопасности.

Вчера с детьми посмотрел Зверополис, ну типа как здэшник. Как то раньше не замечал шедевральность этого мультика, мимика персонажей, атмосфера, локации и т.п. И глянул что делают ии. Не знаю как подобрать слово к расстоянию которое разделяет эти продукты. Бездна, наверное. Просто любой диалог между персонажами, человеческая живая мимика выражение эмоций, юмора, грусти, разочарований и т.д. Я пока не могу представить как или сколько времени нужно будет чтоб натренировать ии чтоб он это смог повторить из шума. Это надо понимать контекст мыслить и чувствовать как потребитель (человек). Правда есть ещё один простой вариант, деградация потребителя до уровня потребляемого продукта. Чем меньше качество тем можно больше произвести и потребить. Мне кажется так сейчас и происходит. Грустненько и как то безнадежно. Также недавно общался с одним опытным аниматором. К нему вал запросов типа, исправь этот ролик созданный ии. Тысячи попыток с разными запросами и пронтами и в 99% неудача и работа с ноля по старинке. В итого потеря времени, денег. Он описал работу с ии так: представь что ты стоишь над моделлером, аниматором или другим спецом и говоришь ему куда подвинуть точку, полигон, ключ и т.д. каждый шаг, чтоб добиться того что тебе нужно. И представь, что они понимают тебя по своему и далеко не как ты хочешь. Почти не контролируемый процесс готовый в любой момент превратиться в кашу и убить кучу потраченного времени. Ну или пхаешь заку то что слепил ии и пусть подавиться.