.У ИИ же нет такой обратной связи,ему образно говоря вообще плевать на ответственность,на ошибку,на угрозу,на страх,для него это все просто символы,код который он выполняет.
В работе ИИ существуют такие понятия как "штрафы" и "поощрения". Технически вы правы: ИИ не испытывает животного страха или экзистенциальной ответственности. Для него это действительно код и математика. Но это совершенно не значит, что у него нет обратной связи. Она просто имеет другую природу. Наши эмоции, "страх" и "боль" — это, по сути, биологические функции потерь, которые эволюция встроила в нас для выживания и социальной адаптации. У нейросетей есть свой, строгий математический аналог этой системы: Математическая "боль" (Loss Function): Когда ИИ ошибается, алгоритм вычисляет математическое отклонение от идеального результата. Этот "штраф" заставляет систему перестраивать миллионы своих внутренних параметров. Как физическая симуляция ткани не "чувствует" натяжения, но безукоризненно подчиняется законам коллизий, так и ИИ математически обязан избегать ошибок. Искусственная "мораль" (RLHF): На финальных этапах обучения ИИ дрессируют люди. Специальная модель-надсмотрщик буквально "бьет по рукам" (снижает вероятности) за бред, агрессию или ошибки, и "дает конфету" (повышает вероятности) за полезный и безопасный ответ. ИИ действительно плевать на угрозы в нашем человеческом понимании. Но его архитектура выстроена так, что он физически не может игнорировать максимизацию функции вознаграждения. Для него избежать штрафа — это базовая "потребность", прописанная на уровне фундаментальной логики.
Китайцы убили цензуру у текстовых нейросетей — вышла модель с необычным названием huihui, которая убирает все ограничения у Qwen 3.5. Тепер модель ведёт себя как псих и запросто выдаёт любые запрещенные инструкции.
en5er, это из разряда фантастики, когда настоящий ИИ имеет самосознание и самообучение, нынешний ИИ это только маркетинговое название нейронных алгоритмов, соотвественно и поощрений никаких нет. Если у него нет чувств, то о каких штрафах может быть речь, ему вообще плевать есть он или нет. ему просто скармилвают тонны информации и он проводит итерации усваивания до достижения точности, это называют обучением, но в реальности он не учится, а просто накачивают инфой, а инфой накачать много ума не нужно, нужно просто куча вычислительной мощности и оперативы, что мы и видим на нынешних ценах.
