AI - Нейросети

Это все потому что вы думаете что и ИИ думает.А он просто берет готовые тектсты на тему,взвешивает,отсеивает те что меньше весят,взвешивает следующие оставшиеся,и так далее пока не останется один.Далее облекает их в удобную семантическую форму и вываливает.Но информацию он берет с общедоступных источников,а там полно устаревших и даже ошибочных.

Это всё потому, что вы считаете, что люди думают ))

проблема самая большая не в том, что данные могут быть ошибочными, а в том, что ИИ не понимает контекста потому что он, верно: "думаете что и ИИ думает". Поэтому даже если все данные валидны, он всё равно сломается об отсутствие понимания глобального контекста задачи.

Еще проблема в том что ИИ предсказывает код которые ей "представляется" синтаксически логичным,но не не запускает и не тестирует его.Может быть какое то следующее поколение ИИ будет эмулировать структуру виндовс внутри себя,разворачивать 3д макс,и конструировать скрипты и тут же виртуально их тестировать.Но что это будут за архитектуры пока не ясно,а главное какой обьем оперативы нужен будет,нынешние плачи по оперативке покажутся нам детским криком на лужайке.

Это всё так. ИИ в текущем виде это вариатор вероятностей. "Китайская комната".
Но весь сок в том, что люди тоже "информацию берут с общедоступных источников,а там полно устаревших и даже ошибочных данных"

Вот такой вот парадокс и вопрос на который никто в мире не может дать ответ. 
Что значит думать и как мы это делаем ¯\_(ツ)_/¯

Это понятно что люди подобны ИИ ,слишком усложненные ,с разными тупиковыми петлями.Но у людей есть такая штука как эволюционно прошитый инстинкт самосохранения,и продолжения рода,это несколько уравновешивает людей от явных ошибок.Но не 100%.У ИИ  же нет такой обратной связи,ему образно говоря вообще плевать на ответственность,на ошибку,на угрозу,на страх,для него это все просто символы,код который он выполняет.Грубо говоря для него нет смысла как такового.Для человека же он есть,хотя само понятие смысла с точки зрения логики это абсурд.Вот так наши слабости,одновременно это и наши достоинства.

У людей есть целеполагание и абстрактное мышление. 
И очень бы хотелось, чтобы у машин его никогда не появилось. 

На мои взгляд, основное отличие мышления человека, от "мышления" ИИ, это даже не целеполагание, а применение результатов (как конечный этап мышления), проверка мысленных конструкций. Область мышления, на мой взгляд не важна. От мыслей по поводу любви, до мыслей по поводу ремонта - подход один. Происходит это по причине того, что человек физически существует в реальном мире, и как бы не эволюционировал мысленно, его мысли будут применяться на реальность, даже если они про другие планеты и миры.

"Я знаю как дойти до Пятерочки"  - это мысль.

"Я знаю как дойти до Пятерочки", и совершенное действие с оценкой результата - это знание.

ИИ, часто совершает ошибки в выдаваемой информации, тк оставляет проверку "мыслей" на потребителя, а разработчики стыдливо лепят мелкий текст под строчку ввода "ИИ может ошибаться, данные следует проверить (чем? применением, конечно же)".

Но в целом, текущий подход ИИ инструментов, это подход теоретика, который может выглядеть убедительным, но на практике - все ломается.

Думать что знаешь, и знать, это две большие разницы. Даже больше того, знать только со своего опыта проверенных результатов - это тоже спорная история, она называется "субъективный опыт". Он верный, но локальный. А общего и не бывает. Каждый берет чей то опыт, примеряет к себе, и допиливает напильником под "контекст/личные обстоятельства"

Значит ли это что ИИ инструменты бесполезны? Нет, они забирают рутину и являются отличным инструментом(область не важна). Но их применение, это как танец, ведущий всегда один. И это человек. В такой связке, можно усилить, или убыстрить многие процессы, или задачи, оставляя перебор, или вариативную генерацию на ИИ, а твердое понимание и ситуативную логику человеку.

Так вижу.

Upd. Придумал метафору. ИИ это та самая подруга/друг, чьи советы направлены на помощь тебе (а ты хорошо знаешь его/её?), но за результаты советчик ответственности не несет.

Людское целеполагание надстраивается на инстинкт самосохраниния всегда.Всегда в центре идея "Я" или эго.Иначе бы нам точно так же как ИИ было пофигу на результат,но мы в каждом конкретном случае можем ошибаться, но всегда уверенны что это будет лучше именно для нас в итоге,от этого и исходим.ИИ кстати может  хорошо имитировать абстрактное мышление.

Как и люди ))

Да точно!  ИИ - это имитация интеллекта

В работе ИИ существуют такие понятия как "штрафы" и "поощрения".
Технически вы правы: ИИ не испытывает животного страха или экзистенциальной ответственности. Для него это действительно код и математика. Но это совершенно не значит, что у него нет обратной связи. Она просто имеет другую природу. Наши эмоции, "страх" и "боль" — это, по сути, биологические функции потерь, которые эволюция встроила в нас для выживания и социальной адаптации. У нейросетей есть свой, строгий математический аналог этой системы:
Математическая "боль" (Loss Function): Когда ИИ ошибается, алгоритм вычисляет математическое отклонение от идеального результата. Этот "штраф" заставляет систему перестраивать миллионы своих внутренних параметров. Как физическая симуляция ткани не "чувствует" натяжения, но безукоризненно подчиняется законам коллизий, так и ИИ математически обязан избегать ошибок.
Искусственная "мораль" (RLHF): На финальных этапах обучения ИИ дрессируют люди. Специальная модель-надсмотрщик буквально "бьет по рукам" (снижает вероятности) за бред, агрессию или ошибки, и "дает конфету" (повышает вероятности) за полезный и безопасный ответ.
ИИ действительно плевать на угрозы в нашем человеческом понимании. Но его архитектура выстроена так, что он физически не может игнорировать максимизацию функции вознаграждения. Для него избежать штрафа — это базовая "потребность", прописанная на уровне фундаментальной логики.

Кстати, по поводу цензуры...

Китайцы убили цензуру у текстовых нейросетей — вышла модель с необычным названием huihui, которая убирает все ограничения у Qwen 3.5. Тепер модель ведёт себя как псих и запросто выдаёт любые запрещенные инструкции.

Работает локально, можно запускать через Ollama

кто хочет побаловаться вот ссыль

https://huggingface.co/huihui-ai/Huihui-Qwen3.5-35B-A3B-abliterated

!!!Даже сами авторы советуют использовать её осторожно — контент может быть максимально жёстким!!!

en5er, это из разряда фантастики, когда настоящий ИИ имеет самосознание и самообучение, нынешний ИИ это только маркетинговое название нейронных алгоритмов, соотвественно и поощрений никаких нет. Если у него нет чувств, то о каких штрафах может быть речь, ему вообще плевать есть он или нет. ему просто скармилвают тонны информации и он проводит итерации усваивания до достижения точности, это называют обучением, но в реальности он не учится, а просто накачивают инфой, а инфой накачать много ума не нужно, нужно просто куча вычислительной мощности и оперативы, что мы и видим на нынешних ценах.

Интересное название... Я привык писать на русском названия программ и пр, Нано банана, Корона, Фотошоп, а вот за обсуждение нейросети "xyйxyй" не будет выдаваться бан?  Надеюсь модераторы будут читать контекст.

kexer79, да что там обсуждать, сделали для локального запуска, но рекомендуется GPU с 24 ГБ VRAM и выше -_-, вот и назвали "хуйхуй" )))

Оу, жаль, планировал сегодня погонять.

вполне вероятно и на 16 запустится, может даже и на 12, но не факт=)

ну, или вылезет сообщение типа "название продукта тебе /2 , а не запуск на 12"

Убил сегодня 12 часов на всевозможные 3Д-генерации из 2Д-фотографий мебели (кресла) в 3Д (чисто форма без текстур). Прогнал десятки разных кресел. И могу констатировать, что это полное говно. Тестировал на хуняне меше и трипо. Если какие-то примитивные формы он ещё мало-мальски понимает и строит пропорционально фоткам (по видам с разных сторон), то как только дело касается кресел с подлокотниками, какими-то деталями - всё, пропорции деталей и конструкции(боковин) не соблюдаются очень сильно. Начинает фантазировать то, чего нет.

Разочарован. Использовать это для ретопологии невозможно.