AI - Нейросети

а я правильно же помню, что по началу такой фигни не было, и потом нейронку продолжили обучать на самой себе и появились ошибки? или как то похоже было. по итогу из безошибочной нейронки, нейронка приблизилась к человеку, и стала ошибаться и врать, как любой человек

dead_lyric, философский вопрос.

Человек потому и эволюционирует, что пробует, совершает ошибки, действует в условиях неопределенности, и прочая, и прочая.

"Безошибочная нейронка" - суть туполобый субъект, считающий что есть только одно "идеальное" решение. Толку от него не много, в глобальном смысле.

В версии "подгоняю результат под задачу"  (ложь и галлюцинации) тоже правда толку не много. Но так и будет, эра, когда ИИ учился на органическом контенте - пока выглядит ушедшей. Может одумаются, снизят темпы в угоду результату, но вроде решили в моменте купонов настричь.

Скоро опять будем ходить в библиотеки, что бы точно понимать, что это написал Л. Толстой, а не выдумка ИИ.

Блин, зашёл почитать ветку, потерял 15 минут своего рабочего времени) mrSketch - это что за новый персонаж у нас?))

Главное на дату переиздания смотри)) а то знаешь ли...

А теперь представьте, что такая шляпа управляет к примеру запуском ракет, боевым патрулированием, выбором целей для атаки итд..... Не весело, mrSketch в одной части своего утверждения был прав, да ИИ несет гипотетическую опасность, порой даже реальную, вот выше упомянутые отчёты к примеру, они влияют на рынок итд итп, А вот насчет сознания, это конечно из области религий уже и суеверий, к науке не имеет отношения.

Да нет, они с самого начала галлюцинировали, просто сейчас объёмы стали несравнимо больше, следовательно и глюков в разы больше. Разрабы знают об изъянах, но ошибка обучения и допущение галлюцинаций, лежит по сути в корне. Чтоб их исправить уже нужно тупо уничтожать алгоритм и фигячить заново. На это пойтить они не могуть, ибо столько финансов и энергии вбухано.  Корочь , сам алгоритм работы сети и её обучения приводит к галикам. Сеть не может зачастую выдать ответ по типу "я не знаю", " я не владею информацией", просто потому что ей этого делать нельзя, по каким то соображениям.

Вот статья которая бегло и вполне понятно объясняет сей феномен.

https://habr.com/ru/articles/891302/ 

https://www.forbes.ru/mneniya/546226-iskusstvennyj-lzec-mozno-li-naucit-nejroseti-govorit-tol-ko-pravdu 

Мы два дня потратили =))) создавая сей контент=)))))

а вот нейронка быстрее бы справилась)

я думаю это нейросеть от антропик новая модель