AI - Нейросети

Автор
Сообщение
На сайте c 10.07.2008
Сообщений: 1932
Екатеринбург/Калининград
Цитата zeroid:
GPTZero разобрали отчёт одной из компаний «Большой четверки» и выяснили, что из 45 источников только 5 нормально ведут к реальным материалам. Ещё 28 путают названия, авторов и год, а 12 вообще невозможно найти

а я правильно же помню, что по началу такой фигни не было, и потом нейронку продолжили обучать на самой себе и появились ошибки? или как то похоже было. по итогу из безошибочной нейронки, нейронка приблизилась к человеку, и стала ошибаться и врать, как любой человек

На сайте c 21.12.2007
Сообщений: 2919
Санкт-Петербург

dead_lyric, философский вопрос.

Человек потому и эволюционирует, что пробует, совершает ошибки, действует в условиях неопределенности, и прочая, и прочая.

"Безошибочная нейронка" - суть туполобый субъект, считающий что есть только одно "идеальное" решение. Толку от него не много, в глобальном смысле.

В версии "подгоняю результат под задачу"  (ложь и галлюцинации) тоже правда толку не много. Но так и будет, эра, когда ИИ учился на органическом контенте - пока выглядит ушедшей. Может одумаются, снизят темпы в угоду результату, но вроде решили в моменте купонов настричь.

На сайте c 15.12.2007
Сообщений: 1037
Новороссийск

Скоро опять будем ходить в библиотеки, что бы точно понимать, что это написал Л. Толстой, а не выдумка ИИ.

На сайте c 17.01.2017
Сообщений: 1014
World

Блин, зашёл почитать ветку, потерял 15 минут своего рабочего времени) mrSketch - это что за новый персонаж у нас?))

На сайте c 21.12.2007
Сообщений: 2919
Санкт-Петербург
Цитата Roman_Zh:
Скоро опять будем ходить в библиотеки, что бы точно понимать, что это написал Л. Толстой, а не выдумка ИИ.

Главное на дату переиздания смотри)) а то знаешь ли...

На сайте c 24.01.2010
Сообщений: 2410

А теперь представьте, что такая шляпа управляет к примеру запуском ракет, боевым патрулированием, выбором целей для атаки итд..... Не весело, mrSketch в одной части своего утверждения был прав, да ИИ несет гипотетическую опасность, порой даже реальную, вот выше упомянутые отчёты к примеру, они влияют на рынок итд итп, А вот насчет сознания, это конечно из области религий уже и суеверий, к науке не имеет отношения.

Цитата dead_lyric:
а я правильно же помню, что по началу такой фигни не было, и потом нейронку продолжили обучать на самой себе и появились ошибки?

Да нет, они с самого начала галлюцинировали, просто сейчас объёмы стали несравнимо больше, следовательно и глюков в разы больше. Разрабы знают об изъянах, но ошибка обучения и допущение галлюцинаций, лежит по сути в корне. Чтоб их исправить уже нужно тупо уничтожать алгоритм и фигячить заново. На это пойтить они не могуть, ибо столько финансов и энергии вбухано.  Корочь , сам алгоритм работы сети и её обучения приводит к галикам. Сеть не может зачастую выдать ответ по типу "я не знаю", " я не владею информацией", просто потому что ей этого делать нельзя, по каким то соображениям.

Вот статья которая бегло и вполне понятно объясняет сей феномен.

https://habr.com/ru/articles/891302/ 

https://www.forbes.ru/mneniya/546226-iskusstvennyj-lzec-mozno-li-naucit-nejroseti-govorit-tol-ko-pravdu 

Цитата V.Dolgalev:

Блин, зашёл почитать ветку, потерял 15 минут своего рабочего времени) mrSketch - это что за новый персонаж у нас?))

Мы два дня потратили =))) создавая сей контент=)))))

На сайте c 10.07.2008
Сообщений: 1932
Екатеринбург/Калининград
Цитата zeroid:
Мы два дня потратили =))) создавая сей контент=)))))

а вот нейронка быстрее бы справилась)

На сайте c 06.05.2014
Сообщений: 4440
Краснодар
Цитата V.Dolgalev:

Блин, зашёл почитать ветку, потерял 15 минут своего рабочего времени) mrSketch - это что за новый персонаж у нас?))

я думаю это нейросеть от антропик новая модель