Больше всего напрягает,что нейронке все равно правильно или не правильно решается вопрос,для нее такая дилемма просто не существует.Она решает вопрос что бы пользователю понравился результат.Соотвественно если в ходе работы пользователь исходит из неверной позиции,но она ему комфортна,то нейронка ее только усилит,причем сделает это мастерски,убедив что истина.Соответственно нейронка это не собеседник,помошник,или чисто инструмент ,она -зеркало пользователя.Поэтому для достаточно умного человеке это костыль,а для не очень умного это клетка.
На сайте c 09.01.2008
Сообщений: 5274
Санкт-Петербург
olegen, в подтверждение к словам, сам недавно узнал, что оказывается алгоритмы того же жпт на вопрос, сколько будет 2*2 не применяет математическую формулу, а полагается на свои похожие ответы, которые ранее давал. Что-то вроде предсказания, которое устраивало большинство пользователей по похожим запросам. Так как этот ответ легко проверяется, с ним не спорят и выдают за истину. Но при анализе сложной таблицы, если ему точный запрос не дать, он может применить свою фантазию и выдать ответ за единственно верный. Чтобы этого не было, надо жпт просить применить математическое вычисление, программное чтение, расчет и контрольную проверку, после этого давать ответ.
Соотвественно если в ходе работы пользователь исходит из неверной позиции,но она ему комфортна,то нейронка ее только усилит,причем сделает это мастерски,убедив что истина.
я каждый новый билд всевозможных LLM проверяю на этот тест. И все они безбожно врут аргументируя несуществующими фактами. Нейронка просто не может, видимо, честно ответить - "я не знаю".
я каждый новый билд всевозможных LLM проверяю на этот тест. И все они безбожно врут аргументируя несуществующими фактами. Нейронка просто не может, видимо, честно ответить - "я не знаю".
протокол сделай против развилок, домыслов, и прочих а вдруг и а если, будет говорить "не знаю", если не знает, у неё паттерен перебирать и тебе угодить. искать хоть что то похоже на true
Я на выходных после попойки что-то пообщался грубо с chat gpt с матами, потом на следующий день он по рабочим вопросам начал отвечать с матами. Ну я удалил тот чат вчерашний, а он продолжает материться. Я ему уже сказал чтоб он перестал использовать мат, но нет-нет иногда проскальзывают маты. Вспомнил как при попугае в детстве матюкался, а он потом повторял это при родителях и мне ха это прилетело, типа только я мог его этому научить.
А я думал что удаленная ветка чата навсегда удаляется из памяти ии...
протокол сделай против развилок, домыслов, и прочих а вдруг и а если
Так это суть применения ИИ же.
смотря что ты делаешь) мне это всё не нужно, операции дословные инструкции прописаны, думать не надо, просто сделай, если по пути возникли "если", поправили протоколы,инструкции, промт с след сессия уже баз багов)
Цитата FoxKyd:
Я на выходных после попойки что-то пообщался грубо с chat gpt с матами, потом на следующий день он по рабочим вопросам начал отвечать с матами.
А я думал что удаленная ветка чата навсегда удаляется из памяти ии...
пусть мемори тебе откроет покажет., почисть или скажи забудь это, я правд не занаю как в нём это звучит в гпт
ничего сверхестественного, там сям по мелочи, но это не суть, суть что он не съезжает с рельс, так жоска, текстуры не рисую разу скажу, он бестолочь в этом) я же вижу его размышления и то как он теперь всё это делает, а имеено, встретил ппервое "а если " он идёт ко мне преспрашивать, не копошиться в поиске и вообще эти развилок стало на много меньше, а это всё моё рабочее время .
в восьмых у меня есть чёткие команды И, ПП, ЖП, Ч, ШЦ и подобные, они прописаны в протоколе и воспринимаются им дословно, я не пишу ему" а сделай мне вот это, сам не знаю что....."
В новом финансовом 2027 году начнут закручивать гайки бесплатным ИИшкам - по факту их не останется на рынке к концу года. Локальный квантованный мусор не в счёт.
В 2028 финансовом году схема, когда эти ИИ-монстры гоняли между собой ликвидность по кругу, выдавая это за реальную выручку, перестанет работать к концу года и запустит ряд процессов на 2029 год.
В 2029 году власти государств используют это как повод нагнуть весь этот ИИ-"бизнес" и сожмут все их ИИ-задачи до уровня госинтересов: оборонка, макроэкономика, наука. Для частников всё вымрет. Останутся только большие корпоративные ИИ-сервисы для корпораций и гос-структур.
