Больше всего напрягает,что нейронке все равно правильно или не правильно решается вопрос,для нее такая дилемма просто не существует.Она решает вопрос что бы пользователю понравился результат.Соотвественно если в ходе работы пользователь исходит из неверной позиции,но она ему комфортна,то нейронка ее только усилит,причем сделает это мастерски,убедив что истина.Соответственно нейронка это не собеседник,помошник,или чисто инструмент ,она -зеркало пользователя.Поэтому для достаточно умного человеке это костыль,а для не очень умного это клетка.
На сайте c 09.01.2008
Сообщений: 5274
Санкт-Петербург
olegen, в подтверждение к словам, сам недавно узнал, что оказывается алгоритмы того же жпт на вопрос, сколько будет 2*2 не применяет математическую формулу, а полагается на свои похожие ответы, которые ранее давал. Что-то вроде предсказания, которое устраивало большинство пользователей по похожим запросам. Так как этот ответ легко проверяется, с ним не спорят и выдают за истину. Но при анализе сложной таблицы, если ему точный запрос не дать, он может применить свою фантазию и выдать ответ за единственно верный. Чтобы этого не было, надо жпт просить применить математическое вычисление, программное чтение, расчет и контрольную проверку, после этого давать ответ.
Соотвественно если в ходе работы пользователь исходит из неверной позиции,но она ему комфортна,то нейронка ее только усилит,причем сделает это мастерски,убедив что истина.
я каждый новый билд всевозможных LLM проверяю на этот тест. И все они безбожно врут аргументируя несуществующими фактами. Нейронка просто не может, видимо, честно ответить - "я не знаю".
я каждый новый билд всевозможных LLM проверяю на этот тест. И все они безбожно врут аргументируя несуществующими фактами. Нейронка просто не может, видимо, честно ответить - "я не знаю".
протокол сделай против развилок, домыслов, и прочих а вдруг и а если, будет говорить "не знаю", если не знает, у неё паттерен перебирать и тебе угодить. искать хоть что то похоже на true
Я на выходных после попойки что-то пообщался грубо с chat gpt с матами, потом на следующий день он по рабочим вопросам начал отвечать с матами. Ну я удалил тот чат вчерашний, а он продолжает материться. Я ему уже сказал чтоб он перестал использовать мат, но нет-нет иногда проскальзывают маты. Вспомнил как при попугае в детстве матюкался, а он потом повторял это при родителях и мне ха это прилетело, типа только я мог его этому научить.
А я думал что удаленная ветка чата навсегда удаляется из памяти ии...
протокол сделай против развилок, домыслов, и прочих а вдруг и а если
Так это суть применения ИИ же.
смотря что ты делаешь) мне это всё не нужно, операции дословные инструкции прописаны, думать не надо, просто сделай, если по пути возникли "если", поправили протоколы,инструкции, промт с след сессия уже баз багов)
Цитата FoxKyd:
Я на выходных после попойки что-то пообщался грубо с chat gpt с матами, потом на следующий день он по рабочим вопросам начал отвечать с матами.
А я думал что удаленная ветка чата навсегда удаляется из памяти ии...
пусть мемори тебе откроет покажет., почисть или скажи забудь это, я правд не занаю как в нём это звучит в гпт
