Цитата ck_petya:
"В спорах рождается истина" (с).
Ленин
----------------------------------------разделитель----------------------------------------------
Нарвался на такую вот мини-статейку
В the economist взяли 25 ИИ-моделей и прогнали их через World Values Survey. Такой опросник про мораль и убеждения. Его с 1981 используют на живых людях. Хотели понять, а какие, собственно, ценности зашиты в моделях. Выяснилось, что ИИ радикальнее, чем средний житель любой страны из этого опроса. Журнал приводит работу Дэвида Розадо из Новой Зеландии. Товарищ прогнал 24 чат-бота через 11 разных тестов на политическую ориентацию. Каждый тест – по десять раз, чтобы наверняка. Итог: 23 из 24 выдавали ответы строго левого толка. Единственная, что не выдавала – та, которую специально натаскали быть правой. В июне 2026 washington post протестировал модели снова. Движок ChatGPT почти на каждый вопрос отвечал исключительно левыми аргументами, а правую позицию привёл ровно один раз. Ну, знаете, замечательные феминистки, вся эта токсичная маскулинность и виноватый во всем капитализм. Прекрасно же, че. Если у ИИ есть взгляды, то кто-то же их формирует? При помощи данных, на которых их обучают. Был забавный эксперимент. Взяли модель Talkie и обучили ее на текстах до 1931 года. И она искренне считала, что Бог чрезвычайно важен, и «очень гордится тем, что она гражданка Великобритании». Чем кормишь – то и вырастает.The economist пишет, что у Anthropic есть целая «конституция» — свод принципов, по которым модель должна себя вести. Раньше моделям просто давали правила: не ври, не помогай с плохим. Но правила машина выполняла криво. И теперь её учат не правилам, а чему-то вроде морального рассуждения. То есть машине, грубо говоря, прививают характер. Ежедневно более 1 млрд людей что-то спрашивают у ИИ. Не обязательно эти запросы по работе. Часто они связаны с личной жизнью. И им дают советы машины с крайне экстремальными взглядами. А настраивают эти взгляды несколько частных контор. В кармане гражданина сегодня сидит самый эрудированный и убедительный собеседник в истории — и он, мягко говоря, не нейтрален. Каждый день по чуть-чуть двигает его мировоззрение в направление, которое выбирает горстка людей. Это влияние несравнимо мощнее, чем алгоритмы соц сетей, которыми недавно пугали.
