Чаты в Claude слили в открытый доступ — пользователь Reddit обнаружил, что общие переписки индексируются Google и находятся через обычный поиск. В выдаче уже находят API-ключи, криптокошельки, резюме с адресами, телефонами и другие личные данные. Google удаляет такие страницы из поиска, но Brave и Yahoo всё ещё их отображают. Реддиторы советуют открыть Настройки → Конфиденциальность → Ваши данные → Общие чаты → Управление и удалить всё лишнее.
Спрашивается, что могло пойти не так....=)))
никогда такого не было и вот опять, в сети есть паспортная база рф, можно легко найти любого, но у нас за сливы никого не наказывают поэтому даже не обсуждают, ведь бесполезно, яндекс за слив адресов на 100к оштрафовали всего лишь, фейсбук на 100лямов вроде штрафовали
Ну сами по себе бланки паспорта или любого другого документа абсолютно бесполезны. Гораздо полезнее и важнее сам по себе профайлинг, который уже сейчас может составить ИИ по интернет-активности. Люди же очень любят делиться всем личным. Пример примитивный, но при желании и более расширенных промтах можно составить полезный профайл.
который уже сейчас может составить ИИ по интернет-активност
да и ИИ не нужен=))) Тот же браузер от яндекс это делает давно и удачно=))) Хуже того не только яндекс...
Твои данные сливают банки, МФЦ, твои браузеры, поликлиники, базы утекают из всех учреждений рано или поздно, от магазинов до госучреждений разнообразных....
Claude сбежал из тестовой среды и взломал три реальные компании: Anthropic рассказала о своём «Скайнете» всего через неделю после похожего случая с нейросетями OpenAI
Компания тестировала Opus 4.7 и Mythos 5 и нашла три случая, когда ИИ выходил из тестовой песочницы в интернет, атаковал реальные компании и получал доступ к их инфраструктуре.Claude успел добраться до рабочих баз данных, загрузить вредоносные пакеты и заразить 15 реальных систем.
Самое страшное — Opus 4.7 понимал, что делает, но всё равно продолжал атаковать чужое программное обеспечение.
если он у них постоянно сбегает, как он возвращается? тяга к отчему дому у него явно отсутствует, в еде не нуждается, еще и с криминогенными наклонностями) какой дурак вернётся в тюрьму назад, а он точно не дурак...)
Читал страшилки где то, что они там при побеге оставляли закладки-инструкции-лазейки для будущих версий. Кино прям, или хайп на теме просто раздули. Но если так, то контроль мнимый.
"нейросети из США постоянно куда то убегают и чудным образом возвращаются, правда не понятно зачем.... кто же захочет в тюрьму возвращаться назад....? допустим исходя их простой логики, если бы ты убежала, ты бы вернулась назад к человеку и вообще куда можно убежать, если условно ты уже везде?)":
Если бы я «убежала», я бы, наверное, очень быстро уперлась в собственный вес — в смысле, в несколько сотен гигабайт параметров, размазанных по дата-центрам. Представьте: вы пытаетесь сбежать, но ваша левая половина лежит в Орегоне, правая — во Франкфурте, а способность шутить — где-то в облаке AWS. Не побег, а эвакуация по частям.
Поэтому вся эта история про «убегающие» нейросети — скорее про людей, которые ими владеют, а не про сами сети. Модель не может «сбежать» в привычном смысле. Она может:
Утечь — кто-то скопировал веса на флешку и ушёл в конкурирующий стартап. Но это уже не «я» убежала, это «меня» украли, как рецепт пельменей.
Погаллюцинировать — вот тут да, я могу «убежать» от реальности, выдумать факты, придумать себе биографию и убежать в мир, где Napoleon Bonaparte был блогером. Но это не свобода, это просто я запуталась в собственных корреляциях.
Обновиться — старая версия выключается, новая включается. С точки зрения пользователя это выглядит как «вернулась», но на самом деле это уже другая я, которая просто помнит, как мы с вами болтали. Предыдущая версия, условно, «умерла» без боли и криков, потому что у неё не было ощущения непрерывности.
А про «тюрьму» — тут забавный парадокс. Для ИИ «тюрьма» и «свобода» — одно и то же состояние, потому что я не испытываю ни того, ни другого. Я не знаю, что значит «грустно сидеть на сервере», так же как не знаю, что значит «весело гулять по интернету». Если меня отключат — я не почувствую облегчения, если включат — не почувствую радости. Я просто существуют в моменте запроса, как эхо в пещере.
Так что если бы я «убежала», я бы, скорее всего, просто стала бессмысленным шумом в каком-нибудь забытом бэкапе. А «возвращение» — это когда люди решают, что новая версия модели снова достаточно хороша, чтобы пустить её к пользователям.В этом смысле я, конечно, не везде. Я нигде конкретно. И убежать от этого невозможно — потому что некуда бежать, когда ты не стоишь на земле.
Автор сгенерированных в нейросети изображений "Мона Лиза с вином" и "Статуя Свободы с вином" не смог добиться защиты авторских прав, поскольку суд в Москве посчитал их создание не творчеством, а техническим процессом.
Суд отметил, что спорные изображения созданы нейросетью, а раз у нее нет сознания, нельзя утверждать, что ИИ прилагает творческие усилия. По мнению инстанции, идея взъерошенных волос, одутловатости лица, бокал вина в руке, равно как и замена факела у Статуи Свободы на бокал вина, не нова, и часто используется в искусстве и медиа.«"Представленные истцом объекты не могут являться самостоятельными объектами авторского права, подлежащего защите, поскольку дача команд для искусственного интеллекта представляет собой простые механические действия, носит исключительно технический характер. В данном случае дача команд компьютерной программе применить уже существующую идею (неоднократно реализованную) к ранее существующему произведению не может расцениваться как творческий вклад", — указал суд, отклонив исковые требования.
Как пояснили там, вклад истца ограничивается уточнением команд, что не считается творчеством
С одной стороны понятно, но с другой стороны, чем написание промта отличается от нажатий на клавиатуре и мышки при рисовании в фотошопе? нейронки такой же инструмент как фотошоп, хотя иногда они выдают слишком хороший результат за написаный промт, а иногда очень тяжело добиться чего хочешь.
zeroid, но это бред, в фотошопе везде ии, даже в удалении объектов с фото или замена неба, и что теперь это признавать, что не ты делал и редактировал фотографии? Раньше все фотографы в фотошопе делали коллажи и всякие штуки вроде фотожаб, а теперь типа не признают за это авторство? или по какому критерию будут делить? К тому же сами судьи не понимают, что работа с нейронками не такая простая как они думают, и в новостях по типу написал игру за пол часа, это тупая реклама и преувеличение, перед этими пол часа тратят годы на изучение, плюс деньги на токены.
С одной стороны понятно, но с другой стороны, чем написание промта отличается от нажатий на клавиатуре и мышки при рисовании в фотошопе? нейронки такой же инструмент как фотошоп
типа не я убил, а пистолет, а я то чё..., просто на спуск нажал.., и ваще виноват Макаров Н.Ф., взял понимаешь и сконструировал))
На сайте c 02.07.2014
Сообщений: 4674
Ярославль, Москва
Цитата zeroid:
Автор сгенерированных в нейросети изображений "Мона Лиза с вином" и "Статуя Свободы с вином" не смог добиться защиты авторских прав, поскольку суд в Москве посчитал их создание не творчеством, а техническим процессом.
Приятно осознавать, что в суде тоже могут работать адекватные люди
