можно непроизвольно прийти к выводу о том, что развитие технологий сильного и супер-ИИ может оказаться куда опаснее одного неуправляемого (неконтролируемого) идиота с шайкой подобных существ
Насколько я могу судить, человечество хоть и не безупречно, но в общем и целом справляется с контролем естественного интеллекта. Это даёт основания полагать, что и с контролем ИИ тоже справимся.
Каэшн, всегда легко справиться с тем, чему нет даже единого определения ни у кого :)) с чем смог справиться - то и назвал как-нить посолиднее. Богатырем стал, героем, почет респект и память в веках, ага
Не помню название фильма. По сюжету готовились использовать близнецов для управления прототипом истребителя. Нужны были именно близнецы, потому что появлялась возможность объединить их интеллектуальный потенциал для управления самолетом. Это, конечно, не буквально ИИ, но тоже про продвинутый интеллект.
Черниговская на лекции рассказывала, что уже есть рабочие образцы имплантов для стимуляции умственной деятельности. Мы почему-то считаем, что ИИ должен быть непременно создан с нуля и быть абстрактной железякой. Может быть, можно взять за основу готовый мозг, прокачать его и запихать в искусственный объект. В фантастике такие решения встречаются.
взять за основу готовый мозг, прокачать его и запихать в искусственный объект.
Для начала нужно знать как этот самый мозг работает. А пока ни один ученый занимающийся мозгом ни на йоту не приблизился к пониманию. Исследовали всё что можно, "пронумеровали" все нейроны, биохимию, а как это всё "думает" - ничего вразумительного даже на перспективу. Собственно как и в психиатрии - никого ж не лечат (в полном смысле), просто химией заглушают активность ВНС.
готовый мозг, прокачать его и запихать в искусственный объект
посмотри всякие статейки от института мозга. Там чётко объясняют что мозг - сложнейший объект с очень тонкой биохимией. и никакие "прокачки" невозможны на современном уровне науки. Так что фантастика так и останется ей еще лет 40-50 минимум. Наука за последние 50 лет ничего не смогла сделать революционного. Никакиех реальных нанотехнологий. Сверхматериалов и тд. Все ресурсы уходят на другое. Мировой олигархат наоборот не дает развиваться науке. Посмотрим достижения современности - это просто смех и помойка.
Мы почему-то считаем, что ИИ должен быть непременно создан с нуля и быть абстрактной железякой. Может быть, можно взять за основу готовый мозг, прокачать его и запихать в искусственный объект. В фантастике такие решения встречаются.
Насколько я могу судить, человечество хоть и не безупречно, но в общем и целом справляется с контролем естественного интеллекта. Это даёт основания полагать, что и с контролем ИИ тоже справимся.
Велик тот, кто верует. Увы, если вы либо кто-то другой предпримет тщетные усилия по контролю естественного интеллекта, то его быстренько упакуют соответствующие силовые структуры. Примеров из жизни на эту тему немало. Причем весьма поучительных и незавидных. Что до контроля вновь создаваемого ИИ, то с моей точки зрения здесь пока полная неопределенность. Миллиарды людей Старое ПО-ИИ (миллионы лет существующее) не то что бы не замечают, толком знать про него не знают, а главное не хотят, т.к. старая софтина мыслями, эмоциями и желаниями человека управляет более чем незаметно и в совершенстве, я за 50 лет чудес в этом плане больших насмотрелся.
взять за основу готовый мозг, прокачать его и запихать в искусственный объект.
Для начала нужно знать как этот самый мозг работает. А пока ни один ученый занимающийся мозгом ни на йоту не приблизился к пониманию.
Нет такой необходимости, если рассматривать мозг в качестве отдельного органа. Этические рамки пока работают. Формально. Перспективы таковы, что рамки будут раздвинуты до необходимых границ. Так всегда было.
Для начала нужно знать как этот самый мозг работает. А пока ни один ученый занимающийся мозгом ни на йоту не приблизился к пониманию.
В этом нет необходимости. ИИ не копирует мозг гроссмейстера, да это пока и невозможно, как Вы справедливо заметили. Однако это не мешает ИИ играть обыграть в шахматы любого чемпиона.
Цитата AlexRicco:
Может быть, можно взять за основу готовый мозг, прокачать его и запихать в искусственный объект.
Можно ли будет назвать этот интеллект искусственным. Лично я не уверен.
Цитата murza_v:
Велик тот, кто верует. Увы, если вы либо кто-то другой предпримет тщетные усилия по контролю естественного интеллекта, то его быстренько упакуют соответствующие силовые структуры.
В прошлой жизни, когда я работал руководителем, мне приходилось контролировать естественный интеллект в количестве нескольких десятков штук ) Естественно контроль был не полным, но в рамках производственной необходимости вполне себе достаточным. В 99% случаев люди, носители естественного интеллекта, успешно и своевременно выполняли необходимые мне (компании) задачи.
Ещё раз подчеркну, речь не идёт об абсолютном контроле, как с надетой на руку куклой, однако это и не требуется.
Я Вам больше скажу, и Ваш, и мой, и интеллект подавляющего большинства людей контролируется таким образом, что не приносит обществу существенного вреда, хотя чисто технически ничто не мешает любому носителю интеллекта, этот самый вред совершить, вплоть до массового убийства.
Поэтому не углубляясь в детали, ещё раз повторю, что механизмы контроля интеллекта не только существуют, но и довольно эффективно работают
ЗЫ По поводу веры, Вы даже не представляете насколько промахнулись, ибо я не верю приблизительно ни чему )
Вот наткнулся на "план "Адонис" - примерные соображения и расчеты, как терраформировать Венеру под приемлемые условия существования человека (https://antihydrogen.livejournal.com/50676.html ). С точки зрения предполагаемого "ИИ" - сугубо бесполезная трата ресурса, в которой абсолютно нет необходимости. Никакой. Потому что нет работающих технологий, времени, нет соответствующей системы общества, ресурсов и т.п., а есть текущие задачи выживания на Земле.
А с точки зрения "естественного интеллекта (ЕИ)" - это крайне полезные размышления, дающие вполне практические результаты - направление "куда копать" для того чтобы радикально изменить условия для цивилизации в целом. Пусть временнЫе масштабы в тысячи лет, но и результаты - "уровень бог". Хотя в исходном побуждении лежит сугубое любопытство, "..а что если?", но в процессе фантазирования подключается аналитика, и на выходе имеем своего рода "дорожную карту обустройства Солнечной системы", и даже некий "бизнес-план" с стадии фор-фор-фор-эскиза.
То есть фундаментальные различия между ИИ и ЕИ - любопытство и эвристический анализ вообще всего, на что упал взгляд или подумалось. Пока ИИ это недоступно, т.к. вообще непонятно как оно работает и как его побудить, по каким критериям.
Как вариант, чтобы повысить живучесть этого самого интеллекта, поскольку его биологическая оболочка довольно таки нежна, что затрудняет решение некоторых задач.
Цитата madYuppie:
Пока ИИ это недоступно, т.к. вообще непонятно как оно работает и как его побудить, по каким критериям.
Пещерного человека вопросы выживания тоже волновали немножко больше, чем колонизация Венеры ) А по аналогии с человеком ИИ у нас ещё даже не пещерный, он даже с пальмы ещё не слез. Дайте срок
В прошлой жизни, когда я работал руководителем, мне приходилось контролировать естественный интеллект в количестве нескольких десятков штук ) Естественно контроль был не полным, но в рамках производственной необходимости вполне себе достаточным. В 99% случаев люди, носители естественного интеллекта, успешно и своевременно выполняли необходимые мне (компании) задачи.
Вы о цветовой дифференцации не упоминаете. Контроль ЕИ начального (примитивного) уровня доступен конечно не всем, к тому же определенных знаний и дополнительных навыков требует (начиная уже с кол-ва 1 шт.). Возможность реально контролировать сильный ЕИ (рангом, чином, званием, статусом, звездочками выше) в представлении подавляющего числа граждан на деле является обыкновенным заблуждением. Я в свое время подобное не только себе мысленно представлял, я практиковал (десятки лет). Что в итоге могу сказать? Достиг в этом деле определенных успехов.
Цитата Denis_21:
ЗЫ По поводу веры, Вы даже не представляете насколько промахнулись, ибо я не верю приблизительно ни чему )
Веру вашу в данном случае ценю и глубоко уважаю, т.к. она совпадает с моим жизненным кредо.
ИИ уже успешно решил задачи, которые ещё относительно недавно считались неразрешимыми. В частности обыграл человека в шахматы и научился распознавать речь.
Хороший пример. Компьютер, обыгрывающий человека в шахматы, это "самонадевающиеся ботинки". Эффектно технологично, но на фиг не нужно, да и к ИИ имеет весьма отдалённое отношение. Обыграть человека в шахматы может, а ответить на простой вопрос не может. Т.е. это узкоспециальный софт для решения одной задачи.
В части распознавания речи вы сильно заблуждаетесь считая что это - давно решенный кейс. Это не совсем так. Эта задача решена для определенных ситуаций, но универсального решения не существует. Проще говоря, речь распознаётся хреново. Примерно в 60% случаев не распознаётся вообще.
Так что опять упираемся в то, что я утверждал выше. ИИ - тупой. А вы такой большой, а верите в сказки.
Доводилось ли Вам сталкиваться с понятием "графен"?
с понятием. да. с графеном - нет.
Цитата dontpiter:
Проще говоря, речь распознаётся хреново
это не речь распознается хреново - а составление смысла из неё. псевдоИИ не понимает что ему сказали - по смыслу.
Читал статейку полгода назад там гуру ИИ программист вроде объяснил что никакого ИИ в полном смысле слова еще нет и называть это нечто - некорректно в принципе. к ИИ можно с натяжкой отнести нейросеть но лет через .... дофига. Есть определение что такое интеллект. Оттуда и отталкиваемся.
Однако это не мешает ИИ играть обыграть в шахматы любого чемпиона.
Да, обыгрывает!) Но только почему то 99,999% шахматистов предпочитают играть именно с людьми. И мировые чемпионаты никуда не делись, всё так же проводятся. И спорт никуда не пропал, хотя в любом его виде (кроме художественных направлений) машины в разы круче. Почему так? Почему люди выезжают на природу и рисуют красками с натуры? У каждого же фотик в кармане. Зачем люди в бильярдной собираются - давно роботы в него играют со 100% результатом. Да потому что неинтересно это и никому не надо. У нас вот летом во дворе народ на спорт . площадке тусит. Подтягивания и проч. соревнования устраивают - зачем это? Машины же круче. Но никому это не надо и неинтересен робот 100500 раз подтягивающийся, интересно с соседом посостязаться. Дядя Вася с гитарой соберет во дворе больше народа, чем какая то программа "сочиняющая" музыку. Людям это не надо, ибо человеку интересен человек. Даже если дядя Вася фальшивит - он интереснее, ибо это живая фальшь, и перегар от него настоящий)).