Робот/кибер/человек...

[Maestro Katrine]

Вообще, как было сказано, вся эта тема о роботах уже настолько популярна в кинематографе, что им начинают на полном серьезе приписывать, то до чего они не могут дойти в принципе (либо дойдут, но очень и очень нескоро).

В конце-концов, робот - это не Чобит :).

[AntiMat]

Роботы - не смогут, люди - уже дошли. А теперь представляем человека без гормонов и с возможностью сознательного регулирования собственного психоэмоционального состояния. Плюс невообразимое быстродействие, реакция и способность к обучению. Плюс био- радио- и химически устойчивое исполнение. Диапазон переносимых температур от -100 С до 800 С; диапазон давлений от нуля, до 200 атмосфер. Срок жизни от 1000 лет и более. Хотя это всё уже вторично и совершенно несущественно по сравнению с его стальной волей. Ницше и Христос отдыхают.

[3d6]

AntiMat, а вот насчет воли совершенно не факт. Машинное мышление не может совмещать свойства человеческого мышления и свойства программы. Программы не мыслят, человек не программируется. Соответственно мыслящие машины будут как люди, и воля едва-ли будет их естественным свойством. Хотя возможно найдутся и экземпляры с сильной волей - тут надо очень много думать о том, откуда она вообще берется...

[Maestro Katrine]

Свободно мыслящая машина - это, наверное, вершина совершенства (для поклонников киберпанка, особенно) и кошмар в одном флаконе.

Воля, как и душа сама по себе не появится (то, откуда берется душа и может ли она быть у робота вообще - тема пока без ответа).

Будет ли сильная воля являтся запланированным "подарком" создателя или побочным эффектом в следствие какого-нибудь сбоя в программе, хороший вопрос.

[3d6]

Maestro Katrine, сбой в какой программе? Программы не могут мыслить. Это факт, который очевиден любому кто сколько-нибудь серьезно интересовался этим вопросом.

[Cyber7]

Сейчас такое и вправду невозможно. Но многопоточность, квантовые биты (когда значение бита может быть не только 1 и 0), ... может быть тогда. Только всё равно верится с трудом. Способность принимать решения ещё можно забить в программу, но волю, желание к действию, разум - мне кажется вряд ли.

Мне проблема видится в другом. Азимов написал три закона роботехники. А кто из людей пытался (или пытается) хотя бы частично им следовать? Или это только для роботов?

[AntiMat]

Законы, как среди людей, так и среди искусственных людей, не более, чем моральная условность. Три закона роботехники не более, чем вымысел. Человек, в отличие от зверя, способен переломить любой инстинкт (вот они, единственные объективные законы поведения), если сильно припрёт. Так же и с мыслящей "машиной". Можно конечно насильно вписать программу поведения в любой мозг (белковый или кремниевый), однако для этого надо будет основательно "расчистить" прежнее содержимое, что почти равносильно уничтожению исходной личности.

[3d6]

AntiMat,

Можно конечно насильно вписать программу поведения в любой мозг (белковый или кремниевый), однако для этого надо будет основательно "расчистить" прежнее содержимое, что почти равносильно уничтожению исходной личности.

А вот не впишете. Попробуйте вписать подобную программу человеку - готов спорить на что угодно, что человек рано или поздно найдет способ ее обойти. Те же законы робототехники не выдерживают проверку реальностью: чтобы их нарушить, роботу достаточно убедить себя что перед ним не человек, а робот, маскирующийся под человека. А убедить себя - это уже задача вполне достижимая.

 

Cyber7, никакие квантовые вычисления не помогут в создании мыслящего алгоритма, который может понять человек. Но уже сегодняшней мощности компьютеров достаточно, чтобы сделать настоящий искусственный интеллект, обладающий самосознанием, умеющий мыслить в полном смысле этого слова. Но программа, которая будет реализовывать этот ИИ, будет недоступна пониманию человека так же, как недоступно понимание работы искусственной нейронной сети: не проделав непосредственно всех вычислений которые происходят внутри нейросети, человек не способен предсказать что она выдаст в результате (напомню, в "нормальном" алгоритме человек может предсказать результат вовсе не делая все те сотни миллиардов операций, которые происходят при непосредственном выполнении алгоритма - достаточно знать общую структуру).

[Cyber7]

Главное достояние человека - мораль и нравственность. Это законы, которые человек ставит сам себе. И неукоснительно их придерживается. Или не придерживается.

Это ОЧЕНЬ важные слова. Хотел написать их жырным и через точку каждое.

Поймите их.

AntiMat

Три закона роботехники - вымысел. Десять заповедей - тоже вымысел? Дело не в том - сколько их. Я не помню (не знаю), скольким заповедям я следую. Не люблю считать и следить за собой. Но есть вещи, которые я не могу преступить, какими бы ни были внешние воздействия (надеюсь, что это так). Рациональное мышление (оно же программирование) не способно выйти из такого тупика. Не буду приводить примеры. Это больно. А программируемость, заранее заложенные данны - это всегда рациональность. Спасти ребёнка из пожара - я знаю два выхода и только я решаю, что мне делать. Для роботов всё не так. Есть два типа роботов. Одни бросятся спасать. не смотря ни на что. Вторые - нет.

3d6

Человек, как и Бог, не может создать ничего, что сложнее его самого. Потому созданный человеком алгоритм всегда поймётся другим человеком. Но человек до сих пор не знает - что он такое, сознание. И запрограммировать это не может.

До сих пор все языки программирования - это нисхождение человка до уровня компьютера. Нет ни одного языка программирования, на котором человек смог бы на равных общаться с компьютером.

Мощность компьютеров, к сожалению, - ничто, по сравнению с самосознанием. Так что я сомневаюсь, что можно создать сегодня что-то, обладающее самосознанием. Пока что ИИ невозможно создать и я готов это подтвердить "у доски". А нейронные сети на сегодняшний день - худшее, что мог создать человек на пути к ИИ. Даже экспертные базы данных лучше. Хотя и они - всего лишь игра в песочнице.

Человек может оценить ГЛОБАЛЬНО, не вдаваясь в подробности. Ни один компьютер сегодня не может такого.

[Shinsaku-To]

Роботы - не смогут, люди - уже дошли. А теперь представляем человека без гормонов и с возможностью сознательного регулирования собственного психоэмоционального состояния. Плюс невообразимое быстродействие, реакция и способность к обучению. Плюс био- радио- и химически устойчивое исполнение. Диапазон переносимых температур от -100 С до 800 С; диапазон давлений от нуля, до 200 атмосфер. Срок жизни от 1000 лет и более. Хотя это всё уже вторично и совершенно несущественно по сравнению с его стальной волей. Ницше и Христос отдыхают.

Представил. Не хотел бы влиться в ряды.

Эмоциональный аппарат - интерфейс между человеком и миром. Идея исскуственно глушить интерфейс или как-то его перестраивать абсурдна. Всё равно что заставлять глаза видеть то, что нам хочется.

А для переносимости температур и прочая, прочая, прочая и есть роботы.

[AntiMat]

Гы... типичный антропоцентризм и ретроградство. :ph34r: Никто ничего глушить не собирается. Ведь не беспокоит космическую ракету отсутствие набегающего потока воздуха, без которого не могут летать самолёты. Но именно космонавтика, а не авиация, завоевала совершенно новое измерение, стоящее вне привычных четырёх стихий. Главное никогда не останавливаться и не довольствоваться достигнутым.

 

ЗЫ

Условно говоря, наши глаза видят именно то, что нам хочется. Факт. :ph34r:

[3d6]

Cyber7,

Пока что ИИ невозможно создать и я готов это подтвердить "у доски"

Будет очень интересно послушать ваше доказательство :ph34r: На данный момент немало народа думают что знают куда двигаться. Например, Хоккинс, несмотря на его плохую осведомленность о последних достижениях в области нейросетей.

 

А нейронные сети на сегодняшний день - худшее, что мог создать человек на пути к ИИ. Даже экспертные базы данных лучше. Хотя и они - всего лишь игра в песочнице.

Простите, как именно экспертные базы данных лучше в области распознавания образов? Или может экспертные БД обладают возможностями восстанавливать образ по его части, как ассоциативные сети? Простите за нескромный вопрос, но ваши знания по нейронным сетям превосходят по объему критику перцептрона 70 года прошлого века? Если да - то было бы очень интересно услышать, почему вы не считаете повторение свойств человеческой памяти в простой и понятной модели некоторым достижением. И почему адаптивные контроллеры не имеют практической ценности. Или может вы бы смогли обосновать и рассчитать эффекты лечения болезни Паркинсона без разработки теории спайковых сетей? Вобщем, очень интересная позиция для дискуссии, если конечно вы компетентны в этой области.

[Izh3ll]

согласен на тело как у Наоми Армитаж (DualMatrix /PolyMatrix anime) насчот пола еще неуверен...но если тело будет неживое то мона менять как перчатки =)) чуства? ....если останутся то хорошо, а нет так фиг сними...я вапще судавольствием бы механизировался.

[AntiMat]

3d6

А вот не впишете. Попробуйте вписать подобную программу человеку - готов спорить на что угодно, что человек рано или поздно найдет способ ее обойти. Те же законы робототехники не выдерживают проверку реальностью: чтобы их нарушить, роботу достаточно убедить себя что перед ним не человек, а робот, маскирующийся под человека. А убедить себя - это уже задача вполне достижимая.

Дык, а я о чём говорю?! Если личность не хочет и не собирается выполнять определённых действий, то чтобы легко заставить её их сделать, надо поменять все её мотивационные установки, так сказать. А это уже будет совсем другая личность.

А вот с переубеждением я не согласен. Может, с воображением человека роботом был всего лишь аллегорический пример, но это слишком грубый пример. Разумное существо всё равно будет понимать, что это ложь. Причём ложь самому себе. Однако если обстоятельства требуют нарушения этих трёх "законов", то уже сама личность будет решать правомерность собственных действий вопреки "законам". Т.е. опять же проблема выбора и морали. Как раз именно разумное существо действует не по внешним законам, а по своим собственным. Я не убиваю людей не потому что этого нельзя делать, не потому что я не могу этого делать, а потому что я не хочу этого делать. И тут летит к чертям любой гипноз и НЛП.

 

Cyber7

Три закона роботехники - вымысел. Десять заповедей - тоже вымысел? Дело не в том - сколько их. Я не помню (не знаю), скольким заповедям я следую. Не люблю считать и следить за собой. Но есть вещи, которые я не могу преступить, какими бы ни были внешние воздействия (надеюсь, что это так). Рациональное мышление (оно же программирование) не способно выйти из такого тупика. Не буду приводить примеры. Это больно. А программируемость, заранее заложенные данны - это всегда рациональность. Спасти ребёнка из пожара - я знаю два выхода и только я решаю, что мне делать. Для роботов всё не так. Есть два типа роботов. Одни бросятся спасать. не смотря ни на что. Вторые - нет.

И десять заповедей тоже вымысел. Вся т.н. гуманность есть следствие жизни и воспитания в обществе. У "одиночек" могут быть совершенно иные представления о морали. Хотя, существа, не склонные к жизни в коллективе, вряд ли создадут цивилизацию.

Так вот, о чём это я... Спасать ребёнка из пожара может даже "Железный Ангел". При этом он будет действовать исключительно по своей воле, игнорируя приказы и сознавая, что сам может погибнуть. Речь в конце концов идёт о РАЗУМЕ, а не о программируемой машине. Технические сложности - уже совсем другая тема. Железный Ангел представляет интерес как апофеоз разумного начала при полном отсутствии подсознательных поведенческих атавизмов и неуправляемого воздействия гормонов, доставшихся нам от эволюции. Собственно это "выкристаллизованный" РАЗУМ. И это при том, что эмоции и чувства обязательно будут и у Железных Ангелов.

[3d6]

AntiMat,

Железный Ангел представляет интерес как апофеоз разумного начала при полном отсутствии подсознательных поведенческих атавизмов и неуправляемого воздействия гормонов, доставшихся нам от эволюции

Это кстати вопрос не такой однозначный, и очень интересный. Подсознание как таковое должно присутствовать у ИИ, и выполнять как минимум часть тех функций, которые оно выполняет у человека (т.е. контроль состояния "тела", опознание объектов, фильтрация на существенные/несущественные, ассоциативная подборка воспоминаний, и многое другое что нельзя назвать напрямую сознательной деятельностью). Правда, это подсознание потенциально может быть свободным от всех человеческих недостатков.

Но есть один тонкий момент. Разум формируется постепенно, как некий механизм обработки поступающей информации. Причем более устойчивыми будут те формы, которые дают позитивный результат (у человека это изначально оценивается по параметрам отсутствия боли, сытости, и сексуального удовлетворения - причем все критерии в процессе формирования сознания изменяются). Без наличия каких-либо аналогичных критериев разум сформироваться не может: любой результат будет одинаково хорошим, не будет задана мера правильности развития. Соответственно для ИИ, построенного на методе копирования человеческого разума, надо будет задать аналогичные "инстинкты". Правда, их можно будет также "отключить" когда интеллект более-менее сформируется - но не факт что это его не разрушит...

И вобщем-то даже если не задаваться целью копировать человеческий разум, все равно мне кажется что без каких-то аналогичных стимулов не обойтись - ведь наиболее фундаментальное свойство разума - это черезвычайно быстрая адаптация к новым условиям, а без оценки правильности действий это сделать не представляется возможным. С другой стороны, в психологии известен эффект сублимации - т.е. замещения примитивного инстинкта весьма сложными интеллектуальными критериями. Возможно это вообще естественный процесс развития разума, когда постоянно усложняются критерии "правильности" построения новых связей... Но если повторение "среднего" человека кажется более-менее обозримой задачей, то упоминавшийся "железный ангел" - ИМХО из области фантастики. Возможно, не слишком отдаленной, лет на 30-50, но пока делать прогнозы рано...

[Shinsaku-To]

Ведь не беспокоит космическую ракету отсутствие набегающего потока воздуха, без которого не могут летать самолёты. Но именно космонавтика, а не авиация, завоевала совершенно новое измерение, стоящее вне привычных четырёх стихий. Главное никогда не останавливаться и не довольствоваться достигнутым.

Тут речь идёт не о потоке воздуха, а о двигателе -) В конечном итоге любое совершаемое человеком действие имеет соответствующую эмоцию как первоначало. А разум всего лишь подсказывает лучший способ достижения того, что наиболее сильная эмоция "заказала". Если продолжить сравнение с самолётом, то вы предлагаете увеличить руль, убрав ради этого движок. Далеко не улетим.

Изменено 26 июля, 2007 пользователем Shinsaku-To (смотреть историю редактирования)

[Tosa-Inu]

Имплантанты - штука с одной стороны неплохая. Правда, не самая необходимая. Не хотелось бы Технолайза.

[AntiMat]

Тут речь идёт не о потоке воздуха, а о двигателе -) В конечном итоге любое совершаемое человеком действие имеет соответствующую эмоцию как первоначало. А разум всего лишь подсказывает лучший способ достижения того, что наиболее сильная эмоция "заказала". Если продолжить сравнение с самолётом, то вы предлагаете увеличить руль, убрав ради этого движок. Далеко не улетим.

Какое-то слишком безапелляционное заявление про эмоции. Требую доказательств, что всюду стоят эмоции. И ещё доказательств, что эти эмоции не являются порождением разума.

А самолёт, как и планер, летает благодаря крылу и подъёмной силе, а не из-за двигателя. Я говорил про принципиально новое создание, которое не является ни буквальной, ни упрощенной копией человека.

[Shinsaku-To]

Какое-то слишком безапелляционное заявление про эмоции. Требую доказательств, что всюду стоят эмоции. И ещё доказательств, что эти эмоции не являются порождением разума.

А вы попробуйте проследть любое (абсолютно любое) своё действие по цепочке достигаемых целей. То есть А я делал для достижения Б, Б для достижения В и так далее. В конце концов (возможно даже на первом шаге) обязательно упрётесь в то, что разумностью и целесообразностью не объясняется никак. Типа "надо потому что надо" или какой-нибудь подобный бред. Это будет какая-то эмоция, безусловное желание. Проведите эксперимент :)

 

А самолёт, как и планер, летает благодаря крылу и подъёмной силе, а не из-за двигателя. Я говорил про принципиально новое создание, которое не является ни буквальной, ни упрощенной копией человека.

Так для этого нужна некая принципиально новая концепция, а не "там добавить, там убавить".

Изменено 27 июля, 2007 пользователем Shinsaku-To (смотреть историю редактирования)

[AntiMat]

Так для этого нужна некая принципиально новая концепция, а не "там добавить, там убавить".

В силу своих "физиологических" особенностей "железные ангелы" будут как раз воплощать принципиально новую концепцию. Следующий этап эволюции уже не просто живой, а разумной материи. На всякий случай небольшая просьба - только не нужно Их сравнивать с кастратами. Всё же отсутствие жабр птицам летать нисколько не мешает.

[Shinsaku-To]

В силу своих "физиологических" особенностей "железные ангелы" будут как раз воплощать принципиально новую концепцию.

Пока ничего нового не вижу. Как уже говорил, всего лишь изменение пропорций, не более. К тому же пойдёт ли на пользу такое изменение - абсолютно неочевидно.

[AntiMat]

Пока ничего нового не вижу. Как уже говорил, всего лишь изменение пропорций, не более.

Так вот, это не количественное, а уже качественное изменение.

[Shinsaku-To]

Ну ладно. "Хао, я сказал всё" (с)

[Cyber7]

Будет очень интересно послушать ваше доказательство ^_^

...куть...

Дело вот в чём. То или иное использование экспертных систем, адаптивных нейросетей и тыды и тыпы... оно конечно же важно. Здесь и сейчас. Я же имел в виду ИИ, как он есть. То есть Искуственный (созданный людьми) Интелект. И вот тут то возникает одна проблема, решить которую на данном этапе, по крайней мере, человек не в состоянии. И проблема эта - сознание. Или осознание, если хотите.

Всё, до сих пор созданное человеком имеет конкретные области применения и за пределы их - ни шагу. Программа на то и программа, что она выполняет функции, заложенные в неё людьми. Осознание действий этой программы лежит на программисте, а не на самой программе. До тех пор, пока программы перевода не будут понимать смысла тех слов, которые они переводят - они всегда будут ошибатся. Не зависимо, сколько правил и грамматических форм в неё вбито. Программа, которая может выделить кошку из фона не сможет это сделать, если кошка перевернётся на спину. А человек это делает. Легко.

Кроме того важно осмысление действий. Нет ни одной программы (я не знаю) которая могла бы себе поставить задачу и найти её решение. Если программа управляет станком с двумя степенями свободы - добавление станку третьей степени свободы делает программу непригодной.

Есть надежда, что в квантовых компьютерах эта болезнь будет вылечена. Есть даже статья ("Компьютерное обозрение", летняя, не помню номера) в которой есть статья о мужике, который сумел сделать шаг в нужном направлении. Многоуровневая система с обратной связью. Это может сработать.

Как пример того, что человек пока не достижим машинами, вот картинка:

Ни одна программа, специально не написанная для решения этой проблемы - не сможет правильно изменить слова. Ни одна программа-переводчик.

Я ещё в школе понял, что русский язык избыточен и писал конспекты, опуская глассные. И ни у кого не возникало с этими конспектами проблем.

[-GobliN-]

Нафиг все это и так живется хорошо... да потом общество киборгов не примет, боятся будет, следить, проявлять агрессивность, полюбому появятся группы типа скинов и тд... и вскоре произойдет нечто вроде истории "Периметра" от 1С, ну или конкретная бойня...