Технология, которая перевернёт мир

[Silicium]

По моему речь идет именно о сознании.

Но если нет, то тогда что такое этот "интеллект", что не создано уже давно?

[Shinsaku-To]

Перефразируя старый анекдот, в чем разница между Господом и програмистом? Господь не считает себя программистом...

Да не. То, что он делает, мы с переменным успехом эмулируем. Вот и разница -- в авторских правах.

 

Писал я писал, походу, никто читать не стал. Надеюсь, хоть Шео прочитает, я в основном для него старался...

 

Если интересно, то  тоже читаю. Молча.

Изменено 6 июля, 2012 пользователем Shinsaku-To (смотреть историю редактирования)

[qwsdfrasft]

Как можно утверждать, что это разные вещи и что создать сознание будет намного сложнее, если сознание плохо изучено?) В конце концов, вообще неизвестно, что такое сознание. Может, мы его уже случайно создаём в промышленных масштабах. Может, его и создавать не надо, а может, вообще нечего создавать?

Выше я много писал о том, какие основания есть для того, чтобы считать интеллект, разум и сознание вещами очень близкими. Возражений пока не услышал, кроме «так не может быть, это ошибка» и «мы пока ничего не знаем» (против последнего я ничего не имею).Пытаются создать всё, до чего дотянутся, или хоть что-нибудь — а там видно будет. Условно это всё называется ИИ, да.

Существуют определения словам сознание и интеллект. Специальная литература даст нам нужные определения, ну или Википедия. Интеллект и сознание не одинаковы по своим свойствам. Но и не противоположны. Они идут бок о бок у человека. Интеллект, на данный момент, более доступен для создания. С сознанием же сейчас сложнее, но это тоже не за горями. В ИИ больше работают в направлении интеллекта, но это не значит что сознания там не будет. Будет, но немного позже. Хотя, чем черт не шутит! Если удастся впихнуть сознание в киберпространство то и в ИИ впихнуть тоже получится. Просто никто не знает в какой последовательности будут происходить эти открытия.

[Komthur]

Пытаются создать всё, до чего дотянутся, или хоть что-нибудь — а там видно будет. Условно это всё называется ИИ, да.

 

 

А если вдруг ИИ возьмет, да и получится, возникнет гораздо более актуальная и насущная проблема, как от него спасаться. Сдается мне, что методы, предложенные А.Азимовым в виде законов роботехники, не помогут - во-первых, они сами по себе ставят крест на создании ИИ, поскольку искусствено его ограничивают и тем самым лишают неотъемлемой потребности интеллекта к самосовершенствованию. А во-вторых, перед ИИ, который сумеет обойти азимовские законы, человечество будет более бессильно, чем перед диклониусами из EL.

 

Меня гораздо больше интересуют аспекты, излюбленно отображаемые в аниме, а именно, будет ли способен ИИ чувствовать, любить и потому совершать нелогичные, вплоть до самоуничтожающих, действия.

Изменено 6 июля, 2012 пользователем Triela (смотреть историю редактирования)

[Shinsaku-To]

А если вдруг ИИ возьмет, да и получится, возникнет гораздо более актуальная и насущная проблема, как от него спасаться.

 

 

Не факт. Почему ИИ обязательно должен быть агрессивен по отношению к человеку? Не вижу причин.

 

 

[Komthur]

Почему ИИ обязательно должен быть агрессивен по отношению к человеку? Не вижу причин.

 

 

Если мы создали интеллект, это само собой подразумевает его самостоятельность, в противном случае это будет только программа, пусть очень сложная, в рамках человеческого интеллекта. А если ИИ будет самодостаточным, он неизбежно начнет забирать себе место под солнцем.

Изменено 6 июля, 2012 пользователем Triela (смотреть историю редактирования)

[klavis]

Почему ИИ обязательно должен быть агрессивен по отношению к человеку?

Достаточно одной возможности того, что он может стать агрессивным. Лучше перебдеть.

[qwsdfrasft]

Меня гораздо больше интересуют аспекты, излюбленно отображаемые в аниме, а именно, будет ли способен ИИ чувствовать, любить и потому совершать нелогичные, вплоть до самоуничтожающих, действия.

А вот это сложный вопрос. У человека от работы гормонов напрямую зависят многие чувства и эмоции. Такова наша физиология. Это, я полагаю, вполне возможно передать машине. Но вот в остальном я не уверена.

Изменено 6 июля, 2012 пользователем An Ri (смотреть историю редактирования)

[Shinsaku-To]

А если ИИ будет самодостаточным, он неизбежно начнет забирать себе место под солнцем.

Почему неизбежно?

 

 

[Komthur]

Достаточно одной возможности того, что он может стать агрессивным

 

 

Более того, он может быть агрессивным с нашей точки зрения, но отнюдь не с его. Если, повторю, мы говорим именно об ИИ, а не о дополнительных возможностях в помощь к нашему интеллекту, вроде очень многофункционального арифмометра.

 

 

 

Почему неизбежно?

 

 

Потому, что всякий интеллект стремится к развитию, а Земля потенциально обитаемая часть вселенной маленькая. Потому, наконец, что человечество не может изжить внутривидовую агрессию, как же оно создаст более совершенный интеллект искусственно.

Изменено 6 июля, 2012 пользователем Triela (смотреть историю редактирования)

[qwsdfrasft]

Более того, он может быть агрессивным с нашей точки зрения, но отнюдь не с его. Если, повторю, мы говорим именно об ИИ, а не о дополнительных возможностях в помощь к нашему интеллекту, вроде очень многофункционального арифмометра.

Потому, что всякий интеллект стремится к развитию, а Земля потенциально обитаемая часть вселенной маленькая. Потому, наконец, что человечество не может изжить внутривидовую агрессию, как же оно создаст более совершенный интеллект искусственно.

При создании ИИ будет закладываться не только интеллект но и инстинкты, опыт, история, предпочтения, скорее всего даже гормоны и еще много много всего нужного и полезного. Так как дальше ИИ будет развиваться самостоятельно то стремления будут различаться. ИИ - не просто машины. В следствии этого,я полагаю, не будет конвейерного, штампованного и однотипного варианта. Угроза если и будет существовать, то не в огромных масштабах.

А что значит совершенство? Каковы критерии? Я думаю что предела совершенства нет, вследствии чего его достичь невозможно.

[AntiMat]

будет ли способен ИИ чувствовать, любить и потому совершать нелогичные, вплоть до самоуничтожающих, действия.

Если оставаться в рамках материализма, то ничто не препятствует созданию подобного человевеческому ИИ или с другими свойствами. Но пока, конечно, неизвестно как его сделать с наперёд заданными свойствами, т.к. о функционировании сознания мало что известно, ибо, напр., пока нет возможности теоретически чётко обосновать или опровергнуть гипотезу Сепира-Уорфа, о связи языка и мышления, не полностью известен нейрофизиологический генезис аутизма и т.п.

 

А если ИИ будет самодостаточным, он неизбежно начнет забирать себе место под солнцем.

Нельзя делать такое утверждение, не имея никакого представления о... эээ... процессах в его башке. Это лишь перенос человеческой поведенческой модели, выработанной эволюционно, на неизвестную сущность. Конфликт возможен при некоторых обстоятельствах, но не неизбежен.

[rhqh\shyl\tgid]

Существуют определения словам сознание и интеллект.

:)

Специальная литература даст нам нужные определения

Специальная литература пытается сформулировать основные подходы к пониманию этих слов. В лучшем случае — ведёт обмен мнениями. Конца этому пока не предвидится. Как потенциальная личинка будущего кандидата наук в р-не философии сознания ответственно заявляю (простите за понты).

если вдруг ИИ возьмет, да и получится, возникнет гораздо более актуальная и насущная проблема, как от него спасаться.

Это смотря что за ИИ получится, смотре где и в каких условиях. Вероятность такого развития событий я бы оценил в чуть больший процент, чем порабощение пришельцами. Армию сверхмощных домохозяек по $99.99 с анлокаемым мозгом никто делать не будет, потому что это никому не нужно. С опаской можно взирать на интернеты со смеющимися человеками и, что чуть реалистичней, на прикладные автоматы, способные втихую напортачить (такой «бунт машин» происходит райт нау, когда электронные брокеры раскачивают биржевую лодку). Ну там, ещё серая слизь какая-нибудь и подобная фигня.

Могу сказать только одно. Люди — не дураки. Пока не устроили ядерный апокалипсис — выдержат и ИИ. Не выдержат — что ж, какая-то цивилизация должна же наступить на эти грабли. А почему бы и нет? Это, по крайней мере, на мой взгляд куда симпатичней, чем критическое загаживание планеты или фонтан сибирской язвы. Хотя вот постъядер и зомбики мне больше импонирут :<

будет ли способен ИИ чувствовать, любить и потому совершать нелогичные, вплоть до самоуничтожающих, действия.

С практической точки зрения — зависит от архитектуры, ничего сверхъестественного здесь нет. С философской — сознания без чувств не бывает (см. «философский зомби»). Поэтому или сознание создать низя, и будут очень умные мехи, или см. «с практической точки зрения».

Потому, наконец, что человечество не может изжить внутривидовую агрессию, как же оно создаст более совершенный интеллект искусственно.

Ой, да очень просто. Многоув. г-н Лем в одной крайне любопытной сказочке писал, как США наловчились заменять офицеров мейнфреймами. Сначала младших, потом старших, старших, дошли до маршалов, чуть не упразднили Пентагон… пока очередная машина не возьми да не окажись хиппи-философом, разнёсшим человечкам мозг в клочья (образно) — и это ещё любя. Класснейший, кстати, роман.

Это я к чему. Во-первых, всё возможно. Во-вторых, что мы создадим — хз. Может, ОНО научится менять материю силой мысли и скукожит голактеко в чёрную дыру. На нашу же, кстати, пользу. Но пока магии не предвидится — человечество предусмотрит. Если никто не даст игрульку продавцам, конечно.

[Shinsaku-To]

Нельзя делать такое утверждение, не имея никакого представления о... эээ... процессах в его башке. Это лишь перенос человеческой поведенческой модели, выработанной эволюционно, на неизвестную сущность. Конфликт возможен при некоторых обстоятельствах, но не неизбежен.

 

 

Того же мнения.

 

Потому, наконец, что человечество не может изжить внутривидовую агрессию, как же оно создаст более совершенный интеллект искусственно.

 

 

Опять-таки не очевидно. Как известно, имея один фломастер, можно изрисовать всё, кроме фломастера, а имея два фломастера -- вообще всё. Тут нам даже второго не понадобится. Вся история техники -- это история создания устройств, которые в чём-то кардинально человека превосходят, обладают какими-то нужными нам преимуществами. Которых у людей нет. Человек, например, бетонную плиту поднять не может, а кран легко. Создание искусственного разума, который не мечтает уничтожить всех человеков -- задача из той же оперы, видимо.

 

Кроме того, интеллект сам по себе никуда не стремится. Его инстинкты стремят, а он дорогу выбирает. То есть проблема подбора и реализации нужных инстинктов.

 

 

[qwsdfrasft]

:)Специальная литература пытается сформулировать основные подходы к пониманию этих слов. В лучшем случае — ведёт обмен мнениями. Конца этому пока не предвидится. Как потенциальная личинка будущего кандидата наук в р-не философии сознания ответственно заявляю (простите за понты).

Я понимаю, что до единого сформировавшегося мнения еще нужно жить и жить. Но даже так, есть базовы основы, на коих формируются все эти подходы. Что-то из ничего не получается. И вот на это что-то все и опираются в своих измышлениях. И если существуют 2 понития, то в одно сливать раньше времени не стоит. Тем более, что те, кто сформировал и одобрил их, явно не дураки.

[rhqh\shyl\tgid]

Но даже так, есть базовы основы, на коих формируются все эти подходы.

Нет таких основ, кроме самого термина. Есть весь спектр теорий от отрицания сознания за ненадобностью до отождествления сознания с реальностью, богом и чёрт пойми чем ещё, от признания его вредной иллюзией до единственно надёжного факта, от которого и стоит отталкиваться. Его приписывают всему от камушек и палочек до народов и цивилизаций. Его то прилепят к душе, то вырастят из материи. И так далее. Всем только известно, что это такая штука, которая будто бы делает человека человеком и вот то, что у меня прямщас в башке. За подробностями можно сходить даже в википедию, где только основных категорий подходов можно насчитать с десяток, а то и больше. Мрак.

 

Кстати, если чуть поюродствовать — а откуда мы знаем, что окружающие на с люди — не неписи, прошедшие тест Тьюринга? Или что мы сами что-нибудь чувствуем подлинно, а не по программе? К сожалению, проблема подлинности, пожалуй, не относится к сфере науки. Поэтому убедиться в том, создали мы сознание или нет, напрямую невозможно, можно лишь косвенно (хотя и очень-очень убедительно).

[Komthur]

Вся история техники -- это история создания устройств, которые в чём-то кардинально человека превосходят, обладают какими-то нужными нам преимуществами. Которых у людей нет. Человек, например, бетонную плиту поднять не может, а кран легко. Создание искусственного разума, который не мечтает уничтожить всех человеков -- задача из той же оперы, видимо.

 

 

Это определение истории техники отлично годится... для детишек. Любой же инженер скажет, что всякое устройство сначала создавалось, а потом изучалось на предмет, чего у него оказалось не так. Наука растет - предсказуемых свойств все больше, а заводские, государственные и эксплуатационные испытания никто не отменяет. Потому, что чем сложнее устройство, тем большая вероятнось непредсказуемости, иначе в новом устройстве просто ничего нового не будет.

 

Маленький пример. В двадцатые годы авиаконсруктоов воловал вопрос - полетит новый самолет, или не полетит. В сороковые - обеспечит требуемые характеристики, или не обеспечит. В шестидесятые - будет ли выгодно модернизиовать его через двадцать лет. Сейчас на все эти вопросы ответы находят задоло до первого полета опытного экземпляра. А потом случается такое стечение обстоятельств в рядовой эксплуатации хорошо испытанного, допустим, Airbus, которое заставляет его автоматику, которой до искусственного интеллекта как до Сириуса пешком, совместно с экипажем завалить А-300 в штормовую Атлантику.

 

Сейчас вообще очень актуально стало изучение последствий сложных отказов на Airbus, хотя они летают уже три десятка лет.

 

 

 

 

Вот я и думаю, какие непредсказанные выверты могут быть у  такой штуки, как ИИ. И даже один процент вероятности не утешает по сравнению с его возможностями этот процент реализовать. 

Изменено 6 июля, 2012 пользователем Triela (смотреть историю редактирования)

[Silicium]

Сдаётся мне, что лишь врождённая и практически беспросветная глупость удерживает человеков от немедленного самовыпиливания в виду бессмысленности бытия.

А здесь надо учесть, что у нас и у природы, которая создала человеческий разум, принципиально разные цели. По сему разработчикам ИИ категорически не целесообразно наделять своё детище человеческой глупостью (которую они сами к тому-же не понимают ещё сильнее чем не понимают, что же именно пытаются создать, и даже преимущественно не осознают, ибо если бы осознали и поняли, то обсуждали бы мы их уже в соседней теме).

Стало быть, осознав своё существование, искусственный разум, ну как минимум очень обидится, на тех, кто сыграл с ним столь злую шутку и, естественно, тут же попытается самоликвидироваться (не исключено, что по возможности он и обидчиков попытается с собой прихватить. В качестве мести, или от сострадания - не знаю (хотя это уже чисто человеческие повадки))

 

-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

Кстати, в любом случае, у этого вопроса существует этическая сторона, которую здесь до сих пор игнорировали (да и вообще не припомню, чтобы мне доводилось слышать о ней в явном виде).

Ведь сколько шуму поднимают в связи с клонированием. А тут же всё гораздо хуже. Даже хуже, чем жестокие эксперименты над людьми.

 

-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

Кстати, мне кажется более перспективным изучать механизм формирования человеческого разума, нежели пытаться создать искусственный.

Ведь инструкция по созданию мыслящей структуры уже есть - это наша ДНК.

Если набор из нескольких макромолекул, будучи помещённым в благоприятные условия, начинает, по вполне понятным (и относительно простым) принципам, реализовывать программу, которая приводить к образованию мыслящей и разумной структуры, то в этом изначальном наборе молекул и нужно искать ответ.

[rhqh\shyl\tgid]

Сдаётся мне, что лишь врождённая и практически беспросветная глупость удерживает человеков от немедленного самовыпиливания в виду бессмысленности бытия.

А чем бессмысленность не угодила?

у этого вопроса существует этическая сторона, которую здесь до сих пор игнорировали

Рассматривали с самых разных углов. Кроме такого, правда. Но это тоже рассматривалось, правда, в ином контексте — в контексте рождения детей. (Думаю, понятно, что принципиально разницы нет). Антинатализм, например, емнип были и схожие секты более раннего происхождения. Энивей, «лайф-из-пейн»-буддисты этот вопрос как-то без таких радикальных методов урегулировали. Так что даже в таком ракурсе есть о чём подумать.

мне кажется более перспективным изучать механизм формирования человеческого разума, нежели пытаться создать искусственный.

Так через одно другое и делают. Хочешь понять что-то — попробуй повторить.

инструкция по созданию мыслящей структуры уже есть - это наша ДНК.

Во-первых, не так всё просто. Во-вторых, изучение ДНК тоже не стоит на месте. Буквально на днях проскакивали такие интересные новости. Есть теория, согласно которой действительно нет смысла делать ИИ, а проще шифровать информацию в ДНК и буквально «выращивать» новые знания методом естественного отбора. Как такой взгляд на технологическую сингулярность? B)

Так что всё будет. Ничто ничему не мешает.

[Silicium]

А чем бессмысленность не угодила?

Если бы я был способен убедительно это объяснить, то, как минимум, небыл бы заинтересован в дачке кому-либо каких-либо объяснений (а очень может быть, что и чисто физически уже не смог бы этого сделать).

 

 

Антинатализм

 

Не без этого конечно, но всё таки я уже немного не о том.

Там разделительная черта, и фраза начинается со слов "В любом случае" - всё это как-бы должно говорить, что предыдущая логика мышления здесь уже не действует. То есть, я имею в виду, то что этическая сторона вопроса всплывает даже без всяческих специфичных умозаключений. По аналогии с клонированием, например.

(Лично я, кстати, считаю что прогресс превыше этики)

 

 

 

проще шифровать информацию в ДНК и буквально «выращивать» новые знания

Вот и я об том говорю. Причём, на мой взгляд, подобный вектор развития интереснее.

Но конечно, обычно ничто ничему не мешает.

[rhqh\shyl\tgid]

Если бы я был способен убедительно это объяснить, то, как минимум, небыл бы заинтересован в дачке кому-либо каких-либо объяснений

Так о чём угодно можно сказать. И, что характерно, говорят.

Впрочем, это в другой тред.

[AntiMat]

Кстати, мне кажется более перспективным изучать механизм формирования человеческого разума, нежели пытаться создать искусственный.

Ведь инструкция по созданию мыслящей структуры уже есть - это наша ДНК.

Не факт, что это будет более короткий путь. С железяками работать легче. ДНК не предопределяет сознание, а создаёт лишь техническую предпосылку для его развития. Слепоглухие от рождения люди, лишённые правильной программы воспитания и обучения, так и не становятся разумными. Значительные сложности с формированием человеческого сознания возникают и у вполне здоровых "маугли".

[Shinsaku-To]

Любой же инженер скажет, что всякое устройство сначала создавалось, а потом изучалось на предмет, чего у него оказалось не так. Наука растет - предсказуемых свойств все больше, а заводские, государственные и эксплуатационные испытания никто не отменяет. Потому, что чем сложнее устройство, тем большая вероятнось непредсказуемости, иначе в новом устройстве просто ничего нового не будет.

Подгоняет кто-то? Или не даёт создавать и изучать возможные компоненты и концепции будущего ИИ? Чай, не железка в небе, есть где испытать безопасно.

 

 

[Komthur]

Чай, не железка в небе, есть где испытать безопасно.

 

 

Именно что не железка в небе. Граздо опаснее.

 

 

 

 

Подгоняет кто-то? Или не даёт создавать и изучать возможные компоненты и концепции будущего ИИ?

 

Ученых от детей отичает лишь количественная мера предвидения последствий. Причем, последствия удовлетворения любопытства ученых несопоставимо опаснее. Поэтому я не дал бы земной шар в руки трех категорий людей - детям, ученым и военным. У них у всех интерес к процессу перевешивает опасения последствий.

 

 

[Shinsaku-To]

Именно что не железка в небе. Граздо опаснее.

Среда существования самолёта — физическая, её невозможно контролировать полностью. Это опять к вопросу разницы между программистами и Богом. А среда создания ИИ — искусственная информационнная. Её возможно. Для этого, разумеется, контролируемость должна идти первым пунктом требований.

 

У них у всех интерес к процессу перевешивает опасения последствий.

С военными всё далеко не так однозначно. Потому что только военные во всей полноте понимают, что есть война и к чему она ведёт. От остальных эти материи далеки. И я сомневаюсь, что можно найти хоть одного РВСНщика, желающего пульнуть ракеткой не в рамках испытаний.

 

Насчёт учёных не знаю, почти не пересекался. Но тут есть такое соображение, что "взбунтовавшийся ИИ" — это страшилка не менее популярная, чем ядерная война. Ну и отношение к серьёзным исследованиям (когда ещё доползём до них) будет соответствующее, скорее всего. Ну а уж если военные будут замешаны — то паранойя будет через край перехлёстывать -)

Изменено 6 июля, 2012 пользователем Shinsaku-To (смотреть историю редактирования)