Искусственный интеллект просто обязан сочувствовать человеку!

Искусственный интеллект должен уметь сочувствовать, чтобы не навредить человеку

Идея того, что компьютер может обладать сознанием, все больше и больше тревожит людей.

Кажется неестественным, что человекоподобная машина может чувствовать боль, понимать глубину сожаления или испытывать неземное чувство надежды.

Однако некоторые эксперты утверждают, что именно этот тип искусственного интеллекта нам необходим, если мы хотим подавить угрозу существованию человека в зародыше, чем эта технология, безусловно, может стать в дальнейшем.

Обратите внимание

Выступая на днях в Кембридже Мюррей Шанахан, профессор когнитивной робототехники из Имперского колледжа Лондона, заявил, что для того, чтобы свести на нет угрозу «ИИ человеческого уровня» — или общего искусственного интеллекта (ОИИ), — он должен быть «человекоподобным».

Шанахан предположил, что если силы, которые движут нас к разработке ИИ человеческого уровня, остановить нельзя, есть два варианта. Либо будет разработан потенциально опасный ОИИ, в основе которого будет процесс безжалостной оптимизации без каких-либо намеков на нравственность, либо ОИИ будет разработан на основе психологического или, возможно, неврологического слепка человека.

Конец человеческой гонки

Вместе со Стивеном Хокингом и Элоном Маском, Шанахан консультировал Центр по изучению глобальных рисков (CSER) по составлению открытого письма, которое призывало исследователей ИИ обратить внимание на «подводные камни» в развитии искусственного интеллекта.

По мнению Маска, эти ловушки могут быть более опасными, чем ядерное оружие, тогда как Хокинг и вовсе считает, что они могут привести к концу человеческой эпохи.

Кадр из фильма Ex machina, который выйдет в прокат весной 2015 года

Как вы знаете, не совсем непонятно, как далеки мы от разработки ОИИ — прогнозы варьируются от 15 до 100 лет с нынешнего момента. Шанахан считает, что 2100 год для ОИИ станет «более вероятным, но до конца не определенным».

Так это или нет, вся опасность лежит в том, какие мотивы будут двигать разработку маршрута ОИИ.

Деньги могут стать «причиной риска»

Есть опасения, что нынешние социальные, экономические и политические факторы, ведущие нас к ИИ человекоподобного уровня, приведут нас к первому варианту из двух, предложенных Шанаханом.

Несмотря на эти опасности, Шанахан считает, что было бы преждевременным запретить исследования ИИ в любой форме, так как в настоящее время нет оснований полагать, что мы можем на самом деле достичь этой точки. Вместо этого есть смысл направить исследования в нужном направлении.

Имитация ума для создания гомеостаза

ОИИ, сосредоточенный исключительно на оптимизации, не обязательно будет вредоносным по отношению к людям. Тем не менее тот факт, что он может поставить обзавестись инструментальной целью вроде самосохранения или заполучения ресурсов, может представлять значительный риск.

Как указывал в 2008 году теоретик искусственного интеллекта Элиэзер Юдковский, «ИИ не ненавидит нас и не любит, но вы сделаны из атомов, которые он может использовать для чего-то еще».

Создав некую форму гомеостаза в ОИИ, по мнению Шанахана, потенциал ИИ можно реализовать без разрушения цивилизации, какой мы ее знаем. Для ОИИ это была бы возможность понять мир так же, как человек, в том числе заполучить способность узнавать других, образовывать отношения, сообщаться и сочувствовать.

Важно

Один из способов создания человекоподобной машины — имитация работы человеческого мозга в его строении, а мы «знаем, как человеческий мозг может этого достичь». Ученые в двух шагах от составления полной карты мозга, не говоря уж о репликации его.

Human Connectome Project в настоящее время работает над обратным повторением мозга и завершит работу к третьему кварталу 2015 года, хотя анализ собранных данных будет продолжаться и долго после 2015 года.

Даже если этот проект окажется полезным в оказании помощи исследователям ИИ, еще предстоит увидеть, на что способны другие инициативы вроде Human Brain Projects. Все это предоставит важную основу для разработки человекоподобной машины.

Сейчас, как говорит Шанахан, мы должны быть по крайней мере в курсе опасности, которую представляет развитие ИИ, не уделяя особого внимания голливудским фильмам или страшилкам в СМИ, что еще больше запутывает вопрос.

Источник: https://novosti-n.org/ukraine/read/86291.html

Глава Microsoft Сатья Наделла: 10 заповедей для искусственного интеллекта

В последнее время об искусственном интеллекте, о необходимости и опасности работ над ним говорят очень и часто. Ученые и известные люди разделились на 2 лагеря.

Кто-то из них, как Илон Маск и Стивен Хокинг ратуют за ускорение работ над ним, успокаивают, что это не так уже страшно и опасно, другие, кстати среди них и основатель Microsoft Билл Гейтс, наоборот предостерегают человечество об опасности такой затеи.

И вот недавно свое видение этой насущной проблемы решил изложить и генеральный директор Microsoft Сатья Наделла в своей статье для издания Slate. Не хочется пересказывать всю статью, кому интересно прочитает ее полностью сам.

Я же хочу донести до вас и высказать свое толкование (не зря же меня называют апологетом Microsoft) 10 принципов, законов, своеобразных заповедей сосуществования человечества и искусственного интеллекта, которые изложил Сатья Наделла в своей статье. Он как бы разделил их немного: 6 законов касается ИИ, а оставшиеся 4 принципа — своеобразный посыл человечеству. Разберемся с ними по порядку.

1. Главная цель создания искусственного интеллекта — помочь человечеству

Этот пункт наверно должен быть самым главным для разработчиков, которые будут заниматься созданием искусственного интеллекта. Ни для кого не секрет, что все передовые технологии в начале служат благим целям только на словах и бумаге, а на самом деле становятся самым современным оружием.

Все мы помним работы физиков-ядерщиков. А ведь целью их работы в первую очередь было создать источник энергии, который бы служил человеку. На самом деле в первую очередь мы получили ядерное оружие, способное истребить само человечество.

Поэтому хочется, чтобы ИИ в первую очередь помогал человеку в быту, в работе и защищал человека.

2. Работы над созданием искусственного интеллекта должны быть прозрачными

Я абсолютно согласен с этим пунктом. Хочется, чтобы весь мир знал об этих работах, чтобы секретов об этом не было, чтобы не было гонки между корпорациями и учеными, ибо рано или поздно эта гонка превратится в конфронтацию и соперничество. А хочется наоборот сплоченности, дружеской поддержки и помощи в этих разработках.

В противном случае не исключен вариант появления шизофреника-миллиардера, который соберет ученых для разработок, что добиться своей главной цели-власти над миром. Тогда сюжеты голливудских фильмов станут реальностью и искусственный интеллект в руках одного человека из блага может превратится в угрозу человечеству.

А соблазн такой очень большой.

3. Искусственный интеллект должен быть максимально эффективен, но не унижать при этом человеческое достоинство

Мне не очень нравятся восторженные публикации о том, что супер-интеллект обыгрывает человека в шахматы, в го. Да он усовершенствуется, да становится умнее, но прежде всего получает знания, накопленные людьми.

Лично мне было бы очень неприятно, если бы в одно прекрасное утро ИИ, который бы был в моем «умном» доме сказал мне, что я ничтожество, неудачник, лузер, что он умнее меня и я не достоин быть его владельцем.

Потому должны быть установлены этические нормы для ИИ, которые он не смеет переступать и унижать человеческое достоинство. Ведь создал этот самый ИИ именно человек, а не наоборот.

4. ИИ должен обеспечивать интеллектуальную неприкосновенность и конфиденциальность личной жизни

Иными словами, искусственный интеллект должен защищать личную информацию владельца, его интеллектуальную собственность, всячески препятствовать их утечке.

Частная жизнь владельца должна быть всячески защищена. ИИ должен не иметь права ее оглашать или распространять, например, в социальных сетях или посторонним лицам.

Это обязано стать основой взаимоотношений человек — искусственный интеллект.

5. Должен существовать алгоритм подотчетности ИИ, чтобы предотвратить вред человеку

Источник: https://gagadget.com/science/22778-glava-microsoft-satya-nadella-10-zapovedej-dlya-iskusstvennogo-intellekta/

Кибернетическое сочувствие. Как роботы превосходят людей эмоциональным интеллектом

6 декабря 2016, 20:00     1427

Уже не одно десятилетие человечество мечтает о создании роботов, которые бы понимали и умели испытывать человеческие эмоции. Эта тема неоднократно обыгрывалась в многочисленных фильмах и научно-фантастических романах.

Конечно, заставить компьютер чувствовать – задача не из легких. Но это вовсе не означает, что машина не может научиться понимать и анализировать человеческие эмоции.

Как показывает практика, машины уже сейчас способны демонстрировать вполне человеческий уровень эмоционального интеллекта.

Эмоциональный интеллект без эмоций

Эмоциональный интеллект (ЭИ или EQ) – способность человека распознавать эмоции, понимать намерения, мотивацию и желания других людей.

Это может показаться парадоксальным, но именно отсутствие в компьютерах собственных эмоций может сделать их невероятно чувствительными к эмоциям органических существ. Эмоциональный интеллект роботов даже может превзойти человеческий.

Ведь люди порой плохо считывают эмоции окружающих и принимают за чистую монету даже неприкрытую ложь.

Совет

По словам профессора психологии из Университетского колледжа Лондона Томаса Чаморро-Премузика, роботам не обязательно уметь чувствовать, чтобы действовать в соответствии с эмоциональным интеллектом.

Даже в людях высокий уровень ЭИ, как правило, соседствует с низкой эмоциональностью.

Ведь высокий уровень эмоционального интеллекта позволяет человеку подавлять собственные импульсы и действовать рационально.

Современные сенсоры уже позволяют сегодня машинам замечать и интерпретировать эмоции, «написанные» на человеческом лице. Не менее успешно машины могут анализировать жесты или интонацию. Все это позволяет создавать интеллектуальные системы, прекрасно разбирающиеся в чувствах. Сферы применения такого инструмента практически безграничны.

Управление

В напряженной атмосфере Уолл-стрит биржевые маклеры ворочают миллионами долларов своих работодателей. Опасные решения, принимаемые за доли секунд, могут стоить человеку состояния или карьеры.

В подобных условиях эмоциональное состояние сотрудников может существенно повлиять на эффективность работы.

Тем не менее, по сей день во многих отраслях экономики и производства культура управления никоим образом не учитывает эмоции персонала.

Лишь недавно ведущие банки мира, такие как JPMorgan Chase и Bank of America, начли совместно с технологическими компаниями внедрять у себя системы оценки эмоционального состояния сотрудников. Хотя, на первый взгляд, это может выглядеть как следка из романа Оруэлла «1984», исследователи утверждают, что подобный контроль будет полезен как для предприятий, так и для самих работников.

Аккуратное вождение

Обратите внимание

Системы распознавания эмоций могут найти применение в беспилотных автомобилях. К примеру, если пассажир испугается какого-то маневра, автомобиль может распознать этот испуг и начать ехать более аккуратно и плавно.

На данный момент уже существует стартап BRAIQ, разрабатывающий подобную систему. Компьютер должен будет учитывать эмоциональное состояние людей в салоне и подбирать наиболее подходящий ситуации стиль езды.

Обслуживание клиентов

По-настоящему полезной система отслеживания эмоций может стать  в сфере обслуживания клиентов.

Стартап Cogito разрабатывает систему, в режиме реального времени анализирующую телефонные разговоры между клиентами компаний и сотрудниками колл-центров.

Система распознает эмоции клиента и подсказывает агенту, когда следует начать говорить сочувственнее, а когда, к примеру, уместно пошутить. Как показывает практика, эффективность таких переговоров реально повышается.

Охрана правопорядка

Правоохранительные органы всего мира все еще пользуются полиграфами — «детекторами лжи», учитывающими пульс, дыхание и прочие физиологические данные человека, отвечающего на вопросы. Но, по словам экспертов, настоящий профессионал способен обмануть такую машину.

Похоже, что очень скоро на замену полиграфу придет компьютер, безошибочно распознающий ложь по интонации, поведению и выражению лица. Такую технологию уже создал стартап Nuralogix. Система считывает мельчайшие сигналы, не улавливаемые человеческим глазом или ухом. Испытания уже показали, что умный «детектор лжи» Nuralogix намного точнее обычного полиграфа.

Войны с машинами не будет

Еще в прошлом году, рассуждая о том, чего ждать простому пользователю от искусственного интеллекта, мы предположили, что разумной машине будет очень легко влюбить в себя человека. Похоже, наше предположение оправдывается в полной мере.

Важно

Сегодня мы очень часто говорим об «искусственном интеллекте», но будем откровенны: современные компьютеры еще и близко не подобрались к обладанию полноценным разумом и самосознанием. Тем не менее, даже эти неразумные системы умеют читать людские эмоции лучше самих людей.

Читайте также:  Главные подробности о беспилотнике mars helicopter

А теперь представьте на секунду, что ученые совершили прорыв, и на смену мертвому искусственному интеллекту пришел живой искусственный разум.

Имея доступ к инструментам чтения эмоций, такая машина сможет манипулировать буквально любым человеком на земле. Перспектива довольно пугающая, но есть в этом и плюс. Война с разумными роботами нам не грозит.

Ведь искусственному разуму с абсолютным эмоциональным интеллектом будет куда проще влюбить в себя всё человечество.  

Источник: https://igate.com.ua/news/17569-kiberneticheskoe-sochuvstvie.-kak-roboty-prevoshodyat-lyudej-ehmotsionalnym-intellektom

Опасно разумен (из переписки в comp.ai.philosophy)

Сознательные машины будут развиваться по экспоненте, потому что им не нужно тратить время на обучение тому, что уже известно предыдущим поколениям.

В 1997г эта тема обсуждалась в comp.ai.philosophy с Louis Savain, Chris Hooley и William Modlin.

Я предвижу сознательное оружие

Что произойдёт, если алгоритм искусственного разума станет общедоступен? Это ведь будет не полуживой компьютерный вирус, а хорошо думающая бездушная машина. Такая машина не может сочувствовать человеку или понять его чувства, так как «высшие» чувства (юмор, одиночество) происходят от самосохранения, которое является признаком жизни, а не разума.

Искусственный интеллект — это не сложная и дорогая атомная технология. Это просто программа, которую легко копировать. Что если этот алгоритм не требует огромных вычислений? Я подозреваю, что хорошо организованный ассоциативный мозг, такой же смышлёный, как мозг животных, может разместиться в настольном компьютере.

Каждый тиран и бандит пожелает такого сообщника.

Понимание опасности искусственного разума недостаточно для предотвращения этой опасности, особенно после того, когда эта технология постепенно заполонит весь мир. Войны и самоубийства тоже опасны. Но мы делаем это.

Наиболее реальная надежда избежать опасных последствий новой технологии — это сила денег. Государственный бюджет и личный бумажник могут преодолеть возможное военное применение искусственного разума, так как в мирной жизни эта технология ещё нужнее, чем в оборонной отрасли.

Проблема искусственного разума скоро будет решена . Но к этому невозможно морально подготовиться.

Сначала мы будем учить роботов тому, что считаем полезным. Затем они будут развиваться по экспоненте, потому что им не нужно тратить время на изучение того, что знают их предки. Знания будут накапливаться не в книгах (и учителях), а в мозгах этих роботов.

Невозможно, чтобы робот, который умнее меня в 10 раз, был моим слугой. Скорее мы станем слугами следующих поколений роботов, которые будут умножать свои знания в 10 раз ежегодно.

Пробуждение кибер сознания

Не вызывает особых возражений идея о том, что сознание развилось как средство адаптации . Поэтому, изобретая адаптирующихся роботов, мы создаём разумные системы. Сначала они выглядят просто как адаптирующиеся программы. Так что даже наиболее прозорливые из нас не воспринимают их сознательными. Новорожденный ребёнок тоже не кажется слишком разумным.

Слово интеллект сейчас превратилось в атрибут рекламы. Мы уже готовы видеть элементы сознания в операционной системе.

А животные, они только разумны (рационально себя ведут) или они чувствуют и осознают себя? Переход от машино-подобного интеллекта к сознанию происходит тогда, когда существо обнаруживает связь между своим действием и своим состоянием. Возникает ощущение.

Сознательная вещь осознаёт своё поведение. Она отличает своё поведение от других событий. Она отличает себя от других вещей.

Совет

Итак, каждая более-менее сложная адаптирующаяся система, которую мы склонны считать разумной, является сознательной. Разумная вещь изначально ведёт себя разумно, а сознательная вещь сама изобретает разумное поведение — адаптируется. А мы субъективно оцениваем это поведение.

Действительно ли оно разумно? Я могу представить систему, которая хорошо говорит, но полностью запрограммирована. С другой стороны, такое простое существо, как морской заяц — Aplysia, изобретает своё простое поведение без всякого предварительного программирования. Его мозг не знает заранее, в каких условиях придётся жить.

Он имеет крошечное зерно настоящего сознания. Сознание происходит из адаптации, а не из сложности.

Животные адаптируются к условиям своей жизни не потому, что они осознают «необходимость выживания». Они заботятся о еде, об избежании боли. Выживание, рождение и смерь — это недоступные абстракции. Таракан убегает не потому, что он боится смерти, а потому, что он предвидит, что будет хуже . Естественный отбор, заботясь о выживании таракана, дал ему способность предвидения.

Эволюционно мозг призван помогать выживанию вида, а вовсе не думать. Необходимое для выживания предвидение постепенно развилось в обдумывание предстоящих событий и своих действий. Этот подарок природы для тех, кому нравится думать, вероятно, тоже помогает нам выживать.

Понимая и высоко ценя эту способность, мы приступили к разработке машин, которые думают и осознают себя.

Я полагаю, что такие машины потребуют гораздо меньших вычислительных ресурсов, чем человеческий мозг, так как сначала им не нужно будет заботиться о поддержании своей жизни.

Мы распространим такие машины всюду

Неверно, что разработчик робота точно задаёт его поведение. Не каждый захочет и не каждый сможет следить за дальнейшей судьбой своего творения.

Иногда изобретатель специально отпускает своё создание на волю, например, если это компьютерный вирус. И вообще, многие вещи, которые мы создаём, мы не можем полностью контролировать.

Например, наших детей. Искусственный разум — это ещё один пример.

Обратите внимание

Первые едва разумные вещи будут иметь едва свободную волю . Но ведь мы претендуем на создание настоящего разума, ни в чём не уступающего человеческому. Поэтому «просто разумность» — это первый шаг к такой цели. В конце концов, задача создания искусственного разума, имеющего волю и стремления, будет решена.

Если вы позволите разумной машине принимать решения, то вы не сможете знать заранее, что это будут за решения. Вы также не можете быть уверены, что эти решения вас устроят. Разве вы всегда довольны даже своими решениями? Поэтому машина сможет осуществить свою волю в соответствии со своими суждениями, даже если вы этого не желаете.

Искусственный отбор роботов

Для выращивания поколений разумных машин, обладающих только полезными признаками , можно применять искусственный отбор.

Такой отбор в виде уничтожения неподходящих искусственных созданий успешно проверен, например, при выведении новых пород собак.

Но как вы представляете себе уничтожение существа, которое умнее и чувствительнее вас, особенно если оно ценит себя и своё сознание?

Достаточно умные роботы смогут изобрести способ прохождения наших тестов, чтобы удовлетворить критериям искусственного отбора. Если разумное существо ценит себя, то оно будет пытаться выжить в селектирующей мясорубке, применяя все средства и хитрости. При этом роботы станут ещё опаснее, чем при достаточно свободном воспитании .

Я вижу только один путь, дающий надежду на безопасное сосуществование с роботами. Когда они достигнут и превзойдут человеческий уровень интеллекта и проявят стремление влиять на общественные процессы, нужно дать им право голоса и право быть избранными.

Тогда нравственный отбор, который действует в демократическом обществе, будет также отбирать и представителей искусственного поколения в соответствии с желаниями избирателей.

Пока этот процесс не станет стабильным, я надеюсь, мы сможем воздерживаться от создания слишком мощных и слишком разумных роботов. Хотя эта надежда логически не обоснована.

В конце концов, ничто живое не будет нужно новому поколению синтетической жизни. Дай Бог, если мы станем домашними питомцами или игрушками.

Евгений Корниенко

1997

Источник: http://cyber-ek.ru/mind/danger.html

Интеллект как он есть

«Сноб» продолжает публикацию отрывков из новой книги Андрея Курпатова «Четвертая мировая война», которая выйдет в ноябре в издательстве «Капитал». В этот раз речь пойдет о том, что уже скоро искусственный интеллект превзойдет человеческий в способности к социальной коммуникации — нашем пока единственном козыре

Мыслю — следовательно, существую.
Рене Декарт

Должен вам сказать, что я не без интереса наблюдаю за тем, как все последние годы люди реагируют на понятие «искусственный интеллект».

Не скажу, конечно, за всех, но основная масса народонаселения еще не так давно отождествляла искусственный интеллект с образом Арнольда Шварценеггера из «Терминатора». То есть думали, что это, вообще говоря, сказка какая-то. Мало ли что там этим фантастам в голову взбредет!

Кто-то, впрочем, на полном серьезе рассуждал о будущем искусственного интеллекта, опираясь, надо полагать, на сюжет фильма «Я — робот» с Уиллом Смитом в главной роли. Персонаж Уилла вступает в неравный бой с Виртуальным Интерактивным Кинетическим Интеллектом — такой бездушной дамой по имени ВИКИ, и, конечно же, побеждает ее.

Важно

Что, в общем-то, и не удивительно — где этот никчемный искусственный интеллектишка, а где наш — великий и могучий, да еще с очарованием голливудской суперзвезды Уилла Смита! Вообще не сравнить. Она — ВИКИ — дура. У нее это по лицу на виртуальном экране видно. А наш-то — герой-молодец! Всех победим! Наших искусственными мозгами не запугаешь!

Короче говоря, основное возражение против возможности появления «искусственного интеллекта» (вызывающее не то недоумение, не то сочувствие) сводилось к следующему: у машин никогда не будет души, а значит, они никогда не станут «как люди», тогда как люди — вершина эволюции, и другой такой не бывать.

Если кто-то из моих читателей и до сих пор так думает, я буду вынужден заметить: никто в мире технологий «душу» производить и не собирается. И, наверное, «искусственная душа» была бы так себе программный продукт. Но интеллект — это совсем другое дело. Если вы, конечно, понимаете, о чем идет речь… Собственно, это мы сейчас и обсудим.

Не в нашу пользу

После запуска машинного методане должно пройти много временидо того момента, когда машиныпревзойдут наши ничтожные возможности.

Алан Тьюринг

Рэй Курцвейл с товарищами обещают нам скорую «технологическую сингулярность». Насколько все это вообще реалистично? Давайте попробуем порассуждать.

Для начала просто сопоставим некоторые физические параметры. Нейроны нашего с вами мозга работают с частотой 200 Гц, но даже современные микропроцессоры работают с частотой 2 ГГц, а проще говоря — в десять миллионов раз быстрее.

При этом общение между нейронами происходит, так сказать, еще дедовским способом — импульс передвигается со скоростью 120 м/с. А теперь сравните это с 300 000 000 м/с — скоростью света. Да, оптоволокно слегка ее притормаживает. Впрочем, исследователи из Саутгемптонского университета в Англии еще в 2013 году нашли способ эти ограничения обойти.

Еще более удручающим, потому что не в пользу наших мозгов, будет сравнение «объемов» памяти и способности к ее хранению. Понятно, что наш мозг ограничен не только размерами черепной коробки, но и количеством нейронов коры головного мозга — их непосредственно в самой коре около 18 миллиардов.

На этом, впрочем, наши беды не заканчиваются: как мы теперь знаем благодаря исследованиям Элизабет Лофтус, наш мозг не хранит целостных воспоминаний. То есть всякое наше с вами воспоминание воссоздается заново, когда это требуется, а потому все, что мы «помним», мы всегда «помним» по-разному.

Компьютеры, как вы понимаете, не имеют никаких существенных ограничений по объему долговременной памяти, и если уж они какие-то факты зафиксировали, то в таком виде их и хранят.

Мне не надо бояться, что, сохранив сегодня этот текст на компьютере, завтра я открою какой-то другой, потому что у моего ноута, видите ли, творческое настроение или, например, «критические дни». А вот с мозгами — другая ситуация: вчера, казалось, я понимал, что надо написать сегодня, но сейчас смотрю на экран и испытываю недоумение…

Совет

Плюс к этому, компьютер, в отличие от наших с вами мозгов, не устает, не нервничает, не страдает психическими расстройствами, не нуждается в восьмичасовом сне, не подвержен алкогольной или какой-либо иной интоксикации. В крайнем случае он перезагрузится — и опять как новенький!

Читайте также:  Робот robonaut осваивает профессию космического врача

И я почти уверен, что стоящий передо мной компьютер не подвержен болезням Альцгеймера или Паркинсона. Мой же мозг точно выкинет что-то подобное, если я, конечно, доживу до соответствующего возраста, а Курцвейл нам про свои спасающие от деменции медицинские нанороботы бессовестно наврал.

Любое «железо», безусловно, устаревает, включая компьютерное. Но информация, которая содержится на компьютерных серверах, сохранится на новом «железе» в неизменном виде. Про «железо» наших мозгов, по крайней мере пока, этого сказать нельзя.

Дело в том, что наше «железо» (нейронные сети) — это, по сути, и есть та информация, которой мы обладаем. Поэтому, если проблемы возникают у нашего «железа», то уже есть и проблема с информацией.

Ожидать подобного безобразия в мире компьютеров не приходится, в их случае «железо» и «программный продукт» — это разные вещи. Само это железо может стать совершенно иным, работающим на других физических принципах, но с программным продуктом ничего не произойдет — такова его природа.

«Мозг абсолютно не похож на компьютеры, которые могут поддерживать любые операционные системы и запускать любые типы программ. Если говорить в компьютерных терминах, “софт” нашего мозга — то, как мозг работает — плотно связан с его структурой — его “железом”. Если мы хотим понять, на что способен этот “софт”, мы должны понять, как устроены и связаны друг с другом разные части мозга».

Дэвид ван Эссен,
Вашингтонский университет в Сент-Луисе

Более того, если разные программные продукты говорят на одном языке, то вообще нет проблем, а если они говорят на разных, то сделают «переходник-переводчик» или придумают новый, общий для них язык, и снова — никаких проблем. В конце концов, это всегда и только язык бинарного кода.

Иными словами, вся информация, доступная разным «центрам» огромной компьютерной сети, транспарентна. То есть они не только могут ею обмениваться без искажений, но и «понимают» ее ровно так, как следует, — не передергивая, не выкручивая, не подтасовывая и т. д.

Нам же — людям — ничего подобного даже не снилось! Благодаря нашим хваленым «квалиа» мы вообще ничего не способны понять одинаково1. Даже просто воспринимая один и тот же предмет, мы видим его по-разному. Так что искажения в нашем «информационном поле» повсеместны и абсолютно неизбежны, а машинам — хоть бы хны.

Кто настоящее «социальное животное»?

Кому-то покажется, что в этот заголовок вынесен вопрос частного характера, но не будем спешить с выводами.

Да, с легкой руки Аристотеля мы именуем себя «социальными животными» и любим рассуждать в этих загадочных категориях — народ, научная элита, профессиональное сообщество и т. д.

Но давайте снимем розовые очки самолюбования и посмотрим правде в глаза — мы просто кладезь предельно ущербных коммуникативных навыков.

Обратите внимание

При этом, всего, что мы способны сделать, произвести ценного или хотя бы просто сносного, мы достигаем лишь благодаря взаимодействию с другими людьми, перенимая от них знания, опыт, обнаруживая свои ошибки в дискуссиях с ними и т. д.

Многого бы вы достигли, не будь вокруг вас ваших родителей, воспитателей, учителей, коллег и наставников? Думаю, нет. Исаак Ньютон — и тот «стоял на плечах гигантов», что уж говорить о нас, грешных.

То есть взаимодействие с другими людьми необходимо нам для нашей интеллектуальной деятельности. Однако же не мне вам рассказывать, насколько сложно нам дается это взаимодействие, — постоянное непонимание, напряжение, упрямство, самодовольство и наслаивающиеся друг на друга когнитивные искажения.

Если вы трезво оцените любой спор — хоть кухонный, хоть философский, хоть сугубо академический, — то обнаружите, что действительным предметом спора в подавляющем большинстве случаев является вовсе не истина (как, видимо, предполагается), а правота: каждый оппонент хочет от другого лишь преклоненного колена и согласия с его точкой зрения.

Наши социальные взаимодействия, а точнее говоря — социальные игры, — это настоящий бич любой хоть сколько-нибудь здравой интеллектуальной инициативы: будь это политика, экономика, управление, культура или, к сожалению, даже наука (я уж молчу о различных видах творчества и тому подобных «субъективных» вещах).

Казалось бы, там, где дело касается точных наук или, например, программирования, такого точно не должно происходить. Но человек везде и всегда найдет повод увязнуть в социальных играх.

Чего стоит знаменитый спор того же Ньютона с Лейбницем по поводу приоритета их вычислений, или противостояние Эйнштейна Бору по поводу копенгагенской интерпретации, или Бора — Гейзенбергу в отношении к матричной механике? Умнейшие люди, а по факту — сплошные страсти-мордасти2.

Впрочем, не в меньшей степени завораживают продюсеров и сценаристов социальные игры (и я бы даже сказал, драмы), разворачивающиеся между представителями новых индустрий.

Важно

В качестве наглядной иллюстрации можно посмотреть американский сериал «Замри и гори»3, или, если хочется чего-нибудь повеселее, то «Силиконовую долину».

Конечно, в главных ролях технари и бизнесмены от новых технологий — люди «объективного мира», так сказать… Но хомо сапиенсу это никогда не помогало.

Источник: https://snob.ru/entry/167524

Искусственный интеллект не может решать простые задачи

Почему искусственный интеллект не может решать простые задачи. Отсутствует, что-то очень принципиальное и важное, чем обладают только люди. История техники полна пророчеств, которые сегодня звучат смешно.

https://www.youtube.com/watch?v=EFd1uWNT0AU

Ранние предсказания о том, как через несколько десятилетий будем иметь искусственный интеллект, который ходит, говорит и думает как настоящий человек и ни чем не отличается.

Конечно, в сфере технологий наблюдается впечатляющий прогресс, но искусственный интеллект еще не может сравниться с человеком и это из-за одного принципа, более известный как “Парадокс Моравека“.

Мы можем программировать наши машины, чтобы решить сложные задачи, но простые оказываются для них непростой задачей. Искусственный интеллект способен на многое, классифицировать далекие галактики, имитировать голоса, создавать искусство и многое другое, но самое простое мышление не является одним из этих возможностей. Даже ходьба на двух ногах оказывается сложной для машины.

Искусственный интеллект может победить чемпиона мира по шахматам, но не малышей при выборе правильной игрушки и это совсем не новинка для ученых.

Уже в 1980 году компьютерный ученый Ханс Моравек исследует это явление, известное сегодня как “Парадокс Моравека“ и объясняет, почему машины невосприимчивы к эффектам естественного отбора.

“В человеческом мозге зашифрованы миллиарды лет опыта о природе и как выживать в ней. Такой сознательный процесс, который мы называем рассуждением, эффективен только потому, что он поддерживается этим старым и мощным, обычно бессознательным, сенсомоторным знанием“, писал он в своей книге в 1988 году.

Вещи, которые достаточно просты для человека, это миллиарды лет эволюции. Вещи, которые трудны для нас, они такие просто потому, что они новые. Навыки, которые люди получили путем эволюции, не требуют сознательного мышления и когда вы не должны думать о чем-то, чтобы это сделать, было бы чрезвычайно трудным научить роботов это делать.

Как научить машины думать?

Согласно Моравеку ответ кроется в единственном, что не хватает машинам, а именно эволюции.

“Я думаю, что самый быстрый прогресс может быть осуществлен путем повторения эволюции, добавляя новые и новые способности, одни после других так, что наконец последовательность поведения напоминает способности животных со сложной нервной системой“, пишет ученый.

Прогресс машин начался во времена Моравека.

“Программы, которые напоминают проблемы с животными в прошлом, как предвидеть и справляться с потенциальной угрозой, уже были написаны и протестированы на роботах, которым приходится сталкиваться с неопределенностью реального мира“.

Все новые и новые профессии осваивают роботы.

Совет

Этот прогресс продолжается и сегодня. Одним из примеров этого является, как инженеры учат искусственный интеллект алгоритмам для исследования с помощью видео игры.

Искусственный интеллект не может решать простые задачи

Почему искусственный интеллект не может решать простые задачи. Для того, чтобы научить машины думать как люди, должны сначала полностью понять, как на самом деле работает наш собственный мозг. С другой стороны, без машин мы вряд ли поймем, как это работает.

Может быть из-за парадокса Моравека, машины никогда не научатся думать и должны быть запрограммированы людьми, вероятно они будут в состоянии “развиваться“ и взять на себя функции многих людей, но некоторые из нас этого боятся.

Роботы будут обрекать людей на несчастье.

Какой из двух сценариев будет выполняться, покажет только время. До этого люди просто должны быть благодарны за компьютер, который функционирует в их головах потому, что он делает некоторые из самых сложных задач в мире очень легкими.

Похожее

Для размещения Вашей рекламы — Обращайтесь по контактам через форму обратной связи.

Источник: https://mysteryworld.info/iskusstvennyj-intellekt-ne-mozhet-reshat-prostye-zadachi/

Сочувствие и сострадание: нужны ли современному человеку эти качества?

Чувство сострадания, сочувствия или сопереживания – это внутреннее состояние. Это отрицательные эмоции из-за проблем других людей. Безусловно, сочувствие выступает одним из лучших человеческих свойств. Если вы способны сострадать другим, значит, понимаете чувства других людей. Это помогает устанавливать прочные взаимоотношения. Каждому человеку важно осознавать, что его поддерживают.

Что такое сострадание и сочувствие

Но важно понимать, что представляет собой сострадание и сопереживание. Эти чувства делают человека лучше. Нередко данные понятия используются в виде синонимичных слов, считается, что это одинаковые эмоции.

Если вникнуть в эти слова, то сочувствие является совместным переживанием некоторых эмоций, а сострадание – общим страданием по причине чего-либо. Оба термина означают, что личность проходит вместе с другим человеком его радость и горе, беду. Оба чувства вызваны ситуацией, когда требуется жалость и поддержка. Но это разные эмоции, которые требуется проявлять, если они поистине нужны.

Нередко можно услышать, что в современном мире сострадать и сочувствовать способны только верующие или бедные люди, а богачи ни о ком не думают, если это не способствует их благополучию.

Есть мнение, что на сегодняшний день на одного поистине сочувствующего человека есть 1000 тех, кто завидует другим. Причиной подобного мнения выступает характер самой личности.

Равнодушные люди не могут испытывать подобные чувства.

В обыденной жизни мы проявляем такие эмоции с учетом конкретных ситуаций. К примеру, один подаст просящему, а другой пройдет мимо. Наибольшее сострадание проявляется людьми по отношению к их пожилым родителям, заболевшим детям, друзьям.

Часто при проявлении сострадания мы можем обидеть человека, которому не нужна жалость. Кроме того, истинное сострадание наносит вред. Если доктор сострадает больному, чересчур переживает, то заболевает сам. Потому ему необходимо только сочувствовать, но не сострадать.

Проявить сочувствие – это выслушать собеседника, понять его эмоции. Для этого их придется пропустить через себя. Искренне сочувствующие люди расстраиваются и переживают точно так же, как и тот, кому это сочувствие требуется. Это вселяет в человека веру и помогает ему забыть тревоги. Сочувствие делает людей добрыми.

Зачем нужно сострадание человеку

Но зачем нужно сострадание и сочувствие? Если вы эмоциональная личность, и у вас чересчур проявляется данное чувство, то вы замечали за собой, что вам трудно чувствовать страдания других. Чужая отрицательная энергия обвивает вас, вы перестаете ощущать радость жизни. Сострадание воздействует угнетающе, забирает силу.

Кроме того, если постоянно сочувствовать одной личности, то это приносит вред и ей и вам.

Постоянное сострадание становится причиной того, что вы неумышленно препятствуете осознанию ответственности за собственные действия страдающему человеку.

Обратите внимание

По причине постоянного сочувствия личность ощущает свою слабость, нужду в посторонней помощи. Подобные люди не способны жить своей самостоятельной жизнью, им всегда требуется поддержка со стороны.

Потому важно не просто уметь сопереживать, но и ощущать границу, когда требуется оградить себя от чужих эмоций. Мера нужна во всем.

Читайте также:  Если ничего не предпринять, то созданные роботы смогут убивать людей

Как правильно сочувствовать человеку

Чтобы не нанести себе вред, необходимо знать, как правильно сочувствовать человеку:

  • требуется понять, кто вызывает подобное чувство – близкие или все окружающие? От кого идет отрицательная энергетика? Когда вы ощутите, что чересчур близко принимаете чужие переживания, пробуйте сдерживать эмоции. Не стоит окунаться в чужие проблемы. Поддержите человека, убедит его, что он не один. Но решение для ситуации ему требуется искать самому;
  • учитесь концентрироваться и возвращаться в исходное состояние, когда понимаете, что окунаетесь в чужие проблемы. Прерывайте беседу, пока не ощутите, что способны нормально понимать ситуацию. Запомните, что все ваши чувства воздействуют на организм. По этой причине для нормального состояния тела и души важно испытывать по максимуму позитивные переживания;
  • сумейте своевременно переходить от неосознанного сочувствия к осознанному действию. Всякий раз, когда стараетесь избавляться от сострадания к другим, вы почувствуете вину. Но не стоит считать себя человеком, лишенным сострадания. Для поддержки необязательно пропускать сквозь себя отрицательную энергетику. Выслушайте, но не переживайте чрезмерно сильно. Учитесь самозащите от негатива и излишнего сочувствия.

Конечно, важно оставаться добрым человеком. Все мы обязаны помогать друзьям и близким. Но делать это возможно и без вреда себе. Важно поддержать баланс собственного организма, чтобы почувствовать личное счастье.

Воспитание сочувствия и сострадания у детей

Стоит заметить, что с раннего детства серьезное внимание требуется уделить воспитанию в детях сострадания и сочувствия. Ребенок, который не способен проявить такие эмоции, вырастает жестким и эгоистичным, а иногда становятся истиной бедой родителей и себя самого.

Умение сострадать и сочувствовать другим есть только у тех детей, чьи родители показывают подобные пример своим поведением. Дабы малыш заботился и сопереживал другим, когда у них проблемы, необходимо с раннего возраста оградить его от наказаний.

Если мама и папа проявляют взаимную вежливость, а также вежливы с другими людьми, показывают заботу, то и малыш привыкнет аналогично себя вести.

Исследователи выяснили, что в семье испытывать сочувствие и сострадание больше способны мужчины. Но ведь мы привыкли считать, что они сильнее, потому показывают меньше чувств.

Когда женщине плохо, мужчина помогает, не просто сочувствуя, а проявляя сострадание и заботу. Он готов круглые сутки помогать любимой.

Что касается женщин, то они способны испытывать сочувствие короткий промежуток времени. Это потому, что при недомогании мужчины, женщина, видя его эмоции, сначала чувствует сострадание. Но потом, заметив, как он пытается показаться сильным, сострадание у женщины проходит.

Даже если мужчины высказывают жалобы на жизнь, они не готовы к состраданию окружающих. При проявлении сочувствия к мужчинам, есть шанс зацепить их самолюбие, ведь все представители сильного пола боятся казаться слабыми.

Чем руководствоваться в жизни

В некоторых ситуациях сложно понять, чем руководствоваться в жизни – разумом или сердцем. Не существует однозначного правильного ответа. Каждая ситуация требует особого подхода. Ошибаться способно и сердце, и разум.

Стоит проводить логический анализ ситуации, принимать важные решения, учитывая мнение разума и знания. Все мы каждый день используем опыт и знания на практике, пользуемся разумом.

Большинство решений приходит принимать, используя веление разума, ведь некоторые вещи в жизни просто неуместны. Вы же не идете через дорогу, как вам хочется, без соблюдения правил. Это станет причиной катастрофы рано или поздно.

Применяя знания, мы убеждаемся в безопасности, а только потом решаем, что предпринять.

Важно

Но если дело касается собственных эмоций, желаний, то разум становится мешающим элементом. В сердечных делах часто приходится жить сердцем, отключая логику. Часто человек не способен сделать что-то, исполнить собственную мечту, поскольку боится последствий. Но в подобной ситуации лучше верить зову сердца, а не разума, чтобы в будущем не сожалеть.

Страхи и неспособность поверить в себя создаются умом, они базируются на накопленном опыте. Если ранее вам приходилось испытывать подобный страх, то при принятии решения сегодня, вы почувствуете страх и беспокойство. Это станет причиной нерешительности. По этой причине важно ставить перед собой цели, слушать сердце и действовать по его подсказкам.

Источник: https://sunmag.me/sovety/31-03-2014-sochuvstvie-i-sostradanie-nuzhny-li-sovremennomu-cheloveku-eti-kachestva.html

Моральные проблемы создания искусственного интеллекта и копий личности. — ИИ, искуственный интеллект, копия личности

Философия искусственного интеллекта задаётся вопросами о «мышлении машин», рассматривает вопросы:

Может ли машина действовать разумно? Может ли она решать проблемы, которые человек решает с помощью размышлений?Может ли машина иметь разум, сознание, психическое состояние в той мере, в которой ими обладает человек. Может ли она чувствовать?Одинакова ли природа человеческого и искусственного интеллекта? Является ли в своей основе человеческий мозг компьютером?

Эти вопросы отражают интересы различных исследователей искусственного интеллекта, философов, исследователей познавательной (когнитивной) деятельности. Ответы на эти вопросы зависят от того, что понимается под понятиями «интеллект» или «сознания», и какие именно «машины» являются предметом обсуждения.

Споры о том может ли искусственный интеллект мыслить , испытывать эмоции , чувствовать ведутся уже давно. Первым этот вопрос поставил Алан Тьюринг в 1950 году.

 Две основных точки зрения на этот вопрос носят названия гипотез сильного и слабого искусственного интеллекта.

Термин «сильный искусственный интеллект» ввел Джон Сёрль, его же словами подход и характеризуется:

Более того, такая программа будет не просто моделью разума; она в буквальном смысле слова сама и будет разумом, в том же смысле, в котором человеческий разум — это разум.

Совет

Напротив, сторонники слабого ИИ предпочитают рассматривать программы лишь как инструмент, позволяющий решать те или иные задачи, которые не требуют полного спектра человеческих познавательных способностей.

В своем мысленном эксперименте «Китайская комната», Джон Сёрль показывает, что даже прохождение теста Тьюринга может не являться достаточным критерием наличия у машины подлинного процесса мышления.

Мышление есть процесс обработки находящейся в памяти информации: анализ, синтез и самопрограммирование.

Аналогичную позицию занимает и Роджер Пенроуз, который в своей книге   «Новый ум короля» аргументирует невозможность получения процесса мышления на основе формальных систем.

Этические проблемы создания искусственного разума

Этот раздел содержит вопросы, касающиеся искусственного интеллекта и этики.

Если в будущем машины смогут рассуждать, осознавать себя и иметь чувства, то что тогда делает человека человеком, а машину — машиной? Если в будущем машины смогут осознавать себя и иметь чувства, возможно ли будет их эксплуатировать или придется наделять их правами? Если в будущем машины смогут рассуждать, то как сложатся отношения людей и машин?

Хотел бы предложить представить себе следующую ситуацию , которая подразумевает , что правы все-таки сторонники теории сильного ИИ .Обычный человек в будущем , чтобы зароботать денег разрешает сделать электронную копию своей личности для участия в жестоком эксперименте (например , как повлияет на психику человека сто лет одиночного заключения без общения; конечно сто лет ждать не будут , просто смоделируют , чтобы для виртуальной личности время шло по другому) , он приходит на процедуру , ему одевают шлем или запускают в организм нанороботов , он отключается , а приходит в себя уже в виртуальной реальности в этой самой комнате-тюрьме. То есть , он уже не он , а электронная копия. При этом он осознает самого себя так же , как и раньше , мыслит , чувствует. Как вам такая ситуация ? (хотя это больше напоминает сюжет для фантастического рассказа) Интересно , согласились бы знаменитости , чтобы их копии за деньги (за большие деньги) продавались на рынке (фанаты в восторге) ? Конечно , купивший такую копию получит доступ ко всем воспоминаниям и секретам , но ведь память ,наверно можно будет отредактировать , затерев нужные места. Или продавать личность в кодированном виде со специальной программой , которая блокировала бы некоторые функции (все равно взломают). Правельнее разместить такую копию на сервере и брать плату за доступ через интернет.

И в заключение хочу привести одну интересную статью на тему , высказывайте свое мнение (особенно если хорошо разбираетесь в программировании)

Моральные проблемы создания искусственного интеллекта

Может ли страдать тетрадка в клеточку, или моральные проблемы создания искусственного интеллекта

Когда я рассказываю о нашей работе над искусственным интеллектом, меня иногда спрашивают, что я думаю о моральных проблемах создания искусственного интеллекта и переноса человеческого разума на электронный носитель.

Как будет осознавать себя искусственный разум? Не будет ли у человеческого разума, перенесённого на электронный носитель, болеть «ампутированное тело»? Гуманно ли ставить негуманные опыты над искусственным интеллектом или электронными копиями реальных людей?

Обратите внимание

Так вот, я считаю, что страдания искусственного разума — полная чушь.

разума — полная чушь.

Искусственный интеллект может более или менее точно имитировать мысли или чувства, но сами мысли или чувства он не испытывает.

Любая программа, в том числе, искусственный интеллект делает только одно — считывает биты из ячейки памяти, проводит с ними логическую операцию и записывает результат в ячейку памяти. Всё! А уже человек интерпретирует результаты считывания и записывания как результат действия программы: вычисление значения функции, выполнение банковской операции или проявления чувств искусственного разума.

Возможно, кого-то вводит в заблуждение то, что ИИ мыслит, чувствует и реагирует на внешние воздействия в реальном времени и правдоподобно: расскажешь анекдот — рассмеётся как человек, «ударишь по голове» — заплачет и т.д.

Однако ИИ вовсе не обязательно должен выполняться на компьютере в реальном времени. Как и любую программу, его прекрасно можно выполнить в тетрадке.

Ещё раз повторю: ИИ, как и любая другая программа, состоит из инструкций: считать данные из ячейки памяти, провести над ними логическую операцию, записать данные в ячейку памяти. Представим, что вместо кремниевой оперативной памяти у нас будет тетрадка в клеточку, а вместо компьютера — лаборант

Лаборант по инструкции (т.е., по тексту программы ИИ) тупо считывает нужные клеточки в тетрадке, проводит какие‐то манипуляции, и заштриховывает клеточки, опять считывает и заштриховывает… Искусственный интеллект начинает «жить».

Затем мы даём лаборанту листок с клеточками, означающими страшные издевательства над нашим бедным искусственным разумом: его пытают, мучают, заставляют заполнять налоговую декларацию или верстать под Internet Explorer 5…

Важно

Лаборант считывает и заштриховывает клеточки, что означает страшные мучения ИИ, конвульсии и крики.

Теперь вопрос: кто же при этом испытывает мучения?

Лаборант? Да он вообще не понимает, что означают эти клеточки. Он мучается разве что от того, что его заставляют выполнять идиотскую работу за какие-то 3 000 рублей в месяц.

Тетрадка? Ну, как говорится, бумага всё стерпит…

Некая система «лаборант — инструкция — тетрадка»? Это уж слишком мудрёно…

Итак, мы убедились, что ИИ не мыслит и не чувствует. Вы довольны? Что опять не так?

Но ведь человеческий мозг тоже можно представить в виде тетрадки в клеточку: нейрон получает сигнал от соседних нейронов, проводит над ним определённые действия и передаёт другим нейронам.

Но я не соглашусь с тем, что я не испытываю чувства!

Верующие люди сказали бы, что у человека есть душа, которая чувствует, а мозг лишь служит для связи души с телом.

Неверующие сказали бы, что мы просто недостаточно ещё знаем о работе мозга.

Не мне судить, кто из них прав. Однако, можно сказать точно, что ИИ созданный как обычная компьютерная программа,

мыслить и чувствовать не может.

 сознание — это очень хитрая штука… «Это — факт очевидный для того , у кого оно  есть (я знаю, что у меня есть сознание), и совершенно недоказуемый для всех остальных (окружающие меня люди не увидят разницу между мной, и сложной системой, в точности имитирующей мои реакции на внешние сигналы)

для создания использовалась статья http://www.alik.su/articles/artificial-intelligence/ и википедия.

Источник: http://trendclub.ru/8110

Ссылка на основную публикацию