Искусственный интеллект понимает ваши эмоции

Эмоциональный искусственный интеллект10.04.2015 13:07

Какие существуют подходы к пониманию механизма человеческих эмоций? Какую роль эмоции играют в нашей жизни? И можем ли мы воспроизвести эмоции в вычислительных агентах? На эти и другие вопросы отвечает преподаватель Университета Иннополис Максим Таланов.

Некоторое время назад мы задались вопросом: что нужно сделать для того, чтобы машина почувствовала эмоции? Это сразу и самым примитивным путем направило нас к психологическим моделям, которые существуют на сегодняшний день в достаточно большом количестве. Даже Чарльз Дарвин уделял этому внимание. При этом наблюдался и пик, и спады интереса к области эмоциональных моделей.

Мы рассмотрели некоторые из них, в том числе достаточно популярные вроде Роберта Плутчика. Многие из взглядов на эмоциональные психологические феномены, которые наблюдаются у человека на текущий день, фактически уже реализованы или реализуются в вычислительных системах в той или иной полноте в виде так называемых когнитивных архитектур.

Обратите внимание

Но оставался один открытый, непонятный нам вопрос: каким образом и какой механизм или механизмы — во множественном числе — заставляют эти феномены, эти эмоциональные состояния работать на клеточном уровне, на уровне нейробиологических процессов, на уровне химии, нейрохимических процессов? Здесь возникает сразу несколько предположений, и мы сразу погружаемся в контекст более сложный, потому что пытаемся провести аналогию между вычислительными процессами и процессами, которые происходят в головном мозге человека. При этом мы говорим, что уровень абстракции в вычислительных процессах примерно соответствует уровню абстракции нейробиологических процессов, мыслительных процессов в головном мозге человека, или в уме человека, или в сознании человека — в зависимости от того, как мы на это смотрим. Это наше предположение, из которого мы исходили.

Второе — мы сразу поместились в более сложный контекст, в котором рассматриваются совокупности некоторых взглядов, существующих в разных областях наук, что, в сущности, объединяется так называемыми когнитивными науками.

И мы стали смотреть на эту проблему с трех перспектив, очень толстых, жирных перспектив, а именно с точки зрения философии, психологии и нейробиологии.

Получилось следующее: в каждой из этих наук, в каждой из этих перспектив существует достаточно большое количество взглядов на эмоциональные феномены, которые происходят в человеке.

И далеко не все они согласованны или рассматривают те или иные феномены на разных уровнях детализации.

И далеко не все можно связать в целостное представление, в некую целостную модель, которую впоследствии можно было бы отразить.

Это поставило перед нами очень интересную задачу: нужно разработать модель, которая бы объединяла все эти взгляды, мысли, модели в некоторую общую модель, которую мы бы отображали уже впоследствии на вычислительные процессы внутри вычислительных систем.

Без согласованной модели мы всегда упускаем детали. Если мы остаемся только на философском взгляде и просто его отображаем в вычислительных процессах, мы упускаем психологические и нейробиологические детали; останавливаясь на философском и, например, психологическом или только на психологическом, мы упускаем нейробиологические или клеточные механизмы.

Важно

Только построив эти три уровня абстракции, мы сможем адекватно отобразить это в перспективах вычислительной системы.

Здесь нам повезло, мы встретили труд Хьюго Лёвхейма, автора гипотезы, которая строит мост между психологической моделью Сильвана Томкинса и нейробиологией. Он изучал так называемые аффекты и построил их теорию. Он исходит из восьми базовых аффектов, врожденных эмоциональных реакций, которые наблюдаются даже у младенцев: радости, страха, горя, отвращения и так далее.

Лёвхейм нашел соответствие между уровнями трех нейромодуляторов и этими аффектами. Он вводит нас в эмоциональное пространство, которое описывается тремя нейромодуляторами по осям: норадреналином, допамином, серотонином.

С его точки зрения, все эмоциональные состояния человека, эти базовые аффекты, могут быть описаны уровнями этих трех нейромодуляторов.

Это дает нам ту самую базу клеточных низкоуровневых реакций, которые можно отображать на вычислительные процессы.

Кроме прочего, стоит отметить, почему я упомянул философию. Философские взгляды Марвина Мински и Аарона Сломана очень сильно на нас повлияли, они как бы задавали общую картину, общие представления о том, как происходят эмоциональные реакции, эмоциональные вычисления, эмоциональное мышление внутри человеческого ума.

Стоит отметить труд Марвина Мински The Emotion Machine, который как раз подвиг нас в этом направлении. Совершенно уникальный труд.

В результате, как только мы дошли до этой модели — модели Лёвхейма, остался, грубо говоря, один шаг: осталось отобразить низкоуровневые реакции, клеточные реакции на вычислительный процесс. Естественно, внутри нейропсихологической модели отсутствовало какое-либо влияние на вычислительный процесс, там нет никакой вычислительной системы.

Совет

Проблема очень простая: в вычислительной системе нет никаких нейронов, нет нейромодуляторов, нет биохимии, есть просто вычислительный процесс. Но, исходя из роли каждого нейромодулятора, мы можем предположить, каким образом он будет влиять на вычислительный процесс.

Например, норадреналин известен как очень сильно влияющий на внимание агент, или нейромодулятор. В рамках вычислительной системы мы можем предположить, что он будет сильно влиять на перераспределение вычислительных ресурсов и памяти, что вполне естественно в плане паттернов, в плане контекстов внимания.

Переключение внимания — это как раз переключение, перераспределение вычислительных процессов и памяти.

Далее обучение и хранение информации. У человека совершенно естественным образом оно происходит в контексте эмоционального отсвечивания информации, которая сохраняется.

Эмоциональное отсвечивание, таким образом, влияет на обучение и на последующее воспроизведение этой информации из памяти для принятия решений.

Таким образом, мы получаем, что серотонин, допамин очень сильно влияют на то, как мы отсвечиваем, как мы сохраним нашу информацию.

Вторая группа — это принятие решений. Принятие решений, как оказалось, — это очень важный аспект эмоциональных вычислений.

Таким образом, серотонин очень сильно влияет на уверенность и удовлетворенность от принятого решения, а норадреналин сужает фокус нашего поиска, внутри которого мы рассматриваем все возможные опции, когда принимаем решение. И допамин очень сильно влияет на мотивацию для принятия решения.

Обратите внимание

Таким образом, мы «простраиваем» связи между этими тремя перспективами, о которых я говорил, и создаем дальнейшую перспективу, для того чтобы перенести это внутрь вычислительных процессов уже в вычислительной системе в контексте искусственного интеллекта и эмоциональных вычислений.

Для чего это нужно? Зачем воспроизводить эмоции внутри вычислительных систем? Может быть, этого вообще можно не делать? Это достаточно популярная тема.

Ученые только недавно стали уделять должное внимание эмоциональным вычислениям и воспроизведению эмоций внутри вычислительных систем.

Человек, который не испытывает базовых эмоций, аффектов, известен как клинический случай, как психопат. Человек, который не может испытывать сложных социальных эмоций, таких как эмпатия, любовь, тоже известен как клинический случай, как социопат.

То есть, не воспроизводя эмоций в вычислительных агентах, в intelligent agents, как это принято сейчас называть, в агентах, которые нацелены на социальное взаимодействие с людьми, мы свалимся в один из тех не очень интересных, не очень благоприятных случаев психопатии, которые были популярно освещены в большом количестве фильмов, произведенных в недавнее время Голливудом, в том числе в «Терминаторе» и так далее.

Наоборот, если мы пытаемся воспроизвести эмоции, мы создаем машины, которые адекватно социально взаимодействуют в обществе, способны помогать, способны испытывать эмпатию, любовь, сострадание и так далее, во всем спектре эмоций, которые существуют в нашем социуме. Что совершенно необходимо для воспроизведения и создания адекватных робототехнических агентов, которые могут помогать нам в повседневной жизни.

Полный текст статьи читайте на Postnauka.ru

Источник: https://pcnews.ru/articles/emocionalnyj_iskusstvennyj_intellekt-616148.html

Когда искусственный интеллект начнет понимать человеческие эмоции?

А вы доверились бы роботу, если бы он был вашим лечащим врачом? Эмоциональные разумные машины могут быть не так далеки от нас, как кажется.

За последние несколько десятилетий, искусственный интеллект существенно прибавил в возможностях чтения эмоциональных реакций людей. Но читать эмоции — не значит их понимать.

Если сам ИИ не может их испытывать, сможет ли он когда-нибудь понять нас в полной мере?

Важно

И если нет, рискуем ли мы приписывать роботам свойства, которых у них нет? Последнее поколение искусственного интеллекта уже благодарит нас за рост числа данных, на которых компьютеры могут учиться, а также за увеличение вычислительной мощности.

Эти машины постепенно совершенствуются в делах, которые мы обычно отдавали на выполнение исключительно людям. Сегодня искусственный интеллект, среди прочего, может распознавать лица, превращать эскизы лиц в фотографии, распознавать речь и играть в го.

Идентификация преступников
Не так давно ученые разработали искусственный интеллект, который способен сказать, является ли человек преступником, просто посмотрев на его черты лица. Систему оценивали с использованием базы данных фотографий китайцев и результаты вышли просто ошеломляющие.

ИИ ошибочно классифицировал невинных людей в качестве преступников всего в 6% случаев и успешно опознал 83% преступников. Общая точность составила почти 90%.

Эта система основана на подходе под названием «глубокое обучение», который оказался успешным, например, в распознавании лиц. Глубокое обучение в сочетании с «моделью вращения лица» позволило искусственному интеллекту определить, представляют ли две фотографии лица одного и того же человека, даже если меняется освещение или угол.

Глубокое обучение создает «нейронную сеть», которая берет в свою основу приближение человеческого мозга. Она состоит из сотен тысяч нейронов, организованных в разных слоях. Каждый слой переводит входные данные, например, изображение лица, на более высокий уровень абстракции, вроде набора ребер в определенных направлениях и расположениях.

И автоматически выделяет черты, которые наиболее актуальны для выполнения той или иной задачи. Учитывая успех глубокого обучения, нет ничего удивительного в том, что искусственные нейронные сети могут отличать преступников от невинных — если действительно существуют черты лица, которые между ними различаются.

Исследование позволило выделить три черты. Одна — угол между кончиком носа и уголками рта, который в среднем на 19,6% меньше у преступников.

Кривизна верхней губы также в среднем на 23,4% больше для преступников, а расстояние между внутренними уголками глаз в среднем на 5,6% уже.

Совет

На первый взгляд, этот анализ позволяет предположить, что устаревшее мнение, что преступников можно определить по физическим атрибутам, не такое уж и неправильное.

Тем не менее, это еще не вся история. Что примечательно, две самых релевантных черты связаны с губами, а это наши самые выразительные черты лица. Фотографии преступников, которые использовались в исследовании, требуют сохранять нейтральное выражение лица, но ИИ все же умудрился найти скрытые эмоции на этих фотографиях.

Возможно, настолько незначительные, что люди не в силах их обнаружить.Сложно побороть соблазн взглянуть на образцы фотографий самостоятельно — вот они. Документ еще проходит рецензирование. Тщательное рассмотрение и правда показывает легкую улыбку на фотографиях невинных. Но в образцах не так много фотографий, поэтому сделать выводы о всей базе данных невозможно.

Сила аффективных вычислений
Это не первый раз, когда компьютер способен распознавать человеческие эмоции. Так называемая область «аффективных вычислений» или «эмоциональных вычислений» существует уже давно.

Считается, что если мы хотим комфортно жить и взаимодействовать с роботами, эти машины должны уметь понимать и адекватно реагировать на человеческие эмоции. Возможности этой области довольно обширны.

Например, исследователи использовали анализ лиц, чтобы определить студентов, испытывающих трудности с компьютерными обучающими уроками. ИИ научили распознавать различные уровни вовлеченности и разочарования, чтобы система могла понять, когда студенты считают работу слишком простой или слишком сложной.

Эта технология может быть полезной для улучшения процесса обучения на онлайн-платформах. Sony и вовсе пытается разработать робота, способного формировать эмоциональные связи с людьми.

Читайте также:  Искусственный интеллект поможет управлять закупками крупных компаний

Пока не совсем понятно, как она собралась достичь этого или что конкретно будет делать робот.

Тем не менее, компания заявляет, что пытается «интегрировать аппаратные средства и услуги, чтобы обеспечить эмоционально сопоставимый опыт».

Обратите внимание

Эмоциональный искусственный интеллект будет иметь ряд потенциальных преимуществ, будь то роль собеседника или исполнителя — сможет и преступника опознать, и о лечении поговорить. Существуют также этические проблемы и риски. Будет ли правильным позволить пациенту с деменцией положиться на компаньона в лице ИИ и сказать ему, что он эмоционально живой, хотя на самом деле нет?

Сможете ли вы посадить человека за решетку, если ИИ скажет, что он виновен? Конечно, нет.

Искусственный интеллект, в первую очередь, будет не судьей, а следователем, определяющим «подозрительных», но уж никак не виновных людей.

Субъективные вещи вроде эмоций и чувств сложно объяснить искусственному интеллекту, отчасти потому, что у ИИ нет доступа к достаточно хорошим данным, чтобы объективно их проанализировать.

Сможет ли ИИ когда-нибудь понять сарказм? Одно предложение может быть саркастичным в одном контексте и совершенно другим — в другом. В любом случае, объем данных и вычислительной мощности продолжает расти.

За несколькими исключениями, ИИ вполне может научиться распознавать различные типы эмоций в ближайшие несколько десятилетий. Но сможет ли он когда-нибудь сам их испытывать? Это спорный вопрос. Взято с hi-news.

ru

Источник: https://portaltele.com.ua/news/technology/kogda-iskusstvennyj-intellekt-nachnet-ponimat-chelovecheskie-emotsii.html

Искусственный интеллект научат распознавать эмоции человека

В последнее время современные технологии всё чаще соприкасаются с эмоциональной сферой жизни человека. Достаточно вспомнить сверхпопулярные смайлы-эмоджи, история о приключениях которых уже шагнула на большой экран. Тем временем ученые всё ближе подходят к созданию искусственного интеллекта (далее — ИИ), считывающего эмоции человека.

Компания Silver Logic Labs (SLL) изучает возможности ИИ. Несмотря на то, что сегодня SLL представляет собой стартап, работающий с довольно слабыми формами ИИ, его специалистам удалось добиться определенных успехов в данной сфере. Если большинство систем ИИ заняты считыванием данных ДЛЯ человека, то ИИ, над которым трудятся в SLL, считывает данные С человека.

Данный ИИ анализирует поведение человека, отслеживая его мимику или движения тела.

На основе мельчайших деталей поведения человека компьютер способен сделать вывод о том, в каком настроении пребывает на данный момент анализируемый им субъект.

Важно

Иными словами, ИИ может определить, что именно чувствует человек. Пожалуй, таким качеством порой не обладает даже самый преданный супруг по отношению к своей второй половине.

Здесь нет никакой мистики, магии, машина не руководствуется чувственностью (надеюсь, никто из наши читателей не подозревает ИИ в наличии души). Математика и только математика.

Цель робота — помогать разнообразным фирмам для того, чтобы те могли правильно оценить, как к ним относятся их клиенты, участвующих в проводимых ими опросах. Все-таки машина может оценить это с большей вероятностью, чем опытный психолог.

В случае, если человек пытается обмануть кого-то, его чувства можно определить путем математического анализа. Всё же, психолог руководствуется в таких ситуациях интуицией, тогда как внутри ИИ происходят сложные математические вычисления, которые могут гораздо точнее определить, что на уме у анализируемого субъекта.

Благодаря довольно высокой точности определения ИИ человеческих эмоций, компания SLL планирует вывести свой проект на коммерческие рельсы. Система, позволяющая узнать, о чем думают другие люди, может заинтересовать телекомпании, фаст-фуды и иные организации, которым необходимо находиться на гребне потребительского спроса. Подобные фирмы отдадут крупные денежные суммы за подобный ИИ.

ИИ, созданный компанией SLL, способен зарегистрировать такие эмоции, как счастье, удивление, страх, гнев, отвращение или грусть, выразив их в баллах.

Максимальное значение определенной характеристики — единица.

Безусловно, доподлинно выразить ту или иную эмоцию в баллах невозможно, однако система может с высокой стоимостью определить доминантную эмоцию.  При этом ИИ использует лишь камеру и ПО.

ИИ, разработанный компанией SLL, можно использовать также в медицине. Система с высокой точностью может зарегистрировать нейродефицит и иные заболевания, такие как, например, микроинсульты, случающиеся перед инсультам.

Совет

Микроинсульт незаметен для окружающих, однако ИИ может выявить с высокой степенью вероятности, что поможет персоналу больницы минимизировать последствия «удара» для пациента.

Также ИИ от SLL может использоваться сотрудниками правоохранительных органов: система может определить степень беспокойства подозрительного гражданина.

Однако, несмотря на то, что роботы научились определять настроении человека, «Роботовед» выражает надежду на то, что у нас останутся секреты друг от друга, а электронным собеседникам мы продолжим предпочитать живых людей.

Читать также: 

Японские ученые: как искусственный интеллект изменит общество

Как роботизация и искусственный интеллект поменяют бизнес в 2017 году

Источник: http://robotoved.ru/iskustvennii_intellekt_emotions/

Искусственный интеллект научили понимать эмоции романов

Кадр из фильма «Франкенштейн».

Кадр: Frankenstein / Universal Pictures

Группа специалистов по анализу данных из Эссекского университета (Великобритания) научила искусственный интеллект определять эмоциональный профиль больших прозаических произведений.

На основании этого профиля компьютерная программа может с вероятностью в 50 процентов определить, к какому жанру относится тот или иной роман или повесть. Работа опубликована в журнале PLoS ONE.

Для своего исследования ученые использовали 3377 текстов из библиотеки Project Gutenberg, которые были очищены от посторонней информации (метки библиотеки и пр.) и разбиты на шесть жанров: роман тайн, фэнтэзи, ужасы, вестерн, научная фантастика. Этот массив текстов был проанализирован посредством метода анализа тональности текстов (сентимент-анализ).

Обычно он применяется для оценки мнений авторов текста по отношению к каким-либо объектам, и соответственно, выявляет три типа оценок: позитивные, негативные и нейтральные.

Однако авторы работы применили его более изощренный вариант, выявляющий шесть базовых эмоций по Полу Экману (психологу, ставшему прототипом главного героя в сериале «Теория лжи»): гнев, отвращение, страх, радость, печаль и удивление.

Каждому слову в тексте присваивалась эмоциональная тональность и ее балльная оценка. Для этого использовался уже существующий семантический тезаурус WordNet-Affect, состоящий из совокупности синонимов (синсетов), описывающих или относящихся к какой-либо из шести базовых эмоций.

После этого определялась эмоциональная тональность каждой законченной сентенции из романа или повести, а также общая эмоциональная динамика на протяжении всего произведения. Вот так, например, выглядит эмоциональный профиль романа Мэри Шелли «Франкенштейн, или Современный Прометей».

Эмоциональный профиль романа Мэри Шелли «Франкенштейн, или Современный Прометей». Изображение: Spyridon Samothrakis et als. / PLoS ONEВидно, что на протяжении всего романа эмоции постоянно и неуклонно нарастают. Доминируют среди них страх и гнев. А ближе к середине романа резко усиливается печаль.

Обратите внимание

Этот эмоциональный профиль значительно отличается от романа тайн, Энн Остин «Убийство на мосту», где эмоции постоянно колеблются, и доминирует удивление.Эмоциональный профиль романа Энн Остин «Убийство на мосту». Изображение: Spyridon Samothrakis et als.

/ PLoS ONEИспользуя алгоритм машинного обучения — случайный лес из 1500 деревьев, ученые обучили искусственный интеллект определять жанр художественного текста по его эмоциональному профилю. Точность опознания жанра составила 50 процентов против 17 процентов при случайном угадывании.

Более того, большинство ошибок было в неверной классификации ужасов как научной фантастики, грань между которыми довольно тонка. При этом решающим признаком — эмоциональным дискриминатором между жанрами — стала динамика такой эмоции как страх.

Важно отметить, что исследователи получили и один противоречивый результат — практически во всех текстах (в том числе и двух вышеприведенных) доминирующей и наиболее ярко выраженной была эмоция радости.

И хотя ученые напрямую не указывают это в статье, но, по всей видимости, абсолютный приоритет радости — это скорее аберрация, обусловленная недоработанностью метода сентимент-анализа для больших художественных текстов и особенностями семантического тезауруса WordNet-Affect, в котором слов-синсетов, связанных с радостью, значительно больше, нежели чем для других эмоций. Косвенно это подтверждает и тот факт, что радость не является важным эмоциональным дискриминатором для определения жанра произведений.

Источник: https://nplus1.ru/news/2015/11/10/Robot-Werther

Как научить компьютеры понимать наши эмоции

Я считаю себя отчасти художником и отчасти дизайнером. А работаю я в лаборатории по разработке искусственного интеллекта. Мы разрабатываем технологии, с которыми вам захотелось бы общаться даже в далёком будущем. Не только через полгода, а через годы и десятилетия.

 И мы не боимся предположить, что люди хотят общаться с компьютерами на глубоко эмоциональном уровне. Чтобы этого добиться, технологии должны стать настолько же естественными, насколько они искусственны. Они должны понимать вас. Ну знаете, как ваша с другом шутка, от которой вы оба катаетесь по полу от смеха.

 Или как разочарованный взгляд, который чувствуется за версту.

Мне кажется, искусство поможет нам преодолеть пропасть между человеком и машиной: мы научимся понимать друг друга, чтобы потом обучить ИИ понимать нас.

Для меня искусство — это способ передать абстрактные идеи, чувства и эмоции с помощью конкретных явлений. И я думаю, это одна из наиболее присущих человеку черт. Мы, люди, чрезвычайно сложные существа. Диапазон наших эмоций кажется бесконечным, и к тому же мы все разные.

 Мы имеем разное происхождение, разный жизненный опыт и разные характеры. Это делает жизнь действительно интересной, но также делает работу над интеллектуальными технологиями чрезвычайно трудной. И сегодня в разработке ИИ есть перекос в сторону техники. В этом есть смысл.

Ведь все наши качественные характеристики — наши эмоциональные, динамичные и субъективные стороны — необходимо перевести в количественные показатели: в то, что может быть представлено данными, цифрами и компьютерным кодом. Проблема в том, что многие из качественных характеристик не поддаются точному определению.

Например, вспомните, когда вы впервые услышали свою любимую песню.

 Что вы тогда делали?Что вы почувствовали? У вас пошли мурашки по коже? Вы пришли в восторг? Трудно объяснить, да? Иногда наши чувства кажутся очень простыми, но если копнуть глубже, то они окажутся гораздо сложнее.

Важно

 И перевод всей этой сложности для машин — это своего рода «полёт на Луну» нашего времени. И я не уверен, что мы сможем ответить на эти глубокие вопросы, используя лишь нули и единицы.

В лаборатории я занимался искусством, чтобы с его помощью создавать более удобный дизайндля новейших технологий. И оно служит стимулом, чтобы находить способы общаться с компьютерами по-человечески. В искусстве мы ищем ответы на самые трудные вопросы: что значит чувствовать? Как мы взаимодействуем друг с другом и откуда знаем, как себя вести? Как интуиция влияет на наше общение?

Читайте также:  Зачем нужны искусственные нейронные сети?

Возьмём, например, человеческие эмоции. Сегодня компьютеры могут понять основные из них —радость, грусть, злость, страх и отвращение, — переводя их характеристики в математику. А как обстоят дела с более сложными эмоциями? С теми самыми, которые трудно описать другим людям? Как ностальгия.

Для изучения этого вопроса я создал предмет искусства, инсталляцию, где людей просят поделиться воспоминанием. Вместе со специалистами по обработке данных я пытался выяснить, как превратить невероятно субъективную эмоцию в нечто математически точное.

 Мы создали так называемый показатель ностальгии, и в этом суть нашей инсталляции.

 Сначала вас просят рассказать историю, после чего компьютер анализирует её на простые эмоции, проверяет на склонность к глаголам в прошедшем времени, а также ищет слова, которые обычно ассоциируются с ностальгией, такие как «дом», «детство», «прошлое».

 Затем он выдаёт показатель ностальгии, то есть насколько ностальгической была ваша история. И ваш показатель наглядно отображается на этих световых скульптурах, которые являются физическим воплощением рассказанной вами истории. Чем выше показатель, тем более розовый оттенок — как в выражении «смотреть на мир сквозь розовые очки».

Увидев ваш показатель и его физическое представление, иногда вы соглашаетесь с результатом, а иногда нет. Словно компьютер на самом деле понял ваши переживания. Но в других случаях он ошибается, и тогда вам кажется, что он вас совсем не понимает. Но это действительно показывает, что если мы с трудом можем объяснить свои эмоции даже друг другу, то как же научить компьютер понимать их?

Источник: https://fastsalttimes.com/sections/technology/1866.html

Искусственный разум и настоящие чувства // Круглый стол: как будут складываться отношения человека и машины

Люди склонны испытывать эмоциональную привязанность к игрушкам и памятным вещам.

Но что, если объектом чувств когда-нибудь станет ИИ? Сможет ли искусственный интеллект заменить нам друга или любимого человека? Будет ли конкурировать за место под солнцем? Способны ли умные машины испытывать эмоции и решать этические проблемы? На церемонии награждения победителей Imagine Cup журнал «Кот Шрёдингера» и компания Microsoft собрали экспертов, чтобы обсудить перспективы развития искусственного разума и его взаимодействия с человечеством.

[Модератор] Наш круглый стол посвящён искусственно­му интеллекту (ИИ) — как мы будем с ним сосуществовать, может ли он развиться до уровня человеческой личности, обладать не только разумом, но и чувствами. Мой первый вопрос именно об этом: способен ли ИИ чувствовать, испытывать симпатии и антипатии, принимать решения на основе каких-то своих мотивов и интуитивных порывов?

[Алексей Турчин] Эмоции сформировались в ходе эволюции как инструмент приспособления, который позволяет быстро оценить ситуацию и среагировать.

Это не уникальное свойство человека — животные тоже злятся, боятся, страдают… Мы унаследовали систему ре­аги­ро­ва­ния от обезьян, но дополнили её рациональным мышлением — оно есть только у человека.

Конечно, эмоции нам по-прежнему нужны: они срабатывают быстрее — например, мы мгновенно реагируем на состояние другого человека.

Совет

Сегодняшние системы ­искусственного интеллекта почти так же быстро рас­по­зна­ют наши эмоции. А могут и изображать их, посылая смайлики или эмотиконы. Используя такие приёмы, они уже сейчас могут ­успешно манипулировать человеком: логика у эмоций довольно простая, и машине легко её симулировать.

Но могут ли они испытывать эмоции сами? Это ­гораздо более сложный вопрос. Чтобы на него ответить, ­надо понять природу нашего субъективного опыта. Философы о ней давно спорят. Возможно, ответ на этот вопрос мы получим создав полноценную работающую модель человеческого мозга.

[Михаил Черномордиков] Не исключаю, что рано или поздно мы разработаем единую систему знаков для понимания искусственного интеллекта.

Например, если машина подмигивает зелёной лампочкой в левом нижнем углу, значит, она веселится, а если начинает увеличиваться красный квадрат — злится, и нужно её успокоить. То есть машине, чтобы обрести эмоции, не обязательно изображать человека. Возможно, она пойдёт другим путём.

А вообще, не так уж и важно, по-настоящему искусственный интеллект испытывает чувства или имитирует их. Гораздо важнее, как мы, люди, сможем этим распорядиться.

[Пётр Левич] Мы убедились, что искусственный интеллект умеет изображать человеческие эмоции. Три года назад Евгений Густман — чат-бот, притворявшийся мальчиком из Одессы, прошёл классический тест Тьюринга. Общаясь с чат-ботом, судья проверял его и на эмоции — и не смог определить, что это не человек.

Теперь мы хотим знать, испытывает ли машина эмоции или просто имитирует их. Но ведь мы и в собеседнике-человеке не всегда уверены. Да и в отношении самих себя далеко не всегда можем понять, по-настоящему мы испытываем эмоции или симулируем их, потому что хотим испытывать.

Не рановато ли ставить вопрос о подлинности эмоций у машины, если он не решён для человека?

Вопрос второй: заменит ли взаимодействие с роботами тепло человеческого общения?

[Модератор] Взаимоотношения людей — тонкая материя. Влюбиться можно не потому, что человек идеален, а за его недостатки. Это не предугадать.

Нет такой формулы, которая заставит влюбиться в хулигана, это нельзя алгоритмизировать.

Или всё-таки можно? Мой второй вопрос об этом: можно ли сделать искусственный интеллект непредсказуемым и будут ли роботы привлекать нас так, как привлекают люди?

[Алексей Турчин] Я думаю, что такой ИИ сделать вполне возможно. Более ­того, чувства людей часто неточны, а машина будет быстро совершенствоваться и в итоге может оказаться человечнее, чем сам человек.

Герой ­фантастического фильма «Она» влюбился в ­операционную систему своего компьютера как раз потому, что она оказалась в большей мере женщиной, чем все настоящие.

Обратите внимание

Думаю, в реальности мы тоже будем влюбляться в искусственный интеллект — люди и сейчас ощущают зависимость от телефонов, а дальше начнут испытывать к ним эмоциональную привязанность.

[Пётр Левич] Многие эксперты опасаются войны ­людей с машинами, а мне как раз кажется, что мы не будем с ними воевать, скорее уж будем в них влюбляться.

Но важно даже не это, а сам факт, что мы будем объединяться с искусственным интеллектом. Будущее за такими цифровыми кентаврами, за симбиозом человека и машины.

Интересно, конечно, какой будет любовь в обществе, состоящем из цифровых кентавров.

В какой-то степени я уже сейчас представляю одно целое со своим телефоном. Человек с быстрым ­доступом к информации и человек без оного — это разные существа с принципиально разными способностями.

А если я буду получать всю информацию через нейроинтерфейс по мысленному запросу, если смогу мгновенно анализировать большие данные, стану ли я из-за этого машиной или останусь человеком? Мне не очень важно, как называться. Но хочется сохранить право на нерациональное решение, на ошибку, на дерзновение эксперимента.

И пока у меня остаётся это право влюбляться — в ­человека, машину или киборга, — всё хорошо. Главное, чтоб никто не мог мне дикто­вать, в кого стоит влюбляться, а в ­кого нет, — чтобы поменьше нормировали мою жизнь.

[Михаил Черномордиков] Мы будем нуждаться в живом контакте друг с другом, несмотря ни на какие технологии, — так мы устроены. Одно дело возможности, другое — как они будут реализованы. Мы могли бы здесь не собираться: технологии позволяют выходить на связь из дома.

Когда появилось радио, люди не перестали ходить на концерты; кинотеатры не убили театры; даже электронные книги пока не вытеснили бумажные. Технологии позволяют упростить, ускорить, разнообразить нашу жизнь.

Но это не значит, что мы должны полностью изменить привычки, — просто выбор стал больше.

Вопрос третий: смогут ли машины принимать решения?

[Модератор] Автомобили-роботы уже ездят по дорогам, и мы надеемся, что они способны застраховать нас от большинства аварий, ведь автопилоты не принимают неверные решения под влиянием эмоций.

Но сможем ли мы доверить им решения в экстренных ситуациях, связанных с этическими дилеммами? Как, например, поступить, если на дорогу выскочил пешеход и избежать аварии невозможно: совершить наезд, свернуть в кювет, выехать на встречную полосу?

[Пётр Левич] Давайте будем точнее в формулировках. Когда мы говорим, что автомобиль принимает решение, кого сбивать, мы выражаемся метафорически. Пока человекоподобный искусственный интеллект не изобретён, мы единственные существа на Земле, способные к целеполаганию.

И когда мы говорим, что машина приняла решение, на самом деле речь идёт о решении программиста. Это не мелочь, когда мы говорим: «робот принял решение», то подсознательно делегируем ответственность за это решение технологии. Но ни одна молекула химического оружия не убила человека по собственному желанию.

Ни один мессенджер не отправил ключи шифрования спецслужбам по собственной инициативе. Технологии — лишь трансляторы воли людей.

[Михаил Черномордиков] Согласен: создатели искусственного интеллекта отвечают за все его «решения», за все результаты. И я бы не преувеличивал вероятность того, что мы в скором времени отдадим машинам ­право принимать решения. Думаю, если это и произойдёт, то очень нескоро. Возможно, никогда.

Важно

Когда появился интернет, было непонятно, как в нём жить — в отсутствие устоявшихся правил. Но на предыдущих этапах цивилизация уже создала и законы, и каналы связи, и медиа — оставалось ими воспользоваться и адаптировать к новой реальности.

Теперь и в Сети есть цифровые права, цифровые каналы связи, цифровые медиа — есть законы и регулирование.

То же будет происходить и с искусственным интеллектом по мере того, как из непонятного и инновационного он будет превращаться в обыденный и естественный.

Источник: https://kot.sh/statya/3767/iskusstvennyy-razum-i-nastoyashchie-chuvstva

Tomorrowtoday

10 апреля 2017, понедельник

Большая часть современного искусственного интеллекта (ИИ) полагается на машинное обучение, с помощью которого машины учат самостоятельно реагировать на те или иные обстоятельства на основе изучения определенного набора данных.

Алгоритмы машинного обучения в определенном смысле предсказывают результаты на основе запрограммированных данных.

Читайте также:  Управление роботом силой мысли, ученые работают над технологией

Исследователи из OpenAI обнаружили, что система машинного обучения, которую они создали для прогнозирования личности, основываясь на отзывах с Amazon, превратилась в неконтролируемую систему, которая, возможно, сможет обучиться понимать настроение и эмоции людей.

Исследователи из OpenAI были очень удивлены тем, что функция простого предсказания положительных или отрицательных реакций пользователей на основе обзоров с Amazon привела к открытию понятия человеческого настроения.

OpenAI — это некоммерческая исследовательская компания ИИ, инвесторами которой являются Elon Musk, Peter Thiel и Sam Altman.

Нейронная сеть OpenAI смогла обучиться анализировать чувства людей, классифицируя обзоры, как положительные или отрицательные, и кроме того, смогла генерировать тексты с заданным настроением.

Искусственный интеллект от OpenAI обучали в течение месяца на основе 82 миллионов отзывов с Amazon с целью научить ИИ прогнозировать мнение человека по тексту. После обучения исследователи перевели полученные модели в классификатор настроений. Когда их ИИ начал работать, то исследователи обнаружили, что есть один «нейрон настроения», который имеет высокий предсказательный коэффициент.

Совет

Возможности анализа этого ИИ на данный момент превосходят все другие известные программы искусственные интеллекты. Искусственный интеллект от OpenAI имеет точность в 91,8% — этот показатель выше, чем был у самого лучшего ИИ до этого, который показывал результат в 90,2%.

Неконтролируемые алгоритмы обучения — это мечта исследователей и разработчиков машинного обучения. Это искусственный интеллект, который способен учиться самостоятельно, что избавляет человека от необходимости снабжать его специально подготовленными данными. Разработчики признают, что это может быть не единственная машина, способная к подобному неконтролируемому изучению:

«Мы считаем, что это явление не является специфичным только для нашей модели, а является общим свойством некоторых крупных нейронных сетей, которые обучены прогнозированию следующего шага на основе исходных данных».

Возможность обучаться самостоятельно без присмотра со стороны человека может сделать ИИ еще лучше: сократить время обучения и в то же время повысить эффективность искусственного интеллекта. Такой ИИ может оказывать квалифицированную виртуальную помощь путем анализа или даже прогнозирования потребностей пользователя и многое-многое другое.

Источник: http://tomorrowtoday.ru/news/iskusstvennyy-intellekt/iskusstvennyy-intellekt-uchitsya-ponimat-emotsii-c/

Кибернетическое сочувствие. Как роботы превосходят людей эмоциональным интеллектом

6 декабря 2016, 20:00     1428

Уже не одно десятилетие человечество мечтает о создании роботов, которые бы понимали и умели испытывать человеческие эмоции. Эта тема неоднократно обыгрывалась в многочисленных фильмах и научно-фантастических романах.

Конечно, заставить компьютер чувствовать – задача не из легких. Но это вовсе не означает, что машина не может научиться понимать и анализировать человеческие эмоции.

Как показывает практика, машины уже сейчас способны демонстрировать вполне человеческий уровень эмоционального интеллекта.

Эмоциональный интеллект без эмоций

Эмоциональный интеллект (ЭИ или EQ) – способность человека распознавать эмоции, понимать намерения, мотивацию и желания других людей.

Это может показаться парадоксальным, но именно отсутствие в компьютерах собственных эмоций может сделать их невероятно чувствительными к эмоциям органических существ. Эмоциональный интеллект роботов даже может превзойти человеческий.

Ведь люди порой плохо считывают эмоции окружающих и принимают за чистую монету даже неприкрытую ложь.

По словам профессора психологии из Университетского колледжа Лондона Томаса Чаморро-Премузика, роботам не обязательно уметь чувствовать, чтобы действовать в соответствии с эмоциональным интеллектом.

Обратите внимание

Даже в людях высокий уровень ЭИ, как правило, соседствует с низкой эмоциональностью.

Ведь высокий уровень эмоционального интеллекта позволяет человеку подавлять собственные импульсы и действовать рационально.

Современные сенсоры уже позволяют сегодня машинам замечать и интерпретировать эмоции, «написанные» на человеческом лице. Не менее успешно машины могут анализировать жесты или интонацию. Все это позволяет создавать интеллектуальные системы, прекрасно разбирающиеся в чувствах. Сферы применения такого инструмента практически безграничны.

Управление

В напряженной атмосфере Уолл-стрит биржевые маклеры ворочают миллионами долларов своих работодателей. Опасные решения, принимаемые за доли секунд, могут стоить человеку состояния или карьеры.

В подобных условиях эмоциональное состояние сотрудников может существенно повлиять на эффективность работы.

Тем не менее, по сей день во многих отраслях экономики и производства культура управления никоим образом не учитывает эмоции персонала.

Лишь недавно ведущие банки мира, такие как JPMorgan Chase и Bank of America, начли совместно с технологическими компаниями внедрять у себя системы оценки эмоционального состояния сотрудников. Хотя, на первый взгляд, это может выглядеть как следка из романа Оруэлла «1984», исследователи утверждают, что подобный контроль будет полезен как для предприятий, так и для самих работников.

Аккуратное вождение

Системы распознавания эмоций могут найти применение в беспилотных автомобилях. К примеру, если пассажир испугается какого-то маневра, автомобиль может распознать этот испуг и начать ехать более аккуратно и плавно.

Важно

На данный момент уже существует стартап BRAIQ, разрабатывающий подобную систему. Компьютер должен будет учитывать эмоциональное состояние людей в салоне и подбирать наиболее подходящий ситуации стиль езды.

Обслуживание клиентов

По-настоящему полезной система отслеживания эмоций может стать  в сфере обслуживания клиентов.

Стартап Cogito разрабатывает систему, в режиме реального времени анализирующую телефонные разговоры между клиентами компаний и сотрудниками колл-центров.

Система распознает эмоции клиента и подсказывает агенту, когда следует начать говорить сочувственнее, а когда, к примеру, уместно пошутить. Как показывает практика, эффективность таких переговоров реально повышается.

Охрана правопорядка

Правоохранительные органы всего мира все еще пользуются полиграфами — «детекторами лжи», учитывающими пульс, дыхание и прочие физиологические данные человека, отвечающего на вопросы. Но, по словам экспертов, настоящий профессионал способен обмануть такую машину.

Похоже, что очень скоро на замену полиграфу придет компьютер, безошибочно распознающий ложь по интонации, поведению и выражению лица. Такую технологию уже создал стартап Nuralogix. Система считывает мельчайшие сигналы, не улавливаемые человеческим глазом или ухом. Испытания уже показали, что умный «детектор лжи» Nuralogix намного точнее обычного полиграфа.

Войны с машинами не будет

Еще в прошлом году, рассуждая о том, чего ждать простому пользователю от искусственного интеллекта, мы предположили, что разумной машине будет очень легко влюбить в себя человека. Похоже, наше предположение оправдывается в полной мере.

Сегодня мы очень часто говорим об «искусственном интеллекте», но будем откровенны: современные компьютеры еще и близко не подобрались к обладанию полноценным разумом и самосознанием. Тем не менее, даже эти неразумные системы умеют читать людские эмоции лучше самих людей.

Совет

А теперь представьте на секунду, что ученые совершили прорыв, и на смену мертвому искусственному интеллекту пришел живой искусственный разум.

Имея доступ к инструментам чтения эмоций, такая машина сможет манипулировать буквально любым человеком на земле. Перспектива довольно пугающая, но есть в этом и плюс. Война с разумными роботами нам не грозит.

Ведь искусственному разуму с абсолютным эмоциональным интеллектом будет куда проще влюбить в себя всё человечество.  

Источник: https://igate.com.ua/news/17569-kiberneticheskoe-sochuvstvie.-kak-roboty-prevoshodyat-lyudej-ehmotsionalnym-intellektom

Об эмоциях, программах и искусственном интеллекте

Так получилось, что последний год мы занимались тем, что учили iPhone понимать эмоции.

Не распознавать мимику и жесты – это лишь одни из внешних проявлений эмоционального состояния человека, а именно понимать состояние человека по его ответам.

Программный продукт получился в большей степени навороченным и красивым психологическим тестом, чем компьютерной технологией, но заставил нашу команду (профессиональных психологов) глубоко разобраться в теме эмоций.

Если верить тому, что пишуте, любая программа, это алгоритм – то есть определенный порядок действий, обладающий причинно-следственной логикой. Если еще упростить – то это набор «если-то» и вычислительных действий между ними.

Основной порок любой программы — это принципиальное отсутствие внутри алгоритма ответа на вопрос «зачем?». Логика «если-то» — это логика «потому, что», но никак не логика «зачем». Смысл любой программы находится снаружи ее и закладывается программистом в момент создания.

Отсюда, на уровне игр разума, следует, что программа испытывает всегда одну и ту же эмоцию – эмоцию самореализации. То есть все, что надо программе – это выполнить саму себя. При этом никакое усложнение самой программы не меняет сути постулата.

Программа может вести себя по разному, она может обыграть Каспарова в шахматы или обслужить вас в МакДональдсе – но единственное, чего она при этом будет «хотеть», в чем будет смысл ее существования – это выполнить саму себя.

Обратите внимание

Если же мы посмотрим на определение эмоций – то они, как раз и определяют оценочное отношение к миру. Эмоции, как элемент мотивационно-волевой сферы человека сами в себе несут ответ на вопрос «зачем». Собственно, они и есть это самое «зачем».

Присмотритесь к деятельности людей – люди действуют, для того, чтобы чувствовать. Чувствовать радость за детей, гордость побед, гнев к врагам, интерес к работе и т.д. Не потому, что они чувствуют, а для того, чтобы чувствовать.

Рационально-логическая сфера человека построена как адаптационный механизм, помогающий больше, чаще и сильнее испытывать чувства.

Таким образом, получается, что запрограммировать эмоции – это означает запрограммировать смысл существования программы. А мы с вами уже договорились, что на уровне алгоритма, внутри него, невозможно ответить на вопрос «зачем».
Отсюда с очевидностью следует, что задача программирования эмоций не решается в принципе.

Как выглядит упрощенная модель эмоций? В целом это не сложно, достаточно иметь: 1. Субъект 2. Внешнюю среду

3. Внутренний алгоритм оценки «ценности» факторов внешней среды для субъекта

Субъект воспринимает внешнюю среду через призму ее «ценности» для него самого и модифицирует свое поведение в зависимости от результата.

Кто-то может, заявить, что например, Deep Blue (субъект) радовался усилению своей шахматной позиции и горевал, в случае если ему предстояла потеря пешки (оценка ценности). Но это не так.

Программе было совершенно все равно, выиграет он или нет, а победа или поражение не представляло для нее (программы) никакой ценности.

Критичным фактором остаются внешняя среда и субъект.

Важно

И если внешняя среда у нас пока, слава богу, присутствует, то для того, чтобы почувствовать эмоции программе для начала придется стать субъектом, то есть стать живой и обрести собственную, независимую ценность.

Порядок создания искусственного интеллекта не отличается от порядка появления обычного интеллекта. Сначала надо стать живым, затем научиться чувствовать и только после этого стать разумным.

Источник: https://www.pvsm.ru/e-motsii/10584

Ссылка на основную публикацию