Искусственный интеллект может стать более умным

Совершенный искусственный интеллект – мифы и заблуждения

Термин искусственный интеллект (ИИ) появился относительно недавно, но уже сейчас невозможно представить себе мир без него. Чаще всего мы не замечаем ИИ или не задумываемся о его присутствии.

Но, если бы вдруг его не стало, наша жизнь уже была бы другой.

Области, в которых используется искусственный интеллект, постоянно расширяются, например, сначала это были программы для игры в шахматы, потом появилась роботизированная техника, сейчас алгоритмы способны самостоятельно проводить торги на биржах.

Данное технологическое направление сформировалось на основании утверждения, что человеческий интеллект может быть детально изучен и описан, а впоследствии, успешно сымитирован машиной.

Обратите внимание

За годы создания различных видов техники, обладающей ИИ, люди уверовали, что искусственный интеллект сможет решить многие проблемы лучше человека.

Но ошеломляющие успехи в области создания ИИ, вызвали так же и определённые опасения – многие учёные считают, что совершенный искусственный интеллект (СИИ), в конечном счёте, вытеснит людей, которые не обладают высокими интеллектуальными способностями.

Об этом предупреждает английский физик-теоретик Стивен Хокинг, который в своём недавнем заявлении предположил, что ИИ возможно в скором времени перестанет обращать внимание на людей, став могущественнее и умнее человека, а человек станет чем-то наподобие муравья.

Основатель компаний SpaceX и Tesla миллиардер Илон Маск неоднократно в своих выступлениях подчёркивает, что с искусственным интеллектом нужно быть крайне осторожным и считает, что ИИ может быть для человечества опаснее ядерного оружия.

Как видим, все вопросы, которые касаются развития искусственного интеллекта, невероятно сложны. К чему, в конечном счёте, приведёт развитие ИИ – к огромным преимуществам или к страшным и необратимым последствиям? Пока на этот вопрос нет ответа. Но, сейчас мы можем попытаться разобраться в заблуждениях и мифах по поводу искусственного интеллекта, которые существуют.

Невозможно создать ИИ с человекоподобным интеллектом

В мире есть много людей, скептически настроенных, которые уверены в том, что создать искусственный интеллект, равный интеллекту человека, не реально.

Но, наш мозг – это та же, в своём роде, «машина», только биологическая. Он так же, как всё на Земле подчиняется законам физики.

По мнению учёных, занимающихся исследованиями в сфере ИИ, создание искусственного интеллекта, превосходящего по «разуму» человека, это только вопрос времени. Известный американский изобретатель Рэй Курцвейл уверен, что это даже произойдёт в ближайшие несколько десятков лет.

Ии будет обладать самосознанием

Человеческий разум состоит не только из интеллекта, но еще и сознания, чувств, подсознания, воображения и т.д. Поэтому многие учёные, работающие в области создания ИИ, считают, что в конечном итоге, машины с искусственным интеллектом будут размышлять, так же, как человек. Как выразился профессор Имперского колледжа Лондона Мюррей Шанахан:

Но, существуют и критики такого утверждения. Например, соучредитель корпорации Microsoft Пол Аллен пока сомневается в этом, так как на настоящий момент учёные ещё не создали даже общий искусственный интеллект, способный выполнять любые задачи интеллектуального уровня.

Когда будет создан совершенный искусственный интеллект, обладающий не только интеллектом, как таковым, но и сознанием, мы, возможно, станем думать, что человекоподобный ИИ обладает самосознанием. Однако, сама «умная» машина будет осознавать себя, так же, как осознаёт себя любой неодушевлённый предмет.

Ии не представляет опасность для человека

Источник: https://zumim.com/sovershennyiy-iskusstvennyiy-intellekt-mifyi-i-zabluzhdeniya.html

Фабрика хитов: может ли искусственный интеллект быть гениальным

Сергей Марков

Специалист по искусственному интеллекту и машинному обучению, автор шахматной программы SmarThink, основатель портала «ХХ2 ВЕК»

Искусственный интеллект — это очень широкое определение, под которое подходит даже калькулятор. Поэтому все системы ИИ делят на две большие категории. Прикладные системы ИИ (или слабые системы ИИ) предназначены для решения какой-то одной интеллектуальной задачи.

Например, шахматная программа умеет только играть в шахматы, но не может распознавать лица. Все системы ИИ, которые человечество до сих пор создало, именно прикладные.

Но люди стремятся создать и универсальный ИИ (artificial general intelligence, AGI), и в этом направлении есть успехи.

Восстание машин: стоит ли бояться искусственного интеллекта

Созданием системы универсального ИИ в конце 1930-х годов занимался философ Альфред Айер, а в начале 1950-х — специалист по компьютерным наукам Алан Тьюринг. Он предложил процедуру для определения универсального ИИ, которую мы сегодня так и называем — тест Тьюринга.

Это игра в имитацию: машине дают задачу обмануть судей, убедить их в том, что она является человеком, а человека просят доказать, что он на самом деле человек. Если жюри из специалистов не сможет отличить машину от человека, значит, она является носителем универсального ИИ.

Первая система, которая пыталась играть в такую игру, называлась ELIZA (в честь героини пьесы Бернарда Шоу «Пигмалион», простой девушки), которая делала вид, что она врач-психиатр.

Важно

Ответом этому первому чат-боту стала программа PARRY, которая прикидывалась пациентом-параноиком.

Многие психиатры не догадывались, что имеют дело с машиной: в начале 1980-х годов людям не могло прийти в голову, что с ними может общаться не человек.

Машины-обманщики

Тьюринг считал, что к 2000 году машины с памятью в 125 мегабайт будут способны обмануть человека в 30% случаев. Оценка получилось довольно точной.

В 2012 году программа, изображавшая мальчика из Одессы Женю Густмана, смогла провести судей в тестах, ежегодно проводимых Университетом Рединга, в 29,2% случаев. В 2014 году результаты были еще лучше.

Однако не нужно их переоценивать: профессиональные эксперты быстро узнают такие системы по специфическим слабостям.

Для неподготовленного пользователя все гораздо хуже. В прошлом году было два нашумевших эксперимента. В первом чат-бот клянчил по одному или два доллара и за сутки насобирал порядка 10 000, а во втором боты выпрашивали у девушек интимные фотографии и в 3% случаев имели успех.

Быстрое чтение: философия как ключ к созданию искусственного интеллекта

Так называемый эффект ИИ заключается в том, что границы восприятия его людьми постепенно смещаются. В 1950-е годы простой человек сказал бы, что система, которая обыграет чемпиона мира по шахматам, является ИИ.

Однако люди быстро привыкают к современным технологиям и начинают относиться к ним с легким пренебрежением. Так, в 2000 году многие сказали бы, что шахматные программы — это просто алгоритмы, перебирающие варианты.

Когда машины начинают решать очередную интеллектуальную задачу лучше, чем человек, часто говорят, что машины глупые, просто очень быстрые. Сравним человеческий мозг с техникой: в среднестатистическом мозге где-то 8,6 миллиарда нейронов и 150 триллионов синапсов.

Совет

Каждый синапс — это сложное устройство, состоящее примерно из тысячи молекулярных переключателей, каждый из которых можно смоделировать, взяв один транзистор. То есть если пересчитать мозг в условных транзисторах, то получится квинтиллион транзисторов. Самые крупные интегральные схемы содержат сейчас порядка 20 миллиардов транзисторов — разница гигантская.

Но электроника быстрее: скорость, с которой транзисторы могут менять состояние, гораздо выше, чем у мозга.

Сети-шутники

Нейронные сети стали использоваться в области ИИ еще до того, как появилось само название технологии. Ничего удивительного: если у науки и технологий нет решения какой-то задачи, его заимствуют у природы. Когда Леонардо да Винчи мечтал о создании первых летательных аппаратов, он внимательно изучал полет птиц. Такое направление называется бионика.

В 1940-е годы нейрофизиологи знали, что мозг состоит из нервных клеток, у которых есть один длинный отросток (аксон) и несколько коротких отростков (дендритов). Аксоны соединяются с дендритами других нейронов (места этих контактов называются синапсами), и по этой сети распространяются электрические сигналы.

На основе этого появилась примитивная математическая модель МакКаллока — Питтса, далекая от того, что происходит в человеческом мозге, но способная решать сложные интеллектуальные задачи.

В конце 1950-х годов Фрэнк Розенблатт разработал одну из первых моделей нейросетей — персептрон — и создал на ее основе первый нейрокомпьютер «Марк-1».

Сегодня нейронные сети могут обрабатывать изображения (например, они в состоянии адекватно подписать картинку) и заниматься распознаванием речи.

Благодаря развитию нейросетевых моделей произошла революция в работе машин с естественным языком. Теперь они способны неплохо понимать смысл высказываний и писать более-менее связные тексты: есть даже нейросеть, генерирующая шутки.

Лет через десять компьютеры смогут создавать произведения искусства, в том числе в области литературы.

Кто создает шедевры?

Как научить машину писать стихи? Технически уложить текст в стихотворный размер может совершенно тривиальный алгоритм — например, «Яндекс.Автопоэт».

Исследователи начинали с простых текстов, скажем поэзии скальдов, которая состоит из коротеньких элементов, и просили машину написать стихотворение, задав ей несложный семантический вектор.

Такие эксперименты более 40 лет назад проводил лингвист Раймунд Пиотровский.

Современные проекты используют нейросетевые системы: например, одна из них сочиняет тексты песен в стиле группы «Гражданская оборона». Системы, способные генерировать довольно бессмысленные прозаические тексты в определенном стиле, существуют уже давно.

В 2008 году был скандал, связанный с программой SCIgen.

Обратите внимание

Российский ученый Михаил Гельфанд сгенерировал в ней текст якобы научной статьи «Корчеватель: алгоритм типичной унификации точек доступа и избыточности», которую в итоге напечатали в академическом журнале.

В 2013 году разработчик Дариус Казими запустил проект «Национальный месяц создания романов» (National Novel Generation Month, NaNoGenMo.

 — T&P), где в результате общения чат-ботов получился текст «Подростки прогуливаются вокруг дома».

В 2016 году разработчики из японского Университета Хакодате создали систему, которая написала роман «День, когда компьютер напишет роман». Работа вышла в финал литературного конкурса, обойдя произведения 1450 писателей.

Читайте также:  J.a.e.s.a. - новый виртуальный ассистент, который затмил предшественников

В фильме «Я, робот» герой Уилла Смита говорит:

Выходит, что такое требование даже более амбициозно, чем создание универсального ИИ. Мы хотим создать ИИ, который будет превосходить интеллект естественный.

Впрочем, сегодня машины могут не только соревноваться с человеком в написании текстов, но и выступать в качестве помощников. Например, проект «Главред» — система, предназначенная для анализа и усовершенствования текстов. Или Summly — система, которая помогает сделать краткий конспект большого текста.

Машины заменят людей?

Некоторые опасаются прогресса в области ИИ и возникновения злонамеренного сверхинтеллекта. Но это скорее чрезмерный оптимизм, похожий на энтузиазм 1960-х годов по поводу развития космических программ. Тогда всем казалось, что через 10–15 лет мы начнем заселять все планеты Солнечной системы, а к началу нулевых годов будем осваивать межзвездное пространство.

Сигнал не может распространяться быстрее, чем скорость света, а элементы вычислительной машины не могут быть меньше планковского размера. Есть и термодинамические ограничения: каждая система при потере одного бита выделяет некоторое количество теплоты, поэтому мы вынуждены ограничить скорость вычисления машины.

И даже если машина будет работать быстрее, чем человеческий мозг, это не значит, что она станет умнее нас. Представьте, что вы стали думать в 100 раз быстрее, чем все окружающие вас люди. Значит ли это, что вы сможете подойти к любому человеку на улице и убедить его отдать свой кошелек? Возможно, вы чуть лучше справитесь с задачей, но от этого сборы не увеличатся в 100 раз.

Важно

Рано или поздно мы сможем скопировать человеческий мозг или создать систему, основанную на других принципах, но тоже способную выполнять широкий спектр интеллектуальных задач. Однако системы прикладного ИИ активно используются именно из-за своей узкой специализации. Подъемный кран поднимает гораздо более тяжелые грузы, чем может поднять человек.

Но если человек начнет с подъемным краном играть в карты, не думаю, что у машины будет много шансов. В какой-то момент технологии превысят уровень сложности организации нашего собственного тела, но человечество вряд ли остановится — машины будут соединяться с людьми в одно. Это происходит уже сейчас.

Если отнять у человека телефон, он ощутит что-то похожее на ампутацию.

В рубрике «Конспект» мы публикуем сокращенные записи лекций, вебинаров, подкастов — то есть устных выступлений. Мнение спикера может не совпадать с мнением редакции. Мы запрашиваем ссылки на первоисточники, но их предоставление остается на усмотрение спикера.

Источник: https://theoryandpractice.ru/posts/17055-kak-perezhit-genialnost-kompyutera

Итог 2017 года: искусственный интеллект больше не волшебная палочка

Бизнес проявляет все больше интереса к инструментам искусственного интеллекта для решения практических задач. Однако далеко не все высокие ожидания от прорывных технологий оправдываются, и ожидания бизнеса от ИИ в 2017 году начинают меняться.

Резкий рост объемов данных и вычислительных мощностей, которые доступны человеку, заставил нас задуматься о том, как обрабатывать информацию наиболее эффективно и использовать для улучшения качества жизни человека.

На разработческий олимп взошли технологии искусственного интеллекта, призванные кардинально изменить подход к управлению данными.

Из продукта фантазии футуристов искусственный разум стал реальностью, с которой мы сталкиваемся каждый день: AI уже помогает «МегаФону» формировать тарифы, а Aviasales — давать клиентам персональные рекомендации по направлениям полетов.

AI-технологии вызвали интерес у бизнеса: банки стали использовать их в процессе андеррайтинга (оценки кредитных рисков) и обрабатывать с их помощью документы, ретейл и телеком автоматизировали коммуникации с клиентами, а промышленные предприятия оптимизировали управление производственной и логистической цепочками, используя «умные» прогнозные модели. В 2016 году в диаграмме Gartner Hype Cycle компоненты ИИ, такие как машинное обучение и автономные робототехнические системы, впервые расположились на «пике максимальных ожиданий» или близко к нему.

Однако повышенный интерес к концепции со стороны СМИ и общества привел к тому, что руководители бизнеса начали считать ИИ лекарством от всех болезней и пытаться поставить перед ним задачи, далекие от реальных возможностей машины.

Совет

Аппетиты крупного бизнеса, осуществлявшего первые внедрения, оказались несколько перегреты.

Как и все новые технологии, AI прошел через этап «пика завышенных ожиданий» — и в этом году большинство заказчиков стали трезво смотреть на его возможности.

Ии оказался не таким уж умным

С тех пор как более 60 лет назад Джон Маккарти ввел в обиход термин «искусственный интеллект», это понятие обросло заблуждениями. К примеру, считается, что AI и впрямь способен думать и рассуждать. Но это не так. Сейчас под AI понимается целый пласт математических технологий:

  • машинное обучение (machine learning) и его разновидности, такие как глубокое обучение (deep learning);
  • нейронные сети (neural networks);
  • когнитивные, или интеллектуальные, аналитические технологии (cognitive computing).

Большая часть из них представляет собой усложненные, более совершенные, чем когда-либо раньше, алгоритмы.

И хотя эти алгоритмы могут обрабатывать данные с невероятной скоростью, способны самостоятельно принимать простейшие решения, общаться с человеком face-to-face и даже, по заявлениям разработчиков, выстраивать сложные причинно-следственные связи, это все еще прорывная математика – например, эмоциональным интеллектом инструменты AI не обладают. Естественно, это накладывает на системы ряд ограничений, о которых благополучно забывают бизнес-пользователи – и позже разочаровываются в технологии.

Ии не волшебная палочка

В последние годы компании стали внедрять инструменты ИИ для повышения эффективности бизнес-процессов – и многие руководители бизнеса тут же посчитали, что искусственный интеллект сможет полностью заменить человеческий.

Уверенность в этом подстегнул тот факт, что ИИ научился выполнять, казалось бы, творческие задачи: сочинять музыку, писать стихи, рисовать и даже виртуозно блефовать. Поэтому многие компании, в частности из сферы финансов, начали активно заменять человеческие рабочие места машинными.

К примеру, в Goldman Sachs еще в начале года заменили 600 трейдеров двумя сотрудниками и автоматизированными программами алгоритмического трейдинга. Однако одновременно для обслуживания систем руководству компании пришлось нанять 200 разработчиков-программистов.

Этот пример показывает, что сегодня невозможно создать полностью автоматизированный бизнес.

Во-первых, для развития и масштабирования ИИ все еще необходим вклад человека – обслуживание и поддержку система не сможет осуществить самостоятельно.

Причем зачастую разработчики ИИ-интерфейсов значительно более квалифицированные и высокооплачиваемые сотрудники, чем рабочая сила, которую заменяют автономные ИТ-системы.

Во-вторых, алгоритм часто применим только в решении тех задач, где возможно собрать большой объем данных, — иначе машине просто не на чем будет учиться и ее выводы могут быть ошибочными. В-третьих, всегда остается важным вопрос ответственности: как бы хорошо ни работал искусственный интеллект, принимать решение должен все равно человек — особенно в стратегически важных вопросах.

Что тогда может искусственный интеллект?

Если искусственный интеллект настолько не оправдывает ожиданий бизнес-пользователей, нужен ли он компаниям? Прежде всего ИИ абсолютно необходим в решении следующих задач.

Стратегический и тактический уровень: бизнес-прогнозирование для поддержки принятия решений

Искусственный интеллект помогает компаниям анализировать данные так глубоко, как это было невозможно раньше: искать в них скрытые закономерности и корреляции, выявлять неочевидные причинно-следственные связи и строить прогнозы на основании анализа информации о тысячах похожих событий.

Обратите внимание

Бизнес увидел большие перспективы ИИ в автоматизации управления маркетингом, продажами и оттоком клиентов. Для иллюстрации: более 70% целевых маркетинговых акций, а также большинство целевых предложений сети «Перекресток» создаются при помощи технологий искусственного интеллекта.

При формировании предложения ИИ учитывает частоту покупок и структуру трат клиента, приемлемый уровень цен, любимые категории товаров.

В итоге эффективность целевого маркетинга, по утверждению ИТ-директора X5 Retail Group Фабрисио Гранжа, возрастает на 5%, а расходы на коммуникации с клиентами сокращаются на 40%.

Использование интеллектуальных алгоритмов прогнозирования является базисом для построения систем поддержки и принятия решений.

Например, для планирования продаж и оптимизации торгового ассортимента бренды пытаются предсказать спрос на каждую торговую позицию, а для эффективного управления парком техники и оборудования на производстве – прогнозируют поломки и простои.

Любое управленческое решение опирается на реальные прогнозы на основании актуального набора данных, а значит, становится более взвешенным.

Операционный уровень

  • Машинное зрение для решения бизнес-задач. На рынке сейчас растет популярность решений и инструментов для распознавания фото, видео и аудио (в том числе естественного языка), например, в рамках задачи биометрической аутентификации клиентов. Использование таких технологий повышает надежность аутентификации личности и снижает риски фрода. Сегодня машины распознают документы, проверяют их подлинность и корректность заполнения, переносят информацию с бумаги в учетные системы, в разы сокращая тем самым количество операций, в которых требуется привлечение человека. Еще один пример — распознавание лиц в ретейле, которое подсказывает менеджеру магазина, к какой категории принадлежит покупатель (новый, лояльный, постоянный и т. д.), на что обратить внимание и что лучше предложить (на основе прямой и косвенной информации о клиенте).
  • Коммуникации с клиентами. Пока для целей коммуникации компании чаще используют чат-боты, которые встраиваются в фронт-офисные интерфейсы, — сами по себе они не имеют отношения к искусственному интеллекту. Однако технологии AI уже дополняют их: сочетание с инструментами искусственного интеллекта позволяет машине по набору ключевых слов понять, куда повести диалог дальше. Другой хороший пример — из мира рекламы: уже существуют системы, которые позволяют с помощью трекинга глаз понять, сколько клиентов смотрит рекламу на экранах в магазине, и выстроить показ роликов так, чтобы «зацепить» как можно больше покупателей.
Читайте также:  Искусственный интеллект проверил доказательство теории кеплера

 

Будущее – за массовым ИИ

Источник: https://navicongroup.ru/press-room/publication/4643/

Искусственный интеллект: что ждёт людей в мире умных машин?

Профессор факультета философии Оксфордского университета Ник Бостром пытается осознать проблему, встающую перед человечеством в связи с перспективой появления сверхразума.

Евгений Касперский, генеральный директор «Лаборатории Касперского»

«Автор считает, что смертельная угроза связана с возможностью создания искусственного интеллекта, превосходящего человеческий разум. Катастрофа может разразиться как в конце XXI века, так и в ближайшие десятилетия.

Вся история человечества показывает: когда происходит столкновение представителя нашего вида, человека разумного, и любого другого, населяющего нашу планету, побеждает тот, кто умнее.

До сих пор умнейшими были мы, но у нас нет гарантий, что так будет длиться вечно.

Ник Бостром пишет, что если умные компьютерные алгоритмы научатся самостоятельно делать ещё более умные алгоритмы, а те, в свою очередь, ещё более умные, случится взрывной рост искусственного интеллекта, по сравнению с которым люди будут выглядеть приблизительно как сейчас муравьи рядом с людьми, в интеллектуальном смысле, конечно”.

Сценарии

На сегодняшний день, если брать уровень общего интеллектуального развития, машины абсолютно уступают людям. Но однажды разум машины, скорее всего, превзойдёт разум человека. Можно представить три типа сценариев взлёта интеллектуальной системы с человеческого на сверхразумный уровень — медленный, быстрый и умеренный:

1. Медленный взлёт. Будет происходить на долгих временных интервалах — от десятилетий до столетий.

Такие сценарии представляют собой отличные возможности, чтобы человечество смогло обдумать свои дальнейшие политические ходы, адаптировать их к ситуации и правильно реагировать на происходящее.

Можно будет последовательно тестировать разные подходы, обучить и подготовить новых специалистов.

Важно

Предвыборные кампании будут ориентированы на сторонников и противников происходящих процессов. Если выяснится, что нужны новые системы безопасности и общественного контроля над исследованиями в области искусственного интеллекта, будет достаточно времени, чтобы их разработать и развернуть.

2. Быстрый взлёт. Произойдет в течение очень короткого промежутка времени — минуты, часы, дни. В сценариях быстрого взлёта у людей почти не остаётся возможности реагировать на него. Никто не успеет ничего заметить, а игра уже окажется проигранной.

В любом сценарии быстрого взлёта судьба человечества в основном зависит от подготовительной работы, уже проведённой к этому моменту.

В самом медленном из быстрых сценариев со стороны людей ещё могут быть произведены какие-то элементарные телодвижения вроде потянуться открыть «ядерный чемоданчик», но тогда алгоритмы этих действий должны быть или действительно элементарны, или запланированы, запрограммированы и отрепетированы заранее.

3. Умеренный взлёт. Произойдёт в течение относительно короткого временного интервала — от нескольких месяцев до нескольких лет. В этом случае у человечества остаётся некоторая возможность отреагировать на происходящее, но не будет времени проанализировать его, протестировать разные подходы и решить сложные задачи координации действий.

На создание и развертывание новых систем, таких как политические меры, механизмы контроля, протоколы безопасности компьютерных сетей, времени тоже не останется, но возможно, получится приспособить к новым обстоятельствам уже существующие нормы.

О лошадях и людях

Универсальный искусственный интеллект мог бы стать заменой человеческому интеллекту.

Причём УИИ будет способен выполнять не только умственную работу, но и физический труд — правда, последним он займётся не сам, а заменит людей на исполнительные устройства и роботизированные механизмы.

Предположим, работники-машины, которых очень легко воспроизводить, стали и дешевле, и способнее работников-людей почти во всех профессиях. Что тогда произойдет?

Человек сохранит свою конкурентоспособность только в тех сферах деятельности, где клиенты-люди будут искать общения с себе подобными, а не машинами. Неясно только, сколько продлятся эти предпочтения. Ведь если киберальтернативы станут заметно превосходить людей на всех направлениях, возможно, ценить их начнут больше.

Сократится количество рабочих мест для людей, поскольку дешёвый машинный труд сможет заменить человеческий. В принципе, ужас перед наступлением автоматизации производства и потерей из-за этого работы не нов.

И тем не менее, хотя машины выполняют многие виды работ, они остаются дополнением к человеческому труду. Впрочем, всё, что начинается как дополнение, со временем занимает главное место. Поначалу лошадь дополняла повозки и плуги, значительно повышая их производительность.

Позднее она полностью уступила своё место автомобилям и тракторам. Не ждёт ли аналогичная судьба и наш вид?

Совет

В результате резкого падения спроса на человеческий труд зарплаты могут упасть ниже уровня прожиточного минимума. То есть потенциально работники-люди рискуют очень сильно: речь идёт о перспективах голодной смерти.

Если владельцами капитала останутся люди, совокупный доход человечества вырастет до астрономических масштабов, несмотря на тот факт, что в этом сценарии мы уже не будем получать доходы в виде зарплаты. То есть человечество в целом может сказочно разбогатеть.

Вопрос в том, как будет распределено это богатство.

О других возможных сценариях и о том, как человечеству готовиться к появлению сверхразума, читайте в книге Ника Бострома «Искусственный интеллект».

Источник: https://ShkolaZhizni.ru/world/articles/75262/

Проклятие интеллектуального превосходства, или Почему мы боимся роботов

Я вырос в Англии второй половины XX века. В то время мир был очарован концепцией интеллекта.

Об умственных способностях размышляли, их обсуждали, разрабатывали новые подходы к их измерению.

Десятки тысяч одиннадцатилетних подростков — и я тоже — проходили тест на IQ за пыльными дубовыми партами.

Результат теста определял наше будущее: продолжать ли нам образование в университете или идти получать низкоквалифицированную специальность, подходят нам технические навыки или гуманитарные и т. д.

Уже тогда самой идее о том, что интеллект можно измерить как артериальное давление или размер ноги, было сто лет в обед. Но еще старше наше представление о том, что уровень интеллекта может определить положение человека в жизни.

Это понимание красной нитью проходит через всю историю западной мысли — от философии Платона до убеждений современных политиков.

Почему интеллект политичен

Само определение «умный» или «человек с высоким уровнем интеллекта» относится вовсе не к оценке умственных способностей: гораздо больше оно говорит о возможностях, которые открыты перед индивидом. Иными словами, интеллект — понятие политическое.

На протяжении истории западный мир по уровню интеллекта определял, что человек может сделать для общества. Например, традиционно высокий уровень умственных способностей мы приписываем врачам, инженерам, первым лицам страны.

Всё бы ничего, но мы считали, что уровень интеллекта дает нам право распоряжаться судьбами других людей: мы колонизировали, обращали в рабство, лишали половых органов и уничтожали тех, кого считали менее умными и развитыми.

Наше отношение к интеллекту стало круто меняться с развитием технологий искусственного интеллекта. В последние десятилетия мы наблюдаем значительный прогресс в этой области и, кажется, стоим на пороге потрясающих научных прорывов.

Судя по количеству интернет-мемов и шуток на тему искусственного интеллекта, мы одновременно восхищены происходящим и вместе с тем изрядно напуганы.

А чтобы понять, что же конкретно нас так пугает и почему мы настолько неравнодушны к теме умственных способностей, необходимо рассмотреть его с историко-политической точки зрения и проследить, как философская мысль превратила интеллект в инструмент для оправдания бесконечных завоеваний.

Платон сделал ум необходимостью власть имущего

Первым о мышлении начал рассуждать Платон. В своих трудах он приписывает особую ценность процессу размышления, утверждая, что неосмысленная жизнь не стоит и гроша.

Стоит помнить, что Платон жил в мире, где миф и мистическое сознание представляли собой естественную среду для человеческого разума.

Поэтому его заявление о том, что познать мир можно через мышление — или, как бы сейчас сказали, через применение интеллекта, — по тем временам было чрезвычайно смелым и привлекательным.

Объявив в своем труде «Государство», что только философ может управлять государством, поскольку только он может прийти к правильному пониманию вещей, Платон зародил идею интеллектуальной меритократии — мысли о том, что только умнейшие могут управлять другими людьми.

Идея по тем временам была революционная: да, Афины уже экспериментировали с демократией как формой правления.

Вот только требования к правителям были весьма расплывчаты: достаточно было быть гражданином мужского пола — об уровне умственных способностей и речи не шло.

А в остальных регионах правительственные места распределялись либо по принадлежности к элите (аристократия), либо по назначению божественным провидением (теократия), либо просто по уровню силы (тирания).

Аристотель придумал власть мужчин

Новаторская идея Платона удачно легла на плодородную почву великих умов эпохи, и его ученик Аристотель не стал исключением. Он отличался от учителя более практичным и систематичным взглядом на мир, поэтому «рассудочный элемент души» он использовал для создания концепции естественной общественной иерархии. В своей «Политике» он заявляет:

Исходя из этого, образованные мужчины вполне естественным образом доминируют над женщинами, мужчинами физического труда и рабами. Ниже в этой иерархии только животные, которые настолько лишены рассудка, что им просто необходимо, чтобы ими кто-то управлял.

Читайте также:  Смарт-гробы могут появиться через несколько лет

Как видно, уже на рассвете западной мысли интеллект ассоциировался с образованным европейским мужчиной. Принадлежность к этому классу становится достаточным для оправдания власти над женщинами, низшими классами, варварскими цивилизациями и животными.

Мы даже не заметили, как перешли от платоновской идеи о первичности рассудочного элемента к аристотелевской концепции, предполагающей совершенно естественной власть мыслящих мужчин.

Этот поезд интеллектуальной несправедливости до сих пор работает на топливе, которым его заправили два бородача 2000 лет назад. Современный австралийский философ Вал Пламвуд утверждает, что два гиганта греческой философии, вооружившись серией сомнительных дуализмов, умудряются по сей день влиять на наши представления о разуме.

Вдумайтесь: такие категории, как «умный/глупый» или «рациональный/эмоциональный» незримо связаны с категориями вроде «мужской/женский», «цивилизованный/примитивный», «человеческий/животный». Эти дуальные категории несут оценочный характер и приводят к расширению смысла до «доминирования/подчинения» или «хозяина/раба».

За то, что мы воспринимаем отношения доминирования по праву умнейшего как совершенно естественные, нам стоит поблагодарить Аристотеля.

Декарт положил начало истреблению планеты

Своего пика западная философия достигла вместе с трудами великого дуалиста Рене Декарта.

Если Аристотель признавал за животными хоть какое-то право на минимальную и примитивную, но всё же умственную деятельность, то Декарт отказывал им в этом праве полностью. Сознание, считал он, — исключительное преимущество человека.

Философия Декарта отражала тысячелетие христианской идеологии: она отдала разум в собственность душе, божественной искре, доставшейся только тем счастливчикам, кто создан по образу и подобию божьему.

Декарт отказал природному в разумности и в какой-либо ценности и тем самым запустил колесо бездумного подавления других видов живого на планете.

Кант оправдал колониальную политику

Представление о том, что разум определяет человека, прошло и сквозь эпоху Просвещения.

Иммануил Кант — пожалуй, самый влиятельный философ морали с античных времен — считал, что моральная воля свойственна только мыслящим существам: «лицам» и «вещам в себе».

Немыслящие существа, по его мнению, имеют «только относительную ценность как средства и называются поэтому вещами». С ними можно делать то, что нам заблагорассудится.

Согласно Канту, разумное существо обладает достоинством, а неразумное, немыслящее к нему неспособно.

Конечно, цепочка его рассуждений значительно более сложна, но, в сущности, он приходит к тому же заключению, что и Аристотель: естественным образом существуют хозяева и рабы, и отличаются они уровнем интеллекта.

Такие умозаключения впоследствии превратились в краеугольный камень колониальной политики.

Логика такова: небелые люди менее умны; они не могут самостоятельно управлять собой и своими территориями. И это не только оправданный шаг, но и моральный долг любого белого человека — войти в их страну и уничтожить их культуру.

Кроме того, раз уж человека определяет его разум, а население других стран менее разумно, значит, жители этих стран — менее человечны. Им недоступны понятия морального долга и категорического императива, а значит, можно их убивать и порабощать.

Эта же логическая конструкция отлично срабатывала на женщинах, которые считались слишком легкомысленными и хрупкими, чтобы разделять привилегии человека разумного.

По свидетельствам историка Джоанны Бурк, закон Великобритании XIX века защищал права женщин меньше, чем права домашних животных. Неудивительно, что технологии измерения интеллекта развивались с большим энтузиазмом, чем борьба за права женщин.

Гальтон придумал интеллектуальную евгенику

Фрэнсис Гальтон — отец психометрики, псевдонауки по измерению разума, и двоюродный брат Чарлза Дарвина.

Вдохновленный в свое время «Происхождением видов», Гальтон создал концепцию о том, что умственные способности передаются наследственным путем и их можно улучшить с помощью селекции.

Для этого достаточно найти наиболее способных членов общества и убедить их создавать союзы друг с другом. Воспроизведение менее способных необходимо ограничить во имя процветания нашего вида.

Теоретическими выкладками Гальтон не ограничился: в последующие десятилетия более 20 000 женщин в одной только Калифорнии были стерилизованы после получения плохих результатов по тестам Гальтона.

Как мы видим, наука измерения интеллекта недалеко ушла от евгеники.

Кто против идеи интеллектуального превосходства

Итак, мы выяснили, что жесточайшие события в истории происходили под знаменами интеллектуального превосходства. Тем не менее концепция преимущественного права человека на разумность всегда имела не только апологетов, но и противников.

От Дэвида Юма до Фридриха Ницше, от Зигмунда Фрейда до плеяды постмодернистов — всегда находились мыслители, предполагающие, что мы не настолько разумны, насколько хотим в это верить, и что обладание сознанием — вовсе не высшая добродетель.

Интеллектуальные способности всё же представляют собой лишь один критерий, пусть и весьма влиятельный. Да, точкой входа в школу могут послужить тесты на определение IQ, но во многих сферах гораздо больше ценятся творческие или предпринимательские способности.

Вместо того чтобы уничтожать систему интеллектуального превосходства, стоит сфокусироваться на тех системах, которые дают дополнительные преимущества белым мужчинам хорошего происхождения.

Тот экзамен, который когда-то проходил я, был призван выявить талантливых детей из всех слоев общества.

Но ирония в том, что у талантливых детей из обеспеченных белых семей было гораздо больше возможностей для учебы и развития, и совершенно неудивительно, что они сдавали тест лучше.

Этот факт еще раз убеждал общество в превосходстве одних людей над другими, и еще раз оказывался замкнут порочный круг.

Так почему мы боимся умных роботов?

Вернемся к вопросу, заданному в начале статьи: почему же нас пугает возможность появления искусственного интеллекта? Не потому ли, что мы привыкли к тому, что более умный всегда доминирует, и мы точно не хотим оказаться по другую сторону баррикад?

Писатели и режиссеры уже давно строят догадки на тему восстания машин.

Если для нас естественна мысль о том, что сливки снимают умнейшие и что одна более развитая нация может колонизировать другую, мы вполне естественно боимся потенциального порабощения со стороны сверхумных машин. Искусственный интеллект представляет для нас экзистенциальную угрозу.

Для нас — это для белых европейских мужчин. Миллиарды других людей прошли через века подчинения, а многие продолжают сражаться с агрессорами и по сей день, поэтому для них угроза порабощения искусственным интеллектом остается фантастическим сюжетом.

Белые европейские мужчины же настолько привыкли находиться на вершине по праву принадлежности, что появление возможного соперника в нас отзывается хтоническим ужасом.

Искусственный интеллект или естественная глупость

Я не утверждаю, что страхи перед появлением сильного искусственного интеллекта беспочвенны. Существуют вполне реальные угрозы, но они не имеют ничего общего с колонизацией человеческой цивилизации роботами.

Вместо того чтобы думать, что нам делать с искусственным интеллектом, лучше думать о том, что нам делать с самими собой.

Если уж искусственный интеллект когда-нибудь сможет причинить нам вред, это почти наверняка произойдет не из-за стремления ИИ к завоеванию человечества, а по нашей собственной глупости, которая упустит ошибку в программе. Бояться стоит не искусственного интеллекта, а естественной глупости.

Платон был убежден, что философ добровольно не станет правителем, поскольку в нем отсутствует стремление управлять людьми. В восточной мысли укоренилось представление о том, что мудр тот, кто избегает власти и не склонен к тщеславию.

Если бы общество было убеждено в том, что мудрейший человек — это не тот, кто добился власти, а тот, кто стремится разрешить конфликты, — боялись бы мы умных роботов больше, чем самих себя?

Источник: https://knife.media/intellectual-tyranny/

Искусственный интеллект может стать более умным

Международная команда ученых разработала новый вид синтетического синапса для систем искусственного интеллекта с использованием модели нейронной сети. В искусственных нейронных сетях вычислительные системы призваны имитировать функцию человеческого мозга, цифровыми нейронами и синапсами, воспроизводящими функции их биологических аналогов.

В этом контексте синапсы служат шлюзом для нейронов, будь то синтетических или биологических, для передачи информации и сигналов друг другу. Они являются соединительной тканью как в биологических, так и в искусственных нейронных сетях. По оценкам, типичная человеческая нервная система содержит более 100 триллионов синапсов.

В то время как ученые добились замечательных успехов в искусственных нейронных сетях, современные системы искусственного интеллекта были ограничены определенным ограничением.

Обратите внимание

В мозге млекопитающих синапсы могут одновременно сочетаться с двумя типами сигналов — тормозящими и возбуждающими.

Но искусственные синапсы, сделанные из наноскопических электронных компонентов, могут обрабатывать только один тип сигнала за раз. В результате системы ИИ могут работать только на половину.

Американские и китайские исследователи разработали синтетический синапс, который может обрабатывать оба типа сигналов, перестраиваясь сами по себе, согласно новому исследованию, опубликованному на этой неделе в журнале ACS Nano. Финансирование проекта было предоставлено Национальным научным фондом и Исследовательским бюро армии.

«Эти новые искусственные синапсы позволяют перевести один и тот же синапс либо в возбуждающие, либо в тормозные режимы, которые ранее не были возможны в твердотельных искусственных синаптических устройствах», — сказал соавтор Хан Ван Ван из Университета Южной Калифорнии. «Эта новая функциональная гибкость важна для создания более сложной искусственной нейронной сети, которая также может динамически перенастраиваться так же, как и наш мозг».

Хан сказал, что в мозге человека возбуждающие реакции обычно делают мозг более возбужденным и настороженным, в то время как тормозные реакции делают его более спокойным и расслабленным. Далее по нервной системе возбуждающие реакции заставляют мышцы сокращаться, а тормозные — заставляют мышцы расслабляться.

Новые искусственные синапсы позволяют выполнять аналогичные функции в компьютерных системах. Там, где нервная система использует биологические синапсы для обработки химических и электрических сигналов, искусственные нейронные сети используют синтетические синапсы для обработки цифровой информации.

«В искусственной нейронной сети возбуждающие сигналы усиливают определенные связи внутри сети, а ингибиторный ответ ослабляет такие соединения», — сказал Ванг.

Этот вид биологической эмуляции имеет решающее значение для развития когнитивных способностей следующего поколения в искусственных нейронных сетях.

«Более сложные нервные системы могут быть эмулированы, что делает систему более умной и универсальной», — сказал Ванг.

«Это похоже на ускоритель, а другой — на тормоз, и оба работают вместе, чтобы обеспечить правильные функции и стабильность работы мозга — автомобиль», — сказал Ванг. «Это ближе к тому, что может сделать биологический мозг».

искусственные нейронные сети

Источник: https://neuronus.com/news-tech/1307-iskusstvennyj-intellekt-mozhet-stat-bolee-umnym.html

Ссылка на основную публикацию
Adblock
detector