Почему не стоит бояться искусственного интеллекта?

Почему не стоит бояться искусственного интеллекта

В пятницу в Стэнфорде состоялась масштабная дискуссия об искусственном интеллекте (AI) и будущем общества, в которой приняли участие бывший вице-президент Google/президент Google Китай, а сейчас инвестор в AI Кай-Фу Ли, известный экономист-исследователь цифровой экономики из Mассачусетского технологического института Эрик Бриньольфссон и профессор Стэнфорда Сьюзан Ати. Вот основные тезисы дискуссии и обсуждений в кулуарах.

Искусственный интеллект – это новая электрика, фундаментальная технология, постепенно трансформирующая большинство отраслей экономики и общества. Но как и в случае с электричеством, это не произойдет мгновенно, а растянется на десятилетия.

Если данные – это новая нефть, то Китай – новый ОПЕК. Накопление большого объема данных критично для развития AI. Блокировка китайскими властями доступа иностранных IT-компаний на их рынок и слабые законы, защищающие приватнсть пользователей, привели к тому, что китайские компании стремительно догоняют Запад и претендуют на лидерство в разработке искусственного интеллекта.

Обратите внимание

Ближайшее десятилетие будет отмечено ожесточенной борьбой между США и Китаем за титул AI-сверхдержавы. На стороне США – мощные научные центры и инновационная культура, на стороне Китая – большая государственная поддержка AI-индустрии и почти неограниченный доступ компаний даже к самым сокровенным данным.

Искусственный интеллект – это новая электрика

Различные исследования радикально по-разному оценивают количество рабочих мест, которые будут автоматизированы благодаря AI. Важно понимать, что количество рабочих мест не уменьшится – просто работа станет совершенно иной. Креатив, эмпатия, стратегия – это те главные человеческие качества, которые поколение AI точно не сможет воспроизвести.

Главный вызов AI не в том, что миллионам людей будет некем работать, а в том, что им придется в срочном порядке обучаться новым навыкам, чтобы найти приемлемую работу. Ключевая роль государства – масштабно способствовать этому, дабы не допустить социального, экономического, а затем и политического шока.

То, что 50% рабочих задач в определенной профессии будет автоматизировано, вовсе не означает, что 50% населения потеряют работу.

Это означает лишь то, что 50% людей будут работать не самостоятельно, а в тесном контакте с AI.

Главный вызов для бизнеса и государственных организаций – это не заменить ли людей на AI, а трансформировать свой производственный процесс таким образом, чтобы максимально эффективно задействовать связь человек + AI.

Европе в целом и Украины в частности уже сейчас необходимо определиться, какую роль мы планируем играть в грядущем мире AI, особенно учитывая драконовские законы ЕС относительно защиты личных данных и пока безвольный интерес Украины к теме AI.

Мы должны прекратить воспринимать AI как панацею или неотвратимую гибель человечества. Мы просто обязаны задуматься над тем, какой бы хотели видеть роль AI в будущем, и начать принимать меры, чтобы именно подобный сценарий будущего стал реальностью.

Важно

AI не является судьбой человечества – это конечно же мощный инструмент, но не более того.

Текст опубликован с разрешения автора

Оригинал

Присоединяйтесь к нашему телеграм-каналу Мнения Нового Времени

Источник: https://nv.ua/opinion/pochemu-ne-stoit-bojatsja-iskusstvennoho-intellekta-2512405.html

Угроза или возможности: стоит ли бояться искусственного интеллекта — МК

Эксперты мирового уровня обсуждают в Москве влияние новых технологий на жизнь планеты

13.12.2018 в 17:36, просмотров: 3582

Кибербезопасность, кибертерроризм, искусственный интеллект, новые технологии – эти понятия давно уже стали приметой не научной фантастики и футурологических прогнозов, а явлениями нашей современной жизни.

В четверг, 13 декабря, в Москве в Национальном исследовательском институте мировой экономики и международных отношений имени Е.М.

Примакова РАН открылась международная конференция, посвященная этим проблемам, о которых «МК» поговорил с одним из ее участников.

– Наш институт и его партнеры (центр стратегического прогнозирования Атлантического совета, центр корейско-российского сотрудничества по науке Corustec и целый ряд других организаций) уже давно обсуждают проблему, связанные с развитием новых технологий – как они влияют на экономику, международные отношения, социальную сферу, институты глобального управления, – рассказывает «МК» один из модераторов международной конференции EMERTECH 2018 «Прорывные технологии: вызовы развитию общества и глобального управления», заведующий отделом науки и инноваций ИМЭМО РАН Иван ДАНИЛИН. – Проблема в том, что мы фиксируем довольно серьезные изменения, однако те дискуссии, которые идут сейчас по этим изменениям, либо предполагают, что технологии сами по себе решат все проблемы. Либо же, наоборот, предполагают, что новые технологии создадут неразрешимые угрозы и вызовы, которые ухудшат перспективы развития мирового сообщества и социальной сферы. «Страшилками» в этом контексте являются, с одной стороны, различные формы кибертерроризма, а с другой, всеобщая безработица из-за роботов и искусственного интеллекта. К сожалению, очень не хватает глубоких экспертных, научно обоснованных дискуссий о том, что происходит и почему происходит, какие предстоят в ближайшее время изменения и как на них реагировать. Наша задача – создать платформу для таких экспертных дискуссий. Не оторванных от жизни. Не для ученых в башнях из слоновой кости. А для людей, которые способны предметно проанализировать происходящие процессы и дать определенный ответ о характере изменений, их последствиях и возможных стратегиях реагирования.

Для каждой конференции мы выбираем актуальные вопросы – и вэтом году мы обсуждаем восприятие проблем кибербезопасности в разных странах. И то, какие меры необходимы для преодоления недоверия между различными государствами в этой сфере и начала диалога для урегулирования проблем. Это тема занятости в цифровой экономики, включая опыт Китая, России, других стран…

– Можно ли привести конкретные проблемы?

– Есть несколько очень хороших примеров по Китаю, где цифровая экономика кое-где развивается даже быстрее, чем в США. Например, всемирно известная китайская торговая электронная площадка некоторое время назад пришла в сельские районы Китая и районы, где расположены малые (по китайским, естественно, меркам) города.

И это привело к феноменальному эффекту: существенно оживилась экономическая деятельность и повысить занятость в этих районах, поскольку, благодаря этой площадке, они оказались гораздо более тесно интегрированы в экономику не только Китая, но и мира.

С другой стороны, началось развитие других параллельных бизнесов, которые обслуживают те, которые включены вэту площадку. Да, там были и негативные эффекты, но в целом мы имеем живое подтверждение, что на данный момент подобные цифровые площадки не только не способствуют уничтожению занятости, а ее росту и развитию.

Совет

Более того, если мы будем рассматривать другие примеры, то увидим, что какие-то профессии отмирают, но на их месте появляются новые. И когда говорится, что цифровая экономика лишит рабочих мест большое число людей, справедливо только для конкретных видов занятости.

Надо думать не о том, как спасти извозчиков гужевого транспорта, а о том, как позволить переквалифицироваться людям из тех специальностей, которые потеряют работу, каким образом выращивать новое поколение специалистов.

Затрагиваем мы и вопросы научной дипломатии: в современном мире они приобретают особое значение.

Потому что помимо поиска совместного ответа на большие вызовы сейчас, как и во время холодной войны, это становится важным аспектом диалога.

Например, между Россией и Западом – в ситуации, когда наши отношения в традиционной политике оставляют желать лучшего. В науке, к счастью, наши отношения пока гораздо лучше, чем в международной политике.

– Одна из тем конференции посвящена роботам и искусственному интеллекту. Напрашивается позаимствованный из массовой культуры апокалиптический сюжет «восстания машин». Теоретически, сегодня это может представлять проблему?

– Никакой сценарий, конечно, исключать нельзя. Но пока искусственный интеллект это набор относительно простых инструментов, который предназначен для очень технических задач. Это нейронные алгоритмы, нейронные сети.

Скорее возникает ряд вопросов, напрямую не связанных с «восстанием машин», а с нашей способностью управлять этими «машинами». В том смысле, что наши – как государственные, так и глобальные – инструменты управления заметно устарели.

И каким образом технологические перемены повлияют на нашу способность понимать, что происходит, и управлять этими изменениями – это очень серьезный вопрос.

– Например?

– Есть пример, касающийся стратегической стабильности. Исторически в системах предупреждения о ракетном нападении реакция людей неоднократно спасала мир. Таких историй было несколько и в СССР, и в США, когда оператор проявлял известную степень выдержки и не реагировал на угрожающие сигналы систем предупреждения.

И таким образом удалось предотвратить ядерную войну. В какой-то момент все эти системы будут либо полностью автоматическими, либо автоматизированными. И мы не знаем, как искусственный интеллект поведет себя в подобной ситуации, учитывая, что он лишен эмоциональных и этических аспектов, а запрограммировать их вряд ли получится.

Обратите внимание

В некотором смысле это если и не угроза, то фактор неопределенности, с которым придется иметь дело в ближайшем будущем. Или возьмем использование искусственного интеллекта в медиа-пространстве. Уже сейчас мы видим, что медийные сообщения часто вытесняют реальность.

И искусственный интеллект, который будет использоваться для обработки всех этих данных, скорее всего, не повысит понимание управленцев о том, что происходит. А наоборот, запутает.

Потому что массивы информации огромные, алгоритмы обработки все еще несовершенные, а людям придется принимать на базе этих данных решения (в том числе и стратегические).

Даже сейчас, когда наши зарубежные контрагенты по каким-то нелепым поводам не вполне адекватно, с нашей точки зрения, реагируют на безобидные или даже конструктивные сигналы со стороны России, мы видим, насколько сложной оказывается в цифровую эпоху система международных отношений и управления вообще. Искусственный интеллект может на какой-то момент улучшить, но может и существенно осложнить подобные задачи. Это то будущее, с которым мы имеем дело уже сейчас.

Источник: https://www.mk.ru/science/2018/12/13/ugroza-ili-vozmozhnosti-stoit-li-boyatsya-iskusstvennogo-intellekta.html

Почему не стоит бояться искусственного интеллекта. Конспект лекции эксперта Сергея Маркова на фестивале «Город прав»

22 / 06 2016 19:01 Почему не стоит бояться искусственного интеллекта.

Конспект лекции эксперта Сергея Маркова на фестивале «Город прав» Воронежская область 0 +3<\p>

Сергей Марков — автор одной из сильнейших шахматных программ в России SmarThink, специалист по методам машинного обучения — на воронежском фестивале «Город прав» рассказал о том, каких успехов в области искусственного интеллекта мы уже добились и чего стоит ждать от современных технологий в будущем. «7×7» публикует конспект научно-популярной лекции.

Что такое искусственный интеллект

С понятием искусственного интеллекта, как и со многими понятиями, появившимися изначально в научной среде, произошли своеобразные трансформации тогда, когда эта тема попала в среду медийную.

И если вы сегодня спросите на улице человека о том, что же такое ИИ [искусственный интеллект], то примерно сколько людей вы увидите — столько версий вы услышите.

И версии будут зависеть от того, какой последний фильм на эту тему посмотрел человек, чем его пугали последний раз… Прежде чем говорить об ИИ, определим, что же это такое.

Если взять этот термин наиболее широко, то он определяется следующим образом. Есть какая-то интеллектуальная задача. Если мы решение этой задачи автоматизируем, то мы таким образом создаем искусственный интеллект. Но это «слабенький», прикладной интеллект. Его цель — решение какой-то одной задачи, и под это определение подходит широкий набор алгоритмов.

Читайте также:  Восстанавливать работу башен сотовой связи будут роботы

А есть такое понятие, как AGI (Artificial General Intelligence), или «сильный» ИИ. Это универсальный интеллект, предназначенный для решения очень широкого спектра интеллектуальных задач. Злая ирония заключается в том, что реально существующие виды систем в этой области — это, конечно, прикладной интеллект, а над универсальным ИИ мы пока только ведем определенные работы.

Как определить, создали ли мы систему, которая на самом деле обладает универсальным ИИ? Этим вопросом задавались и люди из компьютерных наук, в частности, Алан Тьюринг, и люди из философского лагеря, например Альфред Айер.

Процедура, которая была изобретена 1950 году, получила название теста Тьюринга. Дело в том, что Тьюринг был довольно веселый мужчина, любил хорошие компании, любил интеллектуальное времяпровождение, и вот в его годы на вечеринках была такая игра, которая называлась «игра в имитацию». В чем были ее правила? Были две комнаты, они запирались на ключ.

В одну комнату сажали девушку, в другую — парня, и участники этой игры могли просовывать под дверь записки с любыми вопросами и записями, а человек, который сидел в этой комнате, имел возможность писать ответы. Задача этой игры была угадать, где находится девушка, а где парень.

Тьюринг взял за основу этот протокол и разработал так называемый тест Тьюринга.

Тест Тьюринга

У нас есть человек-эксперт, который при помощи некого подобия той же записки, компьютерного терминала, например, общается с машиной.

Целью машины является прикинуться человеком и добиться того, чтобы в этом эксперименте эксперт не мог отличить искусственный интеллект от интеллекта естественного.

В основе этого подхода лежит то, о чем ранее говорил Айер: если нечто выглядит, как овца, блеет, как овца, скачет, как овца, и выглядит, как овца, то, наверное, перед нами овца. То есть если нечто в любом эксперименте проявляется как интеллект, то, наверное, это и есть интеллект.

Важно

Первые эксперименты, примитивные системы для «игры в имитацию» появились очень рано. В частности, в 1966 году появилась программа ELIZA. По современным понятиям, она являлась чат-ботом, то есть системой, с которой вы могли переписываться.

Создатели решили немножко пошутить: им казалось, что машине изобразить психотерапевта будет проще, чем обычного человека, ведь психотерапевт спрашивает примерно одно и то же у людей, похожим образом реагирует на то, что ему говорят, поэтому «Элиза» играла именно такую роль в этом эксперименте.

Понятное дело, что работала система очень просто: в ней был большой-большой набор правил, составленный людьми.

Она могла обнаружить какие-то ключевые слова в том тексте, который писал человек, и на их основе могла выбрать правило и трансформировать входные данные в некий ответ. Надо сказать, эта программа в некоторых ситуациях уже могла одурачить людей.

Конечно, считать, что это уже был полноценный тест Тьюринга, нельзя, но тем не менее некоторые частные успехи были достигнуты.

Ну и например, программа PARRY 1972 года. Это уже более сложная система, она играла, наоборот, пациента. «Пэрри» — от слова «параноик». «Пэрри» играл пациента, больного параноидальным синдромом, и психиатров он дурачил довольно-таки неплохо.

В 48% случаев психиатры не могли догадаться, что имеют дело с машиной. Но это тоже особый случай, ведь бред параноика может напоминать какое-то механическое поведение, поэтому рассматривать успехи этого эксперимента всерьез мы также не можем.

SHRDLU

Программа написана в 1970 году, она произвела определенный фурор в сфере ИИ. Автор ее — Терри Виноград — один из классиков так называемой школы «грязнуль». Он достаточно пренебрежительно относился к этому эксперименту…

У этой программы есть маленький мирок, в котором есть небольшой набор объектов: коробка, несколько пирамидок, несколько параллелепипедов, и, что самое интересное, программа могла общаться с человеком на естественном языке.

Вы могли программе писать какие-то суждения, давать ей какие-то команды, и происходил довольно естественный диалог по поводу того, что происходит внутри этого маленького мира. Что существует вне этой среды, система не знала.

Совет

Если посмотреть в исходник этой программы, можно увидеть, что там очень много правил. То есть Терри Виноград на самом деле экспериментировал с разными людьми на протяжении нескольких лет, смотрел, какие вещи они могут говорить, и под каждый этот вариант он написал целый набор правил.

В чем секрет? Почему SHRDLU производит на нас впечатление, несмотря на то, что это было сделано больше сорока лет назад? Потому что мир там очень простой.

50 прилагательных, существительных и глаголов — это все, что потребуется, чтобы описать, что в этом мирке происходит.

При таких условиях машина могла запомнить достаточное количество правил, чтобы производить впечатление интеллектуального поведения.

Ожидания Тьюринга

Тьюринг сказал: «Я думаю, что в 2000 году машины с объемом памяти 109 бит (около 125 МБ) будут способны обмануть человека в тесте Тьюринга в 30% случаев».

Была такая программа Eugene Goostman, она изображала из себя мальчика из Одессы. Университет Рединга проводил на протяжении двух лет подряд тесты. В 2014 году программа смогла обмануть судей в 33% случаев.

Но не все специалисты по ИИ согласны с процедурой Тьюринга. В частности, Джон Сёрл, возражая, предложил эксперимент, который он назвал «Китайская комната».
 

Китайская комната

Представьте себе, что есть такая комната, которая подключена, как терминал, к внешнему миру, имеет «вход» и «выход». А внутри человек, который не знает китайского языка, и у него есть толстый набор правил в книжке.

Что если ему пришли вот такие иероглифы, то в ответ нужно отправить вот такие, и так далее. У внешнего наблюдателя может создаться впечатление, что человек, который сидит в комнате, говорит по-китайски.

Но, говорит Сёрл, на самом деле человек не понимает китайский язык по определению.

Основные возражения, которые предъявляют другие специалисты, таковы: да, человек, сидящий в комнате, китайского не понимает, но если взять всю систему в целом, то человек, снабженный таким хитрым и большим набором правил, обладает пониманием китайского языка.

И тут встает вопрос.

Очень часто, когда сравнивают возможности машины и людей, рассматривают, как машины обыгрывают человека в шахматы, в го, то основное суждение, которое слышишь от человека, который не занимается вопросами ИИ: машина просто очень быстрая, у нее много памяти, и она давит человека грубой силой. Будет интересно сравнить эти два вычислительных устройства: мозг человека и самый мощный процессор, который мы имеем на начало 2016 года.

Brute force

Мы знаем, что нервная ткань состоит из нервных клеток (нейронов), а у нервных клеток есть отростки. Входящие отростки — дендриты, а исходящие — аксоны. И вот место контакта аксона одной клетки с дендритом следующей называется синапсом.

В среднем мозге 86 млрд нейронов и 150 трлн синапсов — связей и контактов между нейронами. Каждый синапс имеет 1 000 молекулярных триггеров. Нейронные сети построены на нехитром формализме.

Обратите внимание

Таким образом, грубый эквивалент мозга в транзисторах — 150 квдрлн. А самый мощный процессор — Sparc-M7 — имеет 10 млрд транзисторов. Самая большая программируемая пользователем вентильная матрица имеет 20 млрд транзисторов.

Разница очень большая. К тому же каждый нейрон в мозге — это отдельное вычислительное устройство, «ядро». Электронная машина имеет много памяти, но даже самые мощные компьютеры имеют порядка 50 тысяч ядер.

Школа «грязнуль» и школа «чистюль»

Я чуть раньше упомянул, что Терри Виноград, который написал SHRDLU, был представителем школы «грязнуль». Когда наука об искусственном интеллекте только зарождалась, существовало два фундаментальных подхода.

«Чистюли» использовали, так сказать, математический подход. Школа эта формировалась в основном в Стенфордском, Эдинбургском университете и в Университете Карнеги — Меллон. Они фокусировались на аналитическом, логически обоснованном решении задач. Прежде чем создать систему ИИ, нужно провести множество математических исследований, потом создать схему, близкую к оптимальной, и внедрить ее.

А «грязнули» использовали любой метод, который решает задачу. И неважно, что он никак формально не обоснован. Они употребляли такой термин, как hacking, то есть задачу они «ломали». Несмотря на то, что ИИ «грязнуль» обладали гораздо меньшими техническими возможностями, чем реальный человеческий мозг, они достигали эффективного решения задачи этими ограниченными средствами.

Современные системы ИИ — это, конечно, синтез этих двух подходов. Если мы возьмем шахматные программы, то во многом они начинались, как обычные системы «грязнуль»: придумали какой-то хитрый алгоритм, и он вроде бы работает.

Внесли какое-то изменение в программу, и она стала работать лучше, но почему — мы не знаем.

Потом постепенно многие методы, которые нетерпеливые «грязнули» придумали, исследовались уже «чистюлями», и на смену примерным трюкам приходили более строго обоснованные методы, которые, конечно, были эффективнее.

Машинный перевод

Одной из первых задач по обработке естественного языка искусственным интеллектом стала задача машинного перевода. Надо сказать, что первые электромеханические системы для автоматизированного перевода появились еще в конце 20-х годов. Когда компьютерная техника стала развиваться, появились более серьезные программы.

В 60-е появились большие военные американские проекты. Они были посвящены автоматизированному переводу с русского языка на английский. Это были Mark, GAT и SYSTRAN ALPAC Report . В 70-е годы такие работы начались и в Советском Союзе.

Раймунд Пиотровский руководил группой «Статистика речи», и эти советские достижения лежат в основе программы PROMT.

Источник: https://7×7-journal.ru/item/83210

Проклятие интеллектуального превосходства, или Почему мы боимся роботов

Я вырос в Англии второй половины XX века. В то время мир был очарован концепцией интеллекта.

Об умственных способностях размышляли, их обсуждали, разрабатывали новые подходы к их измерению.

Десятки тысяч одиннадцатилетних подростков — и я тоже — проходили тест на IQ за пыльными дубовыми партами.

Результат теста определял наше будущее: продолжать ли нам образование в университете или идти получать низкоквалифицированную специальность, подходят нам технические навыки или гуманитарные и т. д.

Уже тогда самой идее о том, что интеллект можно измерить как артериальное давление или размер ноги, было сто лет в обед. Но еще старше наше представление о том, что уровень интеллекта может определить положение человека в жизни.

Это понимание красной нитью проходит через всю историю западной мысли — от философии Платона до убеждений современных политиков.

Почему интеллект политичен

Само определение «умный» или «человек с высоким уровнем интеллекта» относится вовсе не к оценке умственных способностей: гораздо больше оно говорит о возможностях, которые открыты перед индивидом. Иными словами, интеллект — понятие политическое.

На протяжении истории западный мир по уровню интеллекта определял, что человек может сделать для общества. Например, традиционно высокий уровень умственных способностей мы приписываем врачам, инженерам, первым лицам страны.

Всё бы ничего, но мы считали, что уровень интеллекта дает нам право распоряжаться судьбами других людей: мы колонизировали, обращали в рабство, лишали половых органов и уничтожали тех, кого считали менее умными и развитыми.

Наше отношение к интеллекту стало круто меняться с развитием технологий искусственного интеллекта. В последние десятилетия мы наблюдаем значительный прогресс в этой области и, кажется, стоим на пороге потрясающих научных прорывов.

Читайте также:  Основы робототехники

Судя по количеству интернет-мемов и шуток на тему искусственного интеллекта, мы одновременно восхищены происходящим и вместе с тем изрядно напуганы.

А чтобы понять, что же конкретно нас так пугает и почему мы настолько неравнодушны к теме умственных способностей, необходимо рассмотреть его с историко-политической точки зрения и проследить, как философская мысль превратила интеллект в инструмент для оправдания бесконечных завоеваний.

Платон сделал ум необходимостью власть имущего

Первым о мышлении начал рассуждать Платон. В своих трудах он приписывает особую ценность процессу размышления, утверждая, что неосмысленная жизнь не стоит и гроша.

Стоит помнить, что Платон жил в мире, где миф и мистическое сознание представляли собой естественную среду для человеческого разума.

Поэтому его заявление о том, что познать мир можно через мышление — или, как бы сейчас сказали, через применение интеллекта, — по тем временам было чрезвычайно смелым и привлекательным.

Объявив в своем труде «Государство», что только философ может управлять государством, поскольку только он может прийти к правильному пониманию вещей, Платон зародил идею интеллектуальной меритократии — мысли о том, что только умнейшие могут управлять другими людьми.

Идея по тем временам была революционная: да, Афины уже экспериментировали с демократией как формой правления.

Вот только требования к правителям были весьма расплывчаты: достаточно было быть гражданином мужского пола — об уровне умственных способностей и речи не шло.

А в остальных регионах правительственные места распределялись либо по принадлежности к элите (аристократия), либо по назначению божественным провидением (теократия), либо просто по уровню силы (тирания).

Аристотель придумал власть мужчин

Новаторская идея Платона удачно легла на плодородную почву великих умов эпохи, и его ученик Аристотель не стал исключением. Он отличался от учителя более практичным и систематичным взглядом на мир, поэтому «рассудочный элемент души» он использовал для создания концепции естественной общественной иерархии. В своей «Политике» он заявляет:

Исходя из этого, образованные мужчины вполне естественным образом доминируют над женщинами, мужчинами физического труда и рабами. Ниже в этой иерархии только животные, которые настолько лишены рассудка, что им просто необходимо, чтобы ими кто-то управлял.

Как видно, уже на рассвете западной мысли интеллект ассоциировался с образованным европейским мужчиной. Принадлежность к этому классу становится достаточным для оправдания власти над женщинами, низшими классами, варварскими цивилизациями и животными.

Мы даже не заметили, как перешли от платоновской идеи о первичности рассудочного элемента к аристотелевской концепции, предполагающей совершенно естественной власть мыслящих мужчин.

Этот поезд интеллектуальной несправедливости до сих пор работает на топливе, которым его заправили два бородача 2000 лет назад. Современный австралийский философ Вал Пламвуд утверждает, что два гиганта греческой философии, вооружившись серией сомнительных дуализмов, умудряются по сей день влиять на наши представления о разуме.

Вдумайтесь: такие категории, как «умный/глупый» или «рациональный/эмоциональный» незримо связаны с категориями вроде «мужской/женский», «цивилизованный/примитивный», «человеческий/животный». Эти дуальные категории несут оценочный характер и приводят к расширению смысла до «доминирования/подчинения» или «хозяина/раба».

За то, что мы воспринимаем отношения доминирования по праву умнейшего как совершенно естественные, нам стоит поблагодарить Аристотеля.

Декарт положил начало истреблению планеты

Своего пика западная философия достигла вместе с трудами великого дуалиста Рене Декарта.

Если Аристотель признавал за животными хоть какое-то право на минимальную и примитивную, но всё же умственную деятельность, то Декарт отказывал им в этом праве полностью. Сознание, считал он, — исключительное преимущество человека.

Философия Декарта отражала тысячелетие христианской идеологии: она отдала разум в собственность душе, божественной искре, доставшейся только тем счастливчикам, кто создан по образу и подобию божьему.

Декарт отказал природному в разумности и в какой-либо ценности и тем самым запустил колесо бездумного подавления других видов живого на планете.

Кант оправдал колониальную политику

Представление о том, что разум определяет человека, прошло и сквозь эпоху Просвещения.

Иммануил Кант — пожалуй, самый влиятельный философ морали с античных времен — считал, что моральная воля свойственна только мыслящим существам: «лицам» и «вещам в себе».

Немыслящие существа, по его мнению, имеют «только относительную ценность как средства и называются поэтому вещами». С ними можно делать то, что нам заблагорассудится.

Согласно Канту, разумное существо обладает достоинством, а неразумное, немыслящее к нему неспособно.

Конечно, цепочка его рассуждений значительно более сложна, но, в сущности, он приходит к тому же заключению, что и Аристотель: естественным образом существуют хозяева и рабы, и отличаются они уровнем интеллекта.

Такие умозаключения впоследствии превратились в краеугольный камень колониальной политики.

Логика такова: небелые люди менее умны; они не могут самостоятельно управлять собой и своими территориями. И это не только оправданный шаг, но и моральный долг любого белого человека — войти в их страну и уничтожить их культуру.

Кроме того, раз уж человека определяет его разум, а население других стран менее разумно, значит, жители этих стран — менее человечны. Им недоступны понятия морального долга и категорического императива, а значит, можно их убивать и порабощать.

Эта же логическая конструкция отлично срабатывала на женщинах, которые считались слишком легкомысленными и хрупкими, чтобы разделять привилегии человека разумного.

По свидетельствам историка Джоанны Бурк, закон Великобритании XIX века защищал права женщин меньше, чем права домашних животных. Неудивительно, что технологии измерения интеллекта развивались с большим энтузиазмом, чем борьба за права женщин.

Гальтон придумал интеллектуальную евгенику

Фрэнсис Гальтон — отец психометрики, псевдонауки по измерению разума, и двоюродный брат Чарлза Дарвина.

Вдохновленный в свое время «Происхождением видов», Гальтон создал концепцию о том, что умственные способности передаются наследственным путем и их можно улучшить с помощью селекции.

Для этого достаточно найти наиболее способных членов общества и убедить их создавать союзы друг с другом. Воспроизведение менее способных необходимо ограничить во имя процветания нашего вида.

Теоретическими выкладками Гальтон не ограничился: в последующие десятилетия более 20 000 женщин в одной только Калифорнии были стерилизованы после получения плохих результатов по тестам Гальтона.

Как мы видим, наука измерения интеллекта недалеко ушла от евгеники.

Кто против идеи интеллектуального превосходства

Итак, мы выяснили, что жесточайшие события в истории происходили под знаменами интеллектуального превосходства. Тем не менее концепция преимущественного права человека на разумность всегда имела не только апологетов, но и противников.

От Дэвида Юма до Фридриха Ницше, от Зигмунда Фрейда до плеяды постмодернистов — всегда находились мыслители, предполагающие, что мы не настолько разумны, насколько хотим в это верить, и что обладание сознанием — вовсе не высшая добродетель.

Интеллектуальные способности всё же представляют собой лишь один критерий, пусть и весьма влиятельный. Да, точкой входа в школу могут послужить тесты на определение IQ, но во многих сферах гораздо больше ценятся творческие или предпринимательские способности.

Вместо того чтобы уничтожать систему интеллектуального превосходства, стоит сфокусироваться на тех системах, которые дают дополнительные преимущества белым мужчинам хорошего происхождения.

Тот экзамен, который когда-то проходил я, был призван выявить талантливых детей из всех слоев общества.

Но ирония в том, что у талантливых детей из обеспеченных белых семей было гораздо больше возможностей для учебы и развития, и совершенно неудивительно, что они сдавали тест лучше.

Этот факт еще раз убеждал общество в превосходстве одних людей над другими, и еще раз оказывался замкнут порочный круг.

Так почему мы боимся умных роботов?

Вернемся к вопросу, заданному в начале статьи: почему же нас пугает возможность появления искусственного интеллекта? Не потому ли, что мы привыкли к тому, что более умный всегда доминирует, и мы точно не хотим оказаться по другую сторону баррикад?

Писатели и режиссеры уже давно строят догадки на тему восстания машин.

Если для нас естественна мысль о том, что сливки снимают умнейшие и что одна более развитая нация может колонизировать другую, мы вполне естественно боимся потенциального порабощения со стороны сверхумных машин. Искусственный интеллект представляет для нас экзистенциальную угрозу.

Для нас — это для белых европейских мужчин. Миллиарды других людей прошли через века подчинения, а многие продолжают сражаться с агрессорами и по сей день, поэтому для них угроза порабощения искусственным интеллектом остается фантастическим сюжетом.

Белые европейские мужчины же настолько привыкли находиться на вершине по праву принадлежности, что появление возможного соперника в нас отзывается хтоническим ужасом.

Искусственный интеллект или естественная глупость

Я не утверждаю, что страхи перед появлением сильного искусственного интеллекта беспочвенны. Существуют вполне реальные угрозы, но они не имеют ничего общего с колонизацией человеческой цивилизации роботами.

Вместо того чтобы думать, что нам делать с искусственным интеллектом, лучше думать о том, что нам делать с самими собой.

Если уж искусственный интеллект когда-нибудь сможет причинить нам вред, это почти наверняка произойдет не из-за стремления ИИ к завоеванию человечества, а по нашей собственной глупости, которая упустит ошибку в программе. Бояться стоит не искусственного интеллекта, а естественной глупости.

Платон был убежден, что философ добровольно не станет правителем, поскольку в нем отсутствует стремление управлять людьми. В восточной мысли укоренилось представление о том, что мудр тот, кто избегает власти и не склонен к тщеславию.

Если бы общество было убеждено в том, что мудрейший человек — это не тот, кто добился власти, а тот, кто стремится разрешить конфликты, — боялись бы мы умных роботов больше, чем самих себя?

Источник: https://knife.media/intellectual-tyranny/

5 мифов об Искусственном Интеллекте

Mashable рассказали, почему не стоит бояться Искусственного Интеллекта. Представляем перевод статьи об основных мифах, распространенных в обществе и касающихся непосредственно ИИ.

За последние годы тема искусственного интеллекта стала особенно обсуждаемой, хотя само понятие существует уже давно. ИИ – это наука и технология, призванная создавать машины, которые могли бы работать и действовать, как человек. Под этим, в основном, подразумевается приближенная к человеческой способность понимать, рассуждать, учиться и взаимодействовать.

Вместе с ростом интереса к ИИ появилось и множество заблуждений. Нередко встречается мнение, что искусственный интеллект представляет серьезную угрозу, вплоть до захвата мира в будущем.

Однако, на самом деле технология ИИ про то, как дополнить возможности человеческого мозга, помочь нам лучше оперировать своими данными и, в конечном счете, работать эффективнее.

Важно

Доля компаний, где человек работает совместно с ИИ, увеличивается, небольшие организации подтягиваются вслед за крупными, такими, как IBM. Меняются, оптимизируются бизнес-процессы, а вместе с ними – и общество.

Словом, беспокойство о том, что ИИ поработит человечество, – напрасно. Рассказываем, почему.

Миф 1

ИИ – просто заумное обозначение для роботов

Существует стереотип, согласно которому искусственный интеллект – красивый синоним для обозначения роботов. Тех, что, подобно человеку, двигаются, говорят и совершают различные действия. Однако это неверно. В основе ИИ и роботов лежат отличные друг от друга концепты.

Робот – это программируемая машина, автономно или полу-автономно выполняющая указанные действия, тогда как ИИ использует компьютерные алгоритмы для решения сложных задач, требующих, как правило, человеческого интеллекта. В этом смысле ИИ можно представить как мозг.

Пересекаются эти технологии в отдельных видах роботов, контролируемых с помощью ИИ.

Миф 2

ИИ – самодостаточен

Многие необоснованно полагают, что программы на искусственном интеллекте могут существовать независимо от человека. Такое заблуждение связано с усложнением разработок ученых и расширяющимся спектром задач, подвластным ИИ. Однако искусственный интеллект не может полностью обойтись без человека.

Разумеется, определенные процессы можно доверить ИИ. Например, автоматизированные и персонализированные рекомендации для пользователей музыкальных стриминговых сервисов. Но когда дело касается принятия решений, связанных, скажем, со здоровьем или медициной, большую роль играет именно человеческий фактор.

Дэвид Кенни, старший вице-президент проекта IBM Watson and Cloud, подтверждает, что ИИ бессилен там, где необходимо принять критическое решение: для этого требуются человеческие суждения, мораль и интуиция.

Миф 3

ИИ отберет у нас работу

Распространенное беспокойство касается автоматизации множества рабочих процессов, достигнутой благодаря искусственному интеллекту. Кого-то это заставляет задуматься: вдруг ИИ действительно сможет заменить человека на его рабочем месте и вызовет, тем самым, масштабную безработицу.

При этом упускается из виду, что ИИ призван работать вместе, а не вместо человека. Сейчас многие компании ищут способы наиболее эффективного разделения труда между человеком и искусственным интеллектом.

Именно поэтому основное направление сегодняшних разработок связано с выяснением границ возможностей искусственного интеллекта и разделением видов деятельности на подходящие для ИИ и те, которые лучше поручить человеку.

Читайте также:  В сингапуре создали роботизированную черепаху

Это не первый случай, когда технологии вызывают страх потери рабочих мест. Ранее в качестве такой угрозы выступали банкоматы и сканеры штрих-кодов. Однако эти новшества не только улучшили свои отрасли, но и привели к появлению ранее не существовавших должностей.

Так что не стоит переживать: там, где ИИ может закрыть одну дверь, он непременно откроет другую. В будущем люди и машины смогут продуктивно работать бок о бок, причем человеку достанутся самые интересные и творческие задачи.

Миф 4

Только крупные технологические компании прибегают к ИИ

Поскольку искусственный интеллект связан с наукой и высокими технологиями, не трудно понять, откуда взялось убеждение в том, что ИИ – это прерогатива международных корпораций с большим штатом сотрудников.

В действительности же, искусственный интеллект давно проник во многие сферы нашей повседневной жизни. Даже не осознавая того, каждый день мы сталкиваемся с продуктами ИИ.

Голосовые помощники в смартфонах, подборка музыкальных рекомендаций, основанная на прослушанных ранее композициях, постоянный мониторинг искусственным интеллектом активности ваших банковских карт и предупреждения, в случае выявления чего-то подозрительного.

Миф 5

ИИ захватит мир

Такой вещи, как порабощение человечества искусственным интеллектом, никогда не произойдет. Утверждать это можно, как минимум, на основе простых фактов: любые ИИ-программы создаются очень тщательно и изначально направлены на улучшение жизни человека. Когда мы начнем понимать, что такое ИИ и какова мотивация его создателей, мы увидим и выгоды, которые принесет его использование обществу.

Распространение ИИ приведет к появлению новых бизнес-моделей и потребует развития новых навыков у работников. Конечно, правильное управление такими технологическими системами подразумевает объединение усилий и совместную работу политиков, бизнес-деятелей и всего сообщества.

Источник: http://startupreviews.ru/zabluzhdeniya-svyazannye-s-voprosami-iskusstvennogo-intellekta/

Почему не стоит бояться искусственного интеллекта

Почему не стоит бояться искусственного интеллекта

В связи с последними новостями из области искусственного интеллекта, вполне очевидно растущее волнение: что, если мы находимся в шаге от конца света? Фильмы вроде «Терминатора» или «Матрицы» когда-то подарили нам массу страхов — и сегодня есть ряд людей, которые думают, что возможен сценарий, согласно которому компьютеры развивают сверхчеловеческий интеллект и уничтожают человеческую расу.

Среди таких людей есть и известные футурологи — Рэй Курцвейл, Робин Хэнсон и Ник Бостром. По большей части футурологи считают, что мы переоцениваем вероятность того, что компьютеры станут мыслить как разумные существа, а также опасность, которую такие машины представляют для человеческой расы. Развитие интеллектуальных машин, скорее всего, будет медленным и постепенным процессом, а компьютеры со сверхчеловеческим интеллектом, если они и будут существовать, будут давать нам ровно столько, сколько нужно. И вот почему.

1. Подлинный разум требует практического опыта

Бостром, Курцвейл и другие теоретики сверхчеловеческого интеллекта бесконечно верят в силу грубой вычислительной мощи, которая может решить любую интеллектуальную проблему. Тем не менее во многих случаях реальной проблемой является совсем не нехватка интеллектуальных лошадиных сил.

Чтобы понять, почему — представьте себе человека, который блестяще говорить по-русски, но никогда не знал китайского. Заприте его в комнате с огромными стопками книг о китайском языке, и заставьте учить его.

Независимо от того, насколько умен человек и как долго он будет учить китайский, он никогда не сможет узнать достаточно, чтобы назвать себя носителем китайского языка с рождения.

Это потому, что неотъемлемой частью изучения языка является взаимодействие с другими носителями.

В беседе с ними можно узнать местный сленг, обнаружить тонкие оттенки в значениях слов и узнать о популярных темах бесед. В принципе, все эти вещи можно записать в учебники, но на практике выходит, что нет — поскольку нюансы языка различаются от места к месту и в зависимости от времени.

Машина, которая пытается развить интеллект человеческого уровня, столкнется с гораздо более серьезными проблемами такого же плана. Компьютерная программа никогда не вырастет в человеческой семье, не влюбится, не замерзнет, не проголодается и не устанет. Короче говоря, у нее не будет такого количества контекстов, которое позволяет людям естественно общаться друг с другом.

Подобная точка зрения применима к большинству других проблем, с которыми могут столкнуться разумные машины: от бурения нефтяных скважин до решения проблем с налогами.

Большая часть информации, необходимой для решения трудных задач, не написана нигде, поэтому никакое количество теоретических рассуждений само по себе не поможет найти правильные ответы.

Единственный способ стать экспертом — делать что-то и смотреть на результаты.

Этот процесс крайне сложно автоматизировать. Это как проводить эксперименты и смотреть на их исход — крайне затратный процесс в масштабе, по времени и ресурсам. Сценарии, согласно которым компьютеры быстро обгонят людей в знаниях и возможностях, невозможны — разумные компьютеры будут работать тем же «методом тыка», что и люди.

2. Машины крайне зависимы от людей

В серии «Терминатор» военный искусственный интеллект «Скайнет» становится самоосознающим и начинает использовать военную технику для уничтожения людей.

Этот сценарий крайне недооценивает зависимость машин от людей. Современная экономика строится на миллионах различных машин, которые выполняют разнообразные специализированные функции.

В то время как все большее число этих машин переходят к автоматизации, в некоторой степени все они зависят от людей, которые обеспечивают их энергией и сырьем, чинят их, производят больше машин на замену и так далее.

Совет

Вы можете представить человечество, которое создаст гигантское количество таких роботов для удовлетворения спроса. Но нигде мы не приблизились близко к созданию роботов общего назначения.

Создание таких роботов вообще может быть невозможно в связи с проблемой бесконечного регресса: роботы, которые смогут строить, чинить и поддерживать все машины мира, сами по себе будут невероятно сложными.

Еще больше роботов понадобится для их обслуживания. Эволюция решила эту проблему, начав с клетки, относительно простого и самовоспроизводящегося строительного блока для всей жизни.

Сегодняшние роботы не имеют ничего подобного (несмотря на мечты некоторых футуристов) и вряд ли получат в ближайшее время.

Это означает, что если не произойдет существенного прорыва в робототехнике или нанотехнологиях, машины будут зависеть от людей в плане поддержки, починки и другого сервиса. Умный компьютер, который решит уничтожить человеческую расу, совершит самоубийство.

3. Человеческий мозг крайне сложно имитировать

Бостром утверждает, что если не будет другого варианта, ученые смогут произвести разум хотя бы человеческого уровня путем эмуляции человеческого мозга. Но это куда сложнее, чем кажется на первый взгляд.

Цифровые компьютеры способы подражать поведению других цифровых компьютеров, поскольку компьютеры функционируют точно определенным, детерминированным образом. Чтобы имитировать компьютер, вам просто нужно выполнить последовательность инструкций, которым следует компьютер.

Человеческий мозг совсем другой. Нейроны — сложные аналоговые системы, поведение которых нельзя смоделировать так же, как поведение цифровых микросхем. И даже небольшая неточность в имитации определенных нейтронов может привести к высшей степени нарушений работы мозга в целом.

Обратите внимание

Хорошей аналогией здесь будет имитация погоды. Физики получили отличное понимание поведения отдельных молекул воздуха. Вы можете предположить, что построить модель земной атмосферы, которая предсказывает погоду в далеком будущем, вполне возможно.

Но до сих пор симуляция погоды остается вычислительно неразрешимой проблемой. Небольшие ошибки на ранней стадии моделирования вырастают в снежный ком крупных ошибок в дальнейшем.

Несмотря на огромный рост вычислительной мощи за последние несколько десятилетий, мы можем составить лишь скромную программу для прогноза погодных паттернов будущего.

Имитация мозгас целью произвести разум может быть еще более сложной задачей, чем имитация поведения погоды. Нет никаких причин полагать, что ученые смогут сделать это в обозримом будущем.

4. Для получения власти отношения могут быть важнее интеллекта

Бостром предполагает, что разумные машины могут стать «чрезвычайно мощными, чтобы формировать будущее в соответствии со своими предпочтениями». Но если мы задумаемся о том, как работает человеческое общество, станет понятно, что интеллекта самого по себе недостаточно, чтобы получить эту самую мощь — власть.

Если бы так было, обществом управляли бы ученые, философы, шахматные гении. Тем не менее, обществом управляют такие люди, как Владимир Путин, Барак Обама, Мартин Лютер Кинг, Сталин, Рейган, Гитлер и другие.

Эти люди получили силу и власть не потому, что были необычайно умны, а потому что обладали хорошей харизмой, связями и знали, как правильно сочетать кнут и пряник, чтобы заставить других выполнять их волю.

Да, блестящие ученые сыграли важную роль в создании мощных технологий, таких как атомная бомба. И понятно, что разумный компьютер тоже сможет сделать подобное.

Но строительство новых технологий и их практическая реализация требует кучи денег и рабочей силы, которые могут позволить, как правило, государства и крупные корпорации.

Ученые, разработавшие атомную бомбу, нуждались во Франклине Рузвельте, который финансировал их работу.

То же самое относится и к мыслящим компьютерам. Любой обстоятельный план по захвату мира потребует сотрудничества тысяч людей.

Важно

Нет никаких причин полагать, что компьютер будет более эффективным, нежели смог бы ученый.

Напротив, учитывая то, как много делают старые дружеские отношения, объединения в группы и харизма, бесплотная компьютерная программа без друзей будет в крайне невыгодном положении.

То же самое относится и к сингулярности, идее Рэя Курцвейла о том, что однажды компьютеры станут настолько разумными, что люди не смогут понять, что они делают. Самые мощные идеи — это не те идеи, которые понимает только их изобретатель.

Самые мощные идеи — это те, которые широко принимаются и понимаются многими людьми, умножающими их влияние на мир. Это работает как для человеческих идей, так и для машинных.

Чтобы изменить мир, сверхразумному компьютеру нужно будет донести изменения до общественности.

5. Чем больше интеллекта в мире, тем меньше он ценится

Можно было бы ожидать, что компьютеры будут использовать свой превосходящий интеллект, чтобы стать сказочно богатыми, а затем использовать огромные богатства для подкупа людей. Но при этом игнорируется важный экономический принцип: по мере того как ресурс становится все более распространенным, его ценность падает.

Шестьдесят лет назад компьютер, который может меньше, чем современный смартфон, стоил миллионы долларов. Современные компьютеры могут гораздо больше, чем предыдущие поколения компьютеров, но ценность вычислительной мощи падает быстрее, чем совершенствуются их возможности.

Таким образом, первый сверхразумный компьютер, может, и заработает много денег, но его преимущество будет мимолетным. По мере того как компьютерные чипы продолжают падать в цене и приобретать в силе вычислений, люди будут строить больше сверхразумных компьютеров. Их уникальные возможности станут заурядными.

Совет

В мире обилия интеллекта самыми ценными ресурсами будут те, которые ограничены — земля, энергия, минералы. Поскольку эти ресурсы управляются людьми, у нас будет минимум столько же рычагов воздействия на интеллектуальные компьютеры, как и у них — на нас.

Источник

Источник: http://potustorony.ru/publ/interesnoe_o_raznom/pochemu_ne_stoit_bojatsja_iskusstvennogo_intellekta/1-1-0-419

Ссылка на основную публикацию