Мнение экспертов: искусственный интеллект не должен чувствовать

Мнение эксперта: ИИ — страшилка 21 века

Новый план Элона Маска пересадить нас всех в самоуправляемый транспорт говорит о его твердой вере в искусственный интеллект, который гарантирует, что его «Теслы» будут умными и смогут реагировать на различные дорожные ситуации в режиме реального времени. ИИ способен на крайне интересные вещи. На прошлой неделе, например, создатели компьютерной программы AlphaGo сообщили, что их программное обеспечение научилось ориентироваться в сложной системе лондонского метрополитена как у себя дома.

И все же ИИ должен пройти долгий путь, прежде чем люди начнут переживать о переходе мира под полное управление машин, считает Орен Этциони, компьютерный ученый, который провел последние несколько десятилетий в попытке решить фундаментальные проблемы искусственного интеллекта.

В настоящее время Этциони является главным исполнительным директором Алленовского института искусственного интеллекта (AI2), организации, которую соучредитель Microsoft Пол Аллен сформировал в 2014 году.

Обратите внимание

С ее помощью он планировал сосредоточиться на потенциальных выгодах ИИ — и развеять домыслы, которые распространяет Голливуд и другие ученые, на тему угроз человеческой расе.

Собственные проекты AI2 не особо впечатляют — среди них поисковая система на основе ИИ для научных исследований Semantic Scholar, для примера — но посвящены таким решениям в области ИИ, как рассуждения, тем самым двигают всю область вперед.

Журнал Scientific American взял у Этциони интервью на недавней конференции, посвященной ИИ, в Нью-Йорке, где он выразил озабоченность по поводу того, что компании преувеличивают текущие возможности этой технологии, в частности и технику машинного обучения, известного как глубокое обучение.

Этот процесс пропускает большие наборы данных через сети, имитируя нейронные сети человеческого мозга, и позволяет компьютерам самостоятельно обучаться решению специфических проблем, например, распознаванию изображений или идентификации конкретных объектов на фотографиях.

Этциони также рассказал, почему 10-летний ребенок умнее программы AlphaGo и почему необходимо будет разработать программы искусственного интеллекта по типу «хранителей», которые не позволят другим программам ИИ стать опасными.

Наблюдается ли раскол среди исследователей ИИ на тему лучшего пути развития технологии?

Некоторые люди прыгают выше головы. Мы наблюдаем серьезный прогресс в таких областях, как распознавание речи, самоуправляемые автомобили (хоть и в слегка ограниченной форме) и, конечно, AlphaGo. Все эти технические достижения вполне реальны.

Но как мы их интерпретируем? Глубокое обучение, очевидно, ценная технология, но чтобы создать искусственный интеллект, нам нужно решить множество других проблем, включая рассуждения (чтобы машина могла понимать, а не просто рассчитывать 2 + 2 = 4) и получение фоновых знаний, на основе которых машина могла бы создавать контекст.

Понимание естественного языка — еще один пример. Даже если у нас есть AlphaGo, у нас нет программы, которая может прочитать и полностью понять абзац или даже просто предложение.

Говорят, что глубокое обучение — «лучшее, что у нас есть» в рамках ИИ. Не играет ли это против глубокого обучения?

Важно

Если у вас есть много данных, помеченных таким образом, что компьютер знает, что они означают, есть много вычислительной мощности и вы попытаетесь найти закономерности в этих данных, с глубоким обучением тягаться бесполезно.

В случае того же AlphaGo, система обрабатывает 30 миллионов позиций и обучает программу ИИ правильно двигаться в разных ситуациях. Есть и другие сценарии — например, радиологические снимки — когда снимки помечаются как с опухолью и без, а программа глубокого обучения их перебирает и выявляет опухоли.

С глубоким обучением можно делать много всяких интересных вещей, и да, это прорывная технология.

В чем же проблема?

Проблема в том, что в таких ситуациях нужно намного больше интеллекта, чем просто обученная программа. Представьте данные, которые доступны ученику в рамках стандартного теста вроде ЕГЭ или вступительных экзаменов в вуз.

Нельзя изучить 30 миллионов предыдущих экзаменов, которые отмечены как «успешные» или «безуспешные», чтобы набрать высший балл. Это более сложный, интерактивный процесс обучения. Интеллект также включает обучение из беседы или в контексте, в процессе чтения книги.

Но несмотря на все глубокое обучение, у нас нет программы, способной на подвиг 10-летнего, который может взять книгу, прочитать главу и ответить на вопросы, о чем эта книга.

Будет ли способность ИИ проходить стандартизованные тесты значительным прорывом в области технологий?

Мы фактически начали работать над этим в рамках исследовательской программы в Алленовском институте искусственного интеллекта.

В прошлом году мы объявили приз в размере 50 000 долларов для всех, кто смог бы создать программное обеспечение на основе ИИ, способное пройти стандартный научный тест восьмиклассников.

Совет

Более 780 команд со всего мира работали несколько месяцев над этим, но никто не смог набрать больше 60%. Это демонстрирует реалистичную и количественную оценку того, где мы находимся сегодня.

Как самым эффективным ИИ удается правильно отвечать на вопросы?

Все дело в языке. Наиболее успешные системы используют тщательно собранную информацию из научных текстов и других публичных ресурсов, которая затем просеивается с помощью тщательно настроенных информационно поисковых методов в поисках лучших ответов, желательно с несколькими вариантами.

Например, что из этого будет лучшим проводником электричества: пластиковая ложка, деревянная вилка или железный поднос.

Программы отлично разбираются в формулах и могут определить, что электричество и железо или проводимость и железо часто вместе встречаются во многих документах, чаще, чем пластик и проводимость, например. Поэтому иногда программы могут срезать путь и найти ответ.

Почти так же, как дети делают логичные предположения. Но поскольку ни одна система не набрала больше 60%, эти программы используют статистику, чтобы делать логичные предположения, а не размышляют над вопросом.

Команда DeepMind, создавшая AlphaGo, имеет программу ИИ, которая выходит за рамки глубокого изучения, используя внешнюю систему памяти. Какое влияние их работа может оказать на создание более человекоподобного ИИ?

DeepMind остается лидером в продвижении глубоких нейронных сетей (ИИ, предназначенных для имитации человеческого мозга) вперед.

Этот особый вклад является важным, но небольшим шагом в сторону рассуждения над тем, как факты связываются в структуру — например, на карте метро.

Существующие символические программы могут с легкостью выполнять эту задачу, но важное достижение — заслуживающее публикации в Nature — в том, что нейронные сети обучаются выполнению задач по примерам. Это большой шаг для DeepMind, но маленький для человечества.

Можно ли использовать комбинацию подходов — глубокое обучение, машинное зрение и память, например — чтобы разработать более полный ИИ?

Обратите внимание

Это весьма привлекательная идея, и на самом деле много моих исследовательских работ, когда я был профессор Вашингтонского университета, было построено на использовании Интернета как базы данных для системы ИИ.

Мы создали метод под названием open-information exctraction (извлечение открытой информации) и проиндексировали пять миллиардов веб-страничек, извлекая из них предложения и пытаясь создать на их основе карту знаний для машины.

У той машины была сверхъестественная способность всасывать веб-странички, извлекая из них предложения. Но предложения — это текст или картинки. У нашего человеческого мозга есть уникальная способность — которую мы пока еще не взломали — превращать действие в рассуждение и наоборот.

У нас есть универсальная база данных, которая формируется не на основе изображений и текста, а основе продуктов их обработки, осмысления. Такому машины пока не научились.

Вы говорите, что ИИ человеческого уровня появится не раньше чем через 25 лет. Почему именно человеческого уровня и почему именно эти временные рамки?

Истинное понимание естественного языка, широта и общность человеческого интеллекта, наша способность одновременно играть в го и переходить дорогу, а также готовить сносный омлет — это разнообразие является отличительной чертой человеческого интеллекта, а все, что мы сделали до сих пор, это разработали узконаправленные программы, которые могут делать что-то одно очень хорошо.

Чтобы прийти к таким срокам, я общался с коллегами из Ассоциации по улучшению ИИ на тему того, когда у нас появится компьютерная система, которая будет умной, как человек, в более широком смысле. Никто не осмелился назвать цифру в 10 лет, 67% заявили, что через 25 лет и даже больше, а 25% сказали «никогда». Могут ли они ошибаться? Конечно.

Но кому вы поверите: тем, кто в теме, или Голливуду?

Почему так много уважаемых ученых и инженеров делают из ИИ страшилку 21 века?

Мне трудно рассуждать о том, что движет Стивеном Хокингом или Элоном Маском, когда они так тревожно высказываются об ИИ. Можно предположить, что разговоры о черных дырах становятся скучными через некоторое время — эта тема развивается медленно.

Единственное, что я хотел бы отметить, это когда Билл Гейтс — которого я безумно уважаю — говорит о том, что ИИ может стать злом или привести к катастрофическим последствиям, он всегда добавляет «в конечном счете» или «возможно». И с этим я согласен. Говоря о будущей тысяче лет, все может случиться.

Важно

Но не думаю, что такая долгосрочная перспектива должна отвлекать нас от реальных проблем, которые мы встречаем на пути развития ИИ. Вот это «в конечном счете» или «возможно» часто теряется по дороге к головам людей.

Учитывая недостатки ИИ, стоит ли людям переживать о растущем интересе автопроизводителей к самоуправляемым автомобилям?

Я не большой поклонник самоуправляемых автомобилей, у которых нет руля или педали тормоза. С тем, что я знаю о компьютерном зрении и искусственном интеллекте, мне было бы очень некомфортно.

Но я фанат комбинированной системы — которая сможет затормозить за вас, если вы уснете за рулем, например. Человек-водитель и автоматизированная система вкупе могут быть безопасней, чем по одиночке. Это не просто.

Принять новые технологии и включить в жизнь и работу людей — не просто. Но я не верю, что отдать всю работу на откуп автомобилей — правильное решение.

Источник: https://Hi-News.ru/technology/mnenie-eksperta-ii-strashilka-21-veka.html

Опрос экспертов: когда искусственный интеллект превзойдет человеческий

Искусственный интеллект постепенно захватывает мир. Пока что речь идет лишь о слабой форме ИИ, которая, к примеру, может прекрасно играть в го или распознавать изображения, но которая неспособна на многое из того, что умеет человек.

Нейросети, когнитивные системы и прочие программные платформы уже помогают человеку управлять автомобилем, предсказывают погоду, направляют финансовые потоки, оценивают уровень информационной безопасности и ставят диагноз пациентам разного рода медицинских учреждений.

Сможет ли компьютер когда-либо превзойти человека во всем, что сейчас считается нашей прерогативой? Если да, то когда это произойдет? Согласно опросу экспертов, это произойдет обязательно, но вот когда — вопрос, ответ на который требует тщательного анализа и оценки современных тенденций.

Сделать такой прогноз попытались сотрудники Института изучения будущего человечества Оксфорда. Ученые тщательно проанализировали работы мировых специалистов по искусственному интеллекту и взяли несколько интервью у ведущих экспертов этой сферы. Предварительная оценка ответов показала интересное.

Всего опросили более полутора тысяч ученых, из них ответили 352 человека. Затем ответы изучили и вывели средний показатель. Прогнозы экспертов показывают, что ИИ станет лучше человека в переводе языков уже к 2024 году, писать школьные сочинения — к 2026 году, управлять грузовыми автомобилями — к 2027 году.

В других сферах придется тренироваться ещё долго, утверждают специалисты, искусственному интеллекту. Так, лучше человека продавать товары ИИ станет не ранее 2031 года, писать бестселлеры — не ранее 2049 года и проводить операции — не ранее 2053 года.

Читайте также:  Нанороботы. принципы работы и специфика

Возможно, эксперты ошибаются.

К примеру, ранее считалось, что ИИ выиграет у лучшего из людей в го без форы не ранее 2027 года. Система AlphaGo обыграла наиболее известных чемпионов по этой игре уже в этом десятилетии. Ли Седоль был последним человеком, который смог выиграть у компьютерной системы такого рода. Возможно, прогноз ошибочен и отстал от реальности на десять лет.

Совет

Сегодня ученые дают 50-процентную вероятность того, что через 45 лет ИИ станет лучше человека если не во всем, то в подавляющем большинстве сфер и дисциплин.

С другой стороны, эксперты могут быть и чересчур оптимистичными, поскольку нет гарантии того, что на пути ИИ не появятся какие-либо сложно преодолимые препятствия и тогда прогнозы могут вообще не осуществиться.

Интересно, что ученые из разных стран давали разные временные оценки совершенствования возможностей ИИ. Эксперты из Северной Америки считают, что компьютер превзойдет человека во всем примерно через 70 лет, в Азии надеются, что это произойдёт уже через 30 лет.

Неясно, почему идёт такое расхождение во временной оценке. Может быть, ученые из Азии знают что-то, чего не знают их североамериканские коллеги

Самые интересные ответы на поставленные вопросы дали Робин Хэнсон, Мартин Ротблатт, Рэймонд Курцвейл.

Хэнсон считает, что примерно через сто лет возможности компьютерных систем сравняются с возможностями человека или превзойдут их. Но это только в том случае, если человек может создать эмуляторы мозга человека, которые позволят машинам мыслить примерно так же, как это делает человек.

Если этого не произойдет, тогда эволюция ИИ откладывается на срок от 2 до 4 столетий. Хэнсон также говорит, что если качественный скачок в развитии ИИ все же произойдет, то это повлияет на будущее человека положительно — например, экономика будет развиваться невиданными прежде темпами.

Мартин Ротблатт утверждает, что через несколько десятков лет можно будет добиться создания цифровой копии человека, в результате чего люди перестанут умирать. Физическая оболочка будет уходить, конечно, но цифровая копия станет вечной. Рэймонд Курцвейл уверен в том, что компьютер превзойдет человека уже к 2029 году.

При этом он согласен с коллегами в том, что ИИ сможет помочь нам побороть наиболее опасные заболевания, улучшить снабжение продуктами питания, развить экономику и поправить состояние окружающей среды.

Обратите внимание

Курцвейл утверждает, что неплохо бы еще держать ИИ под контролем, чтобы компьютеры приносили пользу человеку без каких-либо побочных проблем.

Полный текст исследования: arXiv:1705.08807 [cs.AI]

Источник: https://habr.com/post/404311/

Искусственный интеллект – ошибка человечества или неизбежность?

Многие ученые в настоящее время задаются вопросом: существует ли опасность, что через некоторое время компьютерные технологии превзойдут возможности человеческого разума и искусственный интеллект сможет «захватить» мир? Стивен Хокинг считает, что недооценка угрозы со стороны искусственного интеллекта может стать самой большой ошибкой в истории человечества.

Превзойдут ли компьютеры нас по разумности? Если роботы представляют собой самообучающиеся нейронные сети и если они достигли уровня развития, позволяющего им учиться быстрее и эффективнее, чем учимся мы, то логично предположить, что со временем они превзойдут нас в рассуждениях. Физики все ещё пытаются понять фундаментальные законы, лежащие в основе искусственного интеллекта, в то время как для математиков и компьютерщиков создание думающей машины — только вопрос времени.

Через некоторое время, компьютерные технологии превзойдут возможности человеческого разума.

Компьютеры подчиняются закону Мура: их скорость и сложность удваиваются каждые 18 месяцев.

Этот рост будет продолжаться, пока компьютеры, по сложности устройства, не сравняются с человеческим мозгом. Опасность, что они смогут разработать искусственный интеллект и захватить мир, реальна.

В научно-фантастическом сериале «В поле зрения» прекрасно отражена идея превосходства искусственного интеллекта над человеческим разумом.

Важно

Главный герой сериала Гарольд Финч (актер Майкл Эмерсон) — загадочный миллиардер, разработавший для правительства компьютерную систему — машину, которая анализирует данные видеонаблюдения, телефонные переговоры, переписку, социальные сети, банковские счета и на их основе предсказывает будущие террористические акты.

Затем Финч обнаруживает, что машина также предсказывает множество обычных гражданских преступлений и их будущих жертв. Но наступает момент, когда машина превосходит человека и начинает сама управлять действиями её создателя.

В США реально существует организации под названием «Кибернетическое командование США» (USCYBERCOM), основными задачами которой являются централизованное проведение операций кибервойны, управление и защита военных компьютерных сетей США.

О работе этой организации рассказывает научно-фантастический сериал «Искусственный интеллект».

Сюжет фокусируется на подразделении, которое было создано для одного агента — Габриэля Вона (герой Джоша Холлоуэя), которому вживляют в мозг микрочип, делая его живым компьютером, способным, не покидая пространство своего сознания, пользоваться интернетом, анализировать электронные потоки информации и проникать в любую систему безопасности. Сама идея компьютерного разума в теле человека, естественно далеко не нова, однако одна из главных фишек сериала – способ, каким Габриэл ищет в своей памяти нужную информацию, выстраивая голографические модели.

Что же будет преобладать у искусственного интеллекта — человек или искусственный поток информации, сознание или чип? Что нас ждет в ближайшие десятилетия? Успешное создание искусственного интеллекта станет самым большим событием в истории человечества.

К сожалению, оно может оказаться последним, если мы не научимся избегать рисков. В будущем может случиться так, что никто и ничто не сможет остановить машины с искусственным интеллектом от самосовершенствования.

А это запустит процесс так называемой технологической сингулярности, под которой подразумевается чрезвычайно быстрое технологическое развитие.

Искусственный интеллект сможет превзойти человека и начнет управлять финансовыми рынками, научными исследованиями, людьми, разработкой оружия… Краткосрочный эффект искусственного интеллекта зависит от того, кто им управляет, а долгосрочный — от того, можно ли будет им управлять вообще.

Рэй Курцвейл считает, что к концу 2020 года ученые воссоздадут мозг в машине. Это будет первым шагом к созданию компьютеров, которые по возможностям превзойдут человеческий мозг.

Совет

По мнению Билла Джоя, к 2030 году будут созданы компьютеры, наделенные разумом, сравнимым с человеческим.

Однако, еще в 2000 году Джой выразил озабоченность стремительным и неконтролируемым развитием высоких технологий, являющимся источником опасности для всего человечества.

Ряд учёных полагают, что вид людей без генетических модификаций с учетом меняющихся условий жизни на Земле, вероятно, сможет просуществовать не более 3 — 5 тысяч лет. В космосе должны появиться новые генетические подвиды и виды человеческих ДНК, у которых будет иной набор хромосом и генов.

И эта «фантастическая» перспектива начнет воплощаться в ближайшие 100 — 250 лет. Первые генные нанотехнологии, оперирующие клетками и сложными белковыми конструкциями, учёные планируют получить уже в этом веке. Футурологи говорят, что ключ находится в расшифровке и имитации коры головного мозга, в котором около 22 млрд.

нейронов и 220 трлн. синапсов.

Достижения в сфере молекулярных нанотехнологий однажды позволят ученым заменить поврежденные клетки мозга устойчивыми наноматериалами, которые будут работать намного быстрее, чем наш собственный мозг, и увеличат нашу память в тысячу раз.

Наш искусственный мозг сможет предоставить нам беспроводную связь с компьютерами. Мы сможем получить доступ к интернету, управлять электроникой и совершать телефонные звонки, только подумав об этом. Кроме того, можно будет говорить на разных языках без необходимости их изучения.

Эксперты прогнозируют, что эти технологии могут быть доступны уже к 2050 году.

Исследователи не раз отмечали, что производительность компьютеров ничтожно мала по сравнению с возможностями человеческого мозга. И вот, наконец, ученые представили радикально новый тип компьютера, который будет работать так же, как человеческий мозг.

Команда биоинженеров из университета Стэнфорда разработала «Нейрогрид» — печатную плату, состоящую из 16 специально разработанных чипов «НейроКор». Вместе эти 16 чипов могут имитировать 1.000.000 нейронов и миллиарды синаптических связей.

Обратите внимание

Эксперты говорят, что устройство может работать в 9000 раз быстрее, чем современные компьютеры. «Нейрогрид» — устройство размером с IPad, которое может имитировать на порядок больше нейронов и синапсов, чем мозг, и при этом потребляет столько же энергии, сколько и планшетный компьютер.

Скорость и низкое энергопотребление делают «Нейрогрид» идеально подходящим для моделирования человеческого мозга.

Технологии облегчают жизнь, и это хорошо. Но что если интерфейс супер-продвинутой операционной системы заменит человека? В эпоху интернета, интерактивного телевидения, смартфонов и электронных игр, живое общение между людьми объективно минимизируется.

Люди предпочитают ограничить свои отношения с внешним миром видеокамерой или краткими сообщениями в чатах, форумах и социальных сетях. Подобное поведение является объективной реакцией на стресс, вызванный изобилием и скоростью получаемой информации.

Люди элементарно психологически устают от «скорости жизни», точнее — от беспрерывного потока воспринимаемой информации. Но мы обречены жить в новом мире информационной экономики и нанотехнологий. Это наше будущее.

Мир относительно недалекого будущего, где человек и искусственный интеллект идут по жизни рука об руку, прекрасно отражен в фильме Спайка Джонса «Она».

Сценарий фильма необычен — это виртуальность отношений человека будущего, своего рода эксперимент: может ли машина, обладающая человеческим интеллектом, чувствовать то же, что и человек, например — любить? Но компьютер способен лишь поглощать все человеческие знания о любви и действовать по принципу людского опыта. Джонс показал нам, что никакой искусственный интеллект не сможет заменить человека. Мы передаем наш интеллект машинам, но с человеческим мозгом ничто никогда не сравнится. У информатики всегда будут границы, компьютеры не станут нашими преемниками в сфере эволюции сознания.

Источник: https://zhitanska.com/content/iskusstvennyj-intellekt-oshibka-chelovechestva-ili-neizbezhnost/

Словами специалиста: вся правда об искусственном интеллекте

В этом году компания «Яндекс» запустила голосового помощника «Алиса». Новый сервис позволяет пользователю прослушивать новости и погоду, получать ответы на вопросы и просто общаться с ботом. «Алиса» иногда дерзит, порой кажется почти разумной и по-человечески саркастичной, но часто не может разобраться, о чём её спрашивают, и садится в лужу. 

Всё это породило не только волну шуток, но и новый виток дискуссий о развитии искусственного интеллекта. Новости о том, чего добились умные алгоритмы, сегодня приходят чуть ли не каждый день, а машинное обучение называют одним из самых перспективных направлений, которому можно себя посвятить.

Чтобы прояснить главные вопросы об искусственном интеллекте, мы побеседовали с Сергеем Марковым, специалистом по искусственному интеллекту и методам машинного обучения, автором одной из самых сильных отечественных шахматных программ SmarThink и создателем проекта «XXII век».

Сергей Марков,

специалист по искусственному интеллекту

Развенчивая мифы об ИИ

так что же такое «искусственный интеллект»?

Боты и люди: кто есть кто?

Понятию «искусственный интеллект» в какой-то мере не повезло. Возникшее изначально в научной среде, оно со временем проникло в фантастическую литературу, а через неё — в поп-культуру, где претерпело целый ряд изменений, обросло множеством интерпретаций и в конце-концов было совершенно мистифицировано.

Именно поэтому мы часто слышим от неспециалистов примерно такие заявления: «ИИ не существует», «ИИ невозможно создать». Непонимание сути исследований, ведущихся в сфере ИИ, легко приводит людей и к другим крайностям — например, современным системам ИИ приписывают наличие сознания, свободной воли и секретных мотивов.

Давайте попробуем отделить мух от котлет.

В науке искусственным интеллектом называют системы, предназначенные для решения интеллектуальных задач. 

Важно

В свою очередь, интеллектуальная задача — это задача, которую люди решают при помощи собственного интеллекта.

Заметим, что в данном случае специалисты сознательно уходят от определения понятия «интеллект», поскольку до появления систем ИИ единственным примером интеллекта был интеллект человеческий, и определить понятие интеллекта на основе единственного примера — то же самое, что пытаться провести прямую через единственную точку. Таких прямых может оказаться сколько угодно много, а значит, спор о понятии интеллекта можно было бы вести столетиями.

Читайте также:  30 лет тайны. миру представлен самый амбициозный искусственный интеллект!

Персональный помощник с голосом Скарлетт Йохансон из фильма «Она» достиг сингулярности и стал непостижим для своего «хозяина». Но это пока что только фантастика (или метафора того, как люди отдаляются друг от друга).

«сильный» и «слабый» искусственный интеллект

Системы ИИ делятся на две большие группы. 

Прикладной искусственный интеллект (также используют термин «слабый ИИ» или «узкий ИИ», в английской традиции — weak/applied/narrow AI) — это ИИ, предназначенный для решения какой-либо одной интеллектуальной задачи или их небольшого множества. К этому классу относятся системы для игры в шахматы, го, распознавания образов, речи, принятия решения о выдаче или невыдаче банковского кредита и так далее.

В противоположность прикладному ИИ вводят понятие универсального искусственного интеллекта (также «сильный ИИ», по-английски — strong AI/Artificial General Intelligence) — то есть, гипотетического (пока что) ИИ, способного решать любые интеллектуальные задачи.

Часто люди, не зная терминологии, отождествляют ИИ с сильным ИИ, из-за этого и возникают суждения в духе «ИИ не существует». 

Сильного ИИ действительно пока не существует. Практически все успехи, которые мы наблюдаем в последнее десятилетие в области ИИ, — это успехи прикладных систем. Эти успехи нельзя недооценивать, так как прикладные системы в ряде случаев способны решать интеллектуальные задачи лучше, чем это делает универсальный человеческий интеллект.

Я думаю, вы заметили, что понятие ИИ — довольно широкое. Скажем, устный счёт — это тоже интеллектуальная задача, и это значит, что любая счётная машина будет считаться системой ИИ.

А как насчёт счётов? Абака? Антикитерского механизма? Действительно, всё это формально хотя и примитивные, но системы ИИ.

Однако обычно, называя какую-то систему системой ИИ, мы тем самым подчёркиваем сложность решаемой этой системой задачи. 

Совершенно очевидно, что разделение интеллектуальных задач на простые и сложные — весьма искусственное, и наши представления о сложности тех или иных задач постепенно меняются.

Совет

Механическая счётная машина была чудом техники в XVII веке, но сегодня людей, с детства сталкивающихся с куда более сложными механизмами, она уже не способна впечатлить.

Когда игра машин в го или автомобильные автопилоты уже перестанут удивлять публику, наверняка найдутся люди, которые будут морщиться из-за того, что кто-то будет относить такие системы к ИИ.

Абак — старинное счётное приспособление и прапрадед современных электронных устройств.

«Роботы-отличники»: о способностях ИИ к обучению

Люди и роботы: о чём стоит задуматься уже сегодня

Ещё одно забавное заблуждение — всенепременное наличие у систем ИИ способности к самообучению.

С одной стороны, это совсем не обязательное свойство систем ИИ: есть множество удивительных систем, не способных самообучаться, но, тем не менее, решающих многие задачи лучше человеческого мозга.

С другой стороны, некоторые люди просто не знают того, что самообучение — свойство, которые многие системы ИИ обрели ещё более полусотни лет назад.

Когда в 1999 году я писал свою первую шахматную программу, самообучение уже было совершенно общим местом в этой области — программы умели запоминать опасные позиции, подстраивать под себя дебютные варианты, регулировать стиль игры, подстраиваясь под соперника. Конечно, тем программам было ещё очень далеко до Alpha Zero.

Тем не менее, даже системы, обучающиеся поведению на основе взаимодействия с другими системами в ходе экспериментов по так называемому «обучению с подкреплением», уже существовали. Однако по необъяснимой причине некоторые люди до сих пор думают, что способность к самообучению — это прерогатива человеческого интеллекта.

Машинное обучение, целая научная дисциплина, занимается процессами обучения машин решению тех или иных задач. 

Существует два больших полюса машинного обучения — обучение с учителем и обучение без учителя.

Обратите внимание

При обучении с учителем у машины уже есть некоторое количество условно правильных решений для некоторого набора случаев. Задача обучения в таком случае заключается в том, чтобы научить машину на основе имеющихся примеров принимать правильные решения в других, неизвестных ситуациях.

Другая крайность — обучение без учителя. То есть машину ставят в ситуацию, когда правильные решения неизвестны, имеются только данные в сыром, неразмеченном виде. Оказывается, и в таких случаях можно добиться некоторого успеха. Например, можно научить машину выявлению семантических отношений между словами языка на основе анализа очень большого набора текстов.

Одна из разновидностей обучения с учителем — это обучение с подкреплением (reinforcement learning).

Идея заключается в том, что система ИИ выступает в роли агента, помещённого в некоторую модельную среду, в которой она может взаимодействовать с другими агентами, например, с собственными копиями, и получать от среды некоторую обратную связь через функцию вознаграждения. Например, шахматная программа, которая играет сама с собой, постепенно подстраивая свои параметры и тем самым постепенно усиливая собственную игру. 

Обучение с подкреплением — довольно широкая область, в ней применяют множество интересных методов, начиная от эволюционных алгоритмов и заканчивая байесовской оптимизацией. Последние достижения в области ИИ для игр как раз связаны с усилением ИИ в ходе обучения с подкреплением.

Риски развития технологий: стоит ли бояться «Судного дня»?

Всем срочно паниковать: что такое моральная паника

Я не отношусь к числу ИИ-алармистов, и в этом смысле я отнюдь не одинок. Например, создатель стэнфордского курса по машинному обучению Эндрю Ын сравнивает проблему опасности ИИ с проблемой перенаселения Марса. 

Действительно, в будущем вполне вероятно, что люди колонизируют Марс.

Также вероятно, что рано или поздно на Марсе может возникнуть проблема перенаселения, но не совсем понятно, почему мы должны заниматься этой проблемой уже сейчас? Согласны с Ыном и Ян ЛеКун — создатель свёрточных нейронный сетей, и его шеф Марк Цукерберг, и Йошуа Беньо — человек, во многом благодаря исследованиям которого современные нейронные сети способны решать сложные задачи в области обработки текстов.

Чтобы изложить мои взгляды на эту проблему, потребуется, вероятно, несколько часов, поэтому остановлюсь только на основных тезисах.

1. НЕЛЬЗЯ ОГРАНИЧИВАТЬ РАЗВИТИЕ ИИ

Алармисты рассматривают риски, связанные с потенциальным разрушительным воздействием ИИ, при этом игнорируя риски, связанные с попыткой ограничить или даже остановить прогресс в этой области. Технологическое могущество человечества возрастает чрезвычайно быстрыми темпами, что приводит к эффекту, который я называю «удешевлением апокалипсиса». 

150 лет назад при всём желании человечество не могло нанести невосполнимого урона ни биосфере, ни себе как виду. Для реализации катастрофического сценария 50 лет назад необходимо было бы сконцентрировать всю технологическую мощь ядерных держав. Завтра для воплощения в жизнь глобальной техногенной катастрофы может хватить и небольшой горстки фанатиков. 

Наша технологическая мощь растёт куда быстрее, чем способность человеческого интеллекта эту мощь контролировать.

Важно

Если на смену человеческому интеллекту с его предрассудками, агрессией, заблуждениями и ограниченностью не придёт система, способная принимать более взвешенные решения (будь то ИИ или, что я считаю более вероятным, технологически улучшенный и объединённый с машинами в единую систему человеческий интеллект), нас может ждать глобальная катастрофа.

«Скайнет» или «Красная королева» — менее вероятные враги, чем человеческие разногласия и опрометчивые решения.

2. создание сверхинтеллекта принципиально невозможно

Существует идея о том, что ИИ будущего всенепременно будет сверхинтеллектом, превосходящим людей даже сильнее, чем люди превосходят муравьёв. Боюсь в данном случае разочаровать и технологических оптимистов — наша Вселенная содержит целый ряд фундаментальных физических ограничений, которые, по всей видимости, сделают создание сверхинтеллекта невозможным.

Например, скорость передачи сигнала ограничена скоростью света, а на планковских масштабах появляется неопределённость Гейзенберга. Отсюда вытекает первый фундаментальный предел — предел Бремерманна, вводящий ограничения на максимальную скорость вычислений для автономной системы заданной массы m. 

Другой предел связан с принципом Ландауэра, в соответствии с которым существует минимальное количество теплоты, выделяемое при обработке 1 бита информации. Слишком быстрые вычисления вызовут недопустимый разогрев и разрушение системы. В действительности, современные процессоры от лимита Ландауэра отделяет менее чем тысячекратное отставание.

Казалось бы, 1000 — это довольно много, однако ещё одна проблема заключается в том, что многие интеллектуальные задачи относятся к классу сложности EXPTIME. Это означает, что время, необходимое для их решения, является экспоненциальной функцией от размерности задачи. Ускорение системы в несколько раз даёт лишь константный прирост «интеллекта».

В общем, есть очень серьёзные основания полагать, что сверхинтеллектуального сильного ИИ не получится, хотя, конечно, уровень человеческого интеллекта вполне может быть превзойдён. Насколько это опасно? Скорее всего, не очень. 

Представьте себе, что вы внезапно начали думать в 100 раз быстрее остальных людей. Значит ли это, что вы легко будете способны уговорить любого прохожего отдать вам свой кошелёк?

3. мы беспокоимся совсем не о том

К сожалению, в результате спекуляций алармистов на страхах публики, воспитанной на «Терминаторе» и знаменитом HAL 9000 Кларка и Кубрика, происходит смещение акцентов в сфере безопасности ИИ в сторону анализа маловероятных, но эффектных сценариев. При этом реальные опасности ускользают из виду. 

Любая достаточно сложная технология, претендующая на то, чтобы занять важное место в нашем технологическом ландшафте, безусловно приносит с собой специфические риски. Множество жизней было погублено паровыми машинами — на производстве, на транспорте и так далее — прежде чем были выработаны эффективные правила и меры по обеспечению безопасности.

Если говорить о прогрессе в области прикладного ИИ, можно обратить внимание на связанную с ним проблему так называемого «Цифрового тайного суда».

Всё больше и больше прикладных систем ИИ принимает решения по вопросам, затрагивающим жизнь и здоровье людей.

Сюда относятся и медицинские диагностические системы, и, например, системы, принимающие в банках решения о выдаче или невыдаче кредита клиенту. 

Совет

В то же время структура используемых моделей, наборы используемых факторов и другие детали процедуры принятия решения скрыты коммерческой тайной от человека, чья судьба находится на кону.

Используемые модели могут основывать свои решения на мнениях учителей-экспертов, допускавших систематические ошибки или имевших те или иные предрассудки — расовые, гендерные.

ИИ, обученный на решениях таких экспертов, будет добросовестно воспроизводить эти предрассудки в своих решениях. В конце концов эти модели могут содержать в себе специфические дефекты. 

Этими проблемами сейчас мало кто занимается, поскольку, конечно, SkyNet, развязывающий ядерную войну, это, безусловно, куда более зрелищно.

После суток обучения в Твиттере безобидный робот Тау стал грубияном и расистом.

Нейросети как «горячий тренд»

Искусственный интеллект — от слова «искусство»

С одной стороны, нейронные сети — это одна из самых старинных моделей, применяющихся для создания систем ИИ.

Появившиеся изначально в результате применения бионического подхода, они довольно быстро убежали от своих биологических прототипов.

Исключением тут являются только импульсные нейронные сети (впрочем, пока не нашедшие широкого применения в индустрии).

Прогресс последних десятилетий связан с развитием технологий глубокого обучения — подхода, при котором нейронные сети собирают из большого количество слоёв, каждый из которых построен на основе определённых регулярных паттернов.

Это отдалённо напоминает конструктор Лего, в котором вы собираете большую нейронную сеть из множества небольших типовых кирпичиков. 

Читайте также:  Abb australia открывает исследовательский завод

Помимо создания новых нейросетевых моделей важный прогресс был также достигнут в области технологий обучения.

Сегодня нейронные сети учат уже не при помощи центральных процессоров компьютеров, а с использованием специализированных процессоров, способных быстро производить матричные и тензорные вычисления.

Обратите внимание

Наиболее распространённый на сегодняшний день вид таких устройств — видеокарты. Впрочем, активно ведётся разработка ещё более специализированных устройств для обучения нейросетей.

В целом, безусловно, нейронные сети на сегодняшний день, — это одна из основных технологий в области машинного обучения, которой мы обязаны решению многих задач, ранее решавшихся неудовлетворительно. С другой стороны, конечно, нужно понимать, что нейронные сети не являются панацеей. Для некоторых задач они — далеко не самый эффективный инструмент.

А вот с созданием психоделических картинок нейросеть справляется отлично.

Так насколько умны нынешние роботы на самом деле?

Всё познаётся в сравнении. На фоне технологий 2000-го года нынешние достижения выглядят настоящим чудом. Всегда найдутся люди, любящие побрюзжать. 5 лет назад они вовсю трындели о том, что машины никогда не выиграют у людей в го (ну или, по крайней мере, выиграют очень нескоро).

Говорили о том, что машина никогда не сможет нарисовать с нуля картину, в то время как сегодня люди практически неспособны отличать картины, созданные машинами, от картин неизвестных им художников.

В конце прошлого года машины научились синтезировать речь, практически неотличимую от человеческой, а в последние годы от музыки, создаваемой машинами, не вянут уши. 

Посмотрим, что будет завтра. Я смотрю на эти области применения ИИ с большим оптимизмом.

Перспективные направления: где начать погружение в сферу ИИ?

О чём сплетничают машины

Я бы посоветовал постараться на хорошем уровне освоить один из популярных нейросетевых фреймворков и один из популярных в области машинного обучения языков программирования (наиболее популярна на сегодняшний день связка TensorFlow + Python). 

Овладев этими инструментами и имея в идеале крепкую базу в области математической статистики и теории вероятностей, следует направить свои усилия в ту сферу, которая будет наиболее интересна лично вам.

Интерес к предмету работы — один из самых важных ваших помощников.

Потребность в специалистах по машинному обучению существует в самых разных областях — в медицине, в банковском деле, в науке, на производстве, поэтому сегодня хорошему специалисту предоставлен как никогда широкий выбор. Потенциальные преимущества любой из этих отраслей мне представляются несущественными по сравнению с тем, что работа будет приносить вам удовольствие.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl+Enter.

Источник: https://newtonew.com/tech/slovami-specialista-vsya-pravda-ob-iskusstvennom-intellekte

Почему искусственный интеллект не решит всех проблем

Искусственный интеллек (ИИ) пытается ворваться во все сферы жизни человека. Но прежде чем допускать искусственную нейросеть к новой проблеме стоит хорошо подумать.

Истерия вокруг будущего искусственного интеллекта (ИИ) захватила мир. Нет недостатка в сенсационных новостях о том, как ИИ сможет лечить болезни, ускорять инновации и улучшать творческий потенциал человека. Если читать заголовки СМИ, вы можете решить, что уже живёте в будущем, в котором ИИ проник во все аспекты общества.

И хотя нельзя отрицать, что ИИ открыл нам богатый набор многообещающих возможностей, он также привёл к появлению мышления, которое можно охарактеризовать, как веру во всемогущество ИИ. По этой философии, при наличии достаточного количества данных, алгоритмы машинного обучения смогут решить все проблемы человечества.

Но у этой идеи есть большая проблема. Она не поддерживает прогресс ИИ, а наоборот, ставит под удар ценность машинного интеллекта, пренебрегая важными принципами безопасности и настраивая людей на нереалистичные ожидания по поводу возможностей ИИ.

Вера во всемогущество ИИ

Всего за несколько лет вера во всемогущество ИИ пробралась из разговоров технологических евангелистов Кремниевой долины в умы представителей правительств и законодателей всего мира. Маятник качнулся от антиутопического представления об уничтожающем человечество ИИ к утопической вере в пришествие нашего алгоритмического спасителя.

Мы уже видим, как правительства обеспечивают поддержку национальным программам развития ИИ и соревнуются в технологической и риторической гонке вооружений, чтобы получить преимущество в бурно растущем секторе машинного обучения (МО). К примеру, британское правительство пообещало вложить £300 млн в исследования ИИ, чтобы стать лидером этой области.

Очарованный преобразовательным потенциалом ИИ, французский президент Эмманюэль Макрон решил превратить Францию в международный центр ИИ. Китайское правительство увеличивает свои возможности в области ИИ с помощью государственного плана по созданию китайской ИИ-индустрии объёмом в $150 млрд к 2030 году. Вера во всемогущество ИИ набирает обороты и не собирается сдаваться.

Нейросети – легче сказать, чем сделать

В то время как многие политические заявления расхваливают преобразующие эффекты надвигающейся «революции ИИ», они обычно недооценивают сложности внедрения передовых систем МО в реальном мире.

Одна из наиболее многообещающих разновидностей технологии ИИ – нейросети. Эта форма машинного обучения основывается на примерном подражании нейронной структуры человеческого мозга, но в гораздо меньшем масштабе. Многие продукты на основе ИИ используют нейросети, чтобы извлекать закономерности и правила из больших объёмов данных.

Но многие политики не понимают, что просто добавив к проблеме нейросеть, мы не обязательно тут же получим её решение. Так, добавив нейросеть к демократии, мы не сделаем её мгновенно менее дискриминированной, более честной или персонализованной. 

Бросая вызов бюрократии данных

Системам ИИ для работы нужно огромное количество данных, но в госсекторе обычно не бывает подходящей инфраструктуры данных для поддержки передовых систем МО. Большая часть данных хранится в офлайн-архивах. Небольшое количество существующих оцифрованных источников данных тонут в бюрократии.

Данные чаще всего размазаны по различным правительственным департаментам, каждому из которых для доступа требуется особое разрешение. Кроме всего прочего, госсектору обычно не хватает талантов, оснащённых нужными техническими способностями, чтобы в полной мере пожать плоды преимуществ ИИ.

По этим причинам связанный с ИИ сенсационализм получает множество критики. Стюарт Рассел, профессор информатики в Беркли, давно уже проповедует более реалистичный подход, концентрирующийся на простейших, повседневных применениях ИИ, вместо гипотетического захвата мира сверхразумными роботами.

Сходным образом профессор робототехники из MIT, Родни Брукс, пишет, что «почти всем инновациям в робототехнике и ИИ требуется гораздо, гораздо больше времени для реального внедрения, чем это представляют себе как специалисты в этой области, так и все остальные».

Важно

Одна из множества проблем внедрения систем МО состоит в том, что ИИ чрезвычайно подвержен атакам. Это значит, что злонамеренный ИИ может атаковать другой ИИ, чтобы заставить его выдавать неправильные предсказания или действовать определённым образом.

Многие исследователи предупреждали о том, что нельзя так сразу выкатывать ИИ, не подготовив соответствующих стандартов по безопасности и защитных механизмов. Но до сих пор тема безопасности ИИ не получает должного внимания.

Машинное обучение – это не волшебство

Если мы хотим пожать плоды ИИ и минимизировать потенциальные риски, мы должны начать размышлять о том, как мы можем осмысленно применить МО к определённым областям правительства, бизнеса и общества. А это значит, что нам необходимо начать обсуждения этики ИИ и недоверия многих людей к МО.

Самое важное, нам нужно понимать ограничения ИИ и те моменты, в которые люди всё ещё должны брать управление в свои руки. Вместо того, чтобы рисовать нереалистичную картину возможностей ИИ, необходимо сделать шаг назад и отделить реальные технологические возможности ИИ от волшебства.

Источник: https://econet.ru/articles/183832-pochemu-iskusstvennyy-intellekt-ne-reshit-vseh-problem

Почему мы должны бояться искусственного интеллекта?

Философ, сооснователь международного интернет-холдинга Social Discovery Ventures рассказывает об опасностях развития технологий и начинает дискуссию

Развитие искусственного интеллекта чревато появлением нового риска для человечества — страшнее атомной войны и экологической катастрофы.

Об этом всерьез говорили философ Ник Бостром, физик-теоретик Стивен Хокинг и магнаты из Силиконовой долины Илон Маск и Билл Гейтс. Впрочем, они пока не убедили большинство.

Ведь и среди оптимистов — не менее влиятельные люди: Марк Цукерберг, Ларри Пейдж или футуролог Рэймонд Курцвейл. Они, напротив, в искусственном интеллекте видят решение всех проблем человечества.

Мы призываем демона-аннигилятора или ангела-хранителя? Как это понять?

Искусственный интеллект может привести к появлению сверхразума — интеллекта, превосходящего когнитивные возможности человека во всех ключевых областях. Именно он кажется одним главной угрозой, а другим — главной надеждой. И он может появиться быстрее, чем мы ожидаем, так как темпы технологического прогресса ускоряются в геометрической прогрессии.

Иллюстрация: Gerd Leonhard/Flickr via CC

Несколько миллионов лет наши полуголодные предки охотились в африканских лесах, они с трудом выживали. Двести тысяч лет назад появился Homo Sapiens.

Еще через сто тысяч лет, в эпоху верхнего палеолита, у Homo Sapiens появился язык, который, в свою очередь, открыл возможности для развития мышления и передачи опыта. Примерно десять тысяч лет назад произошла неолитическая революция, переход от экономики охотников и собирателей к земледелию.

Население и его плотность увеличились на порядки. Двести лет назад произошла индустриальная революция, в ее результате развились крупные города, производство выросло на порядки.

Совет

Чуть больше 50 лет назад появился компьютер — машина, способная совершать математические и логические операции и заменять человека в отдельных областях, которые считались исключительно интеллектуальными.

Вы замечаете, как сокращается временной интервал между радикальными изменениями? Так вот, если смотреть назад на историю технического прогресса из нашего времени, то это бесконечная долина, а впереди перед нами — отвесная вертикаль. Мы стоим на «экспоненциальной кривой». Следующий рывок может произойти скоро, и, скорее всего, он будет связан с искусственным интеллектом.

Искусственный интеллект уже показывает существенные успехи. Некоторые преимущества машин над их создателями были очевидны сразу: у машин потенциально больше память и на порядки быстрее скорость вычислений. Машина может обнаружить закономерности в последовательностях символов. Это показал Алан Тьюринг, когда с помощью машины разгадал шифр «Энигмы», с которым не справился ни один человек.

Но компьютер может обрабатывать не только цифры. Он может демонстрировать интеллектуальное поведение. Например, он может обыграть человека в интеллектуальные игры. Компьютер обыграл человека сначала в шашки в 1956 г., потом в шахматы в 1997 г., и, наконец, в игру Го в 2014 г.

Еще несколько десятилетий назад победа в этих играх казалась признаком абсолютного интеллектуального превосходства. Компьютер обыгрывает людей в телевикторинах на любознательность и смекалку, пишет стихи, которые невозможно отличить от стихов, написанных людьми, водит машины лучше людей, распознает речь и изображения, распознает и классифицирует болезни.

В связи с этими достижениями можно говорить о том, что через несколько десятилетий может появиться сверхразум. Чем это чревато?

Дело в том, что вне зависимости от того, какие изначальные цели будут поставлены перед сверхразумом, у него в любом случае появится промежуточная цель — обеспечение ресурсами для реализации этой цели.

И на пути к реализации промежуточной цели сверхразум может воспринять человечество как препятствие. В худшем сценарии сверхразум станет нашим последним изобретением.

Обратите внимание

Человечество на эволюционной лестнице станет загрузочной программой для нового типа разума.

В связи с этим обычно возникают два любопытных вопроса: а действительно ли развитие искусственного интеллекта в узких областях, то развитие, которое мы наблюдаем сейчас, может привести к появлению сверхразума? И действительно ли машины могут мыслить, ведь они только оперируют нулями и единицами.

Источник: https://snob.ru/entry/159179

Ссылка на основную публикацию