Макс тегмарк продолжает финансировать исследования в области искусственного интеллекта

Механизмы контроля искусственного интеллекта

В настоящей статье изложено мнение авторов. Их высказывания могут не совпадать с официальной позицией Фонда глобальных проблем или организаций, в которых работают авторы.

До недавнего времени развитой искусственный интеллект считали научной фантастикой.

Поэтому исследователи, работающие в промышленной сфере, академических и правительственных кругах больше думали о том, чтобы просто заставить его работать.

И только в последние несколько лет, когда ИИ «поумнел» и вошел в обиход, люди стали задумываться о рисках, связанных с развитием ИИ. 

Считается, что на создание ИИ человеческого уровня понадобится еще несколько десятилетий, поэтому планированием в этой области почти никто не занимается. Однако сроки уже вызывают сомнения.

Обратите внимание

Между тем проблемы контроля очень совершенных систем ИИ или их согласования с человеческими целями чрезвычайно сложны и для их решения могут понадобиться десятилетия при должной мотивации профильных исследований.

В краткосрочной перспективе существующий ИИ и разработки ближайшего будущего связаны с менее экстремальными угрозами (например, в области вооружений, в финансовой сфере, в кибербезопасности и политических институтах, в сохранении неприкосновенности частной жизни, занятости и равенства доходов), которые актуальны уже сейчас и будут только нарастать. 

В настоящее время эти проблемы регулируются многими существующими законами и установлениями, действующими в сферах применения ИИ. Тем не менее контроль над ИИ является уникальной задачей, требующей особого рассмотрения, причем некоторые аспекты проявятся уже совсем скоро.

Одна из актуальных проблем связана с системами ИИ, направленными на убийство и разрушение, или «автономными системами летального оружия» (LAWS).

Основное назначение систем LAWS – нападение, а не оборона, и гонка вооружений в этой области может стать мощным дестабилизирующим фактором или спровоцировать нежелательные побочные эффекты, например расширение возможностей террористов и других негосударственных субъектов.

В ООН идут дебаты и официальная дискуссия относительно использования международных соглашений для ограничения развития и развертывания LAWS. За такое решение выступают несколько тысяч исследователей искусственного интеллекта. Вырисовывается еще одна важная проблема, связанная с тотальной автоматизацией и потенциальными крупномасштабными экономическими последствиями – массовая потеря рабочих мест и увеличение имущественного расслоения. 

До сих пор не созданы какие-либо структуры государственного уровня для контроля рисков, связанных с более долгосрочными проблемами высокоразвитого ИИ (хотя недавно законодатели Европейского союза попытались составить план действий для разработки политики в отношении искусственного интеллекта).

Пока непонятно, как должны выглядеть официальные структуры правительственного уровня, работающие над проблемами развитого ИИ.

Важно

Поэтому сейчас исследования и планирование в отношении риска, связанного с ИИ, сосредоточены главным образом в научных кругах, в корпоративном секторе и в некоммерческих организациях.

В последние несколько лет многие некоммерческие организации (MIRI, FHI, CSER, FLI, CFI, CHAI, OpenAI) взялись за разработку опережающих решений, с тем чтобы направить развитие ИИ в более безопасное русло.

Такие группы, как Партнерство по развитию ИИ, Институт инженеров по электротехнике и электронике (IEEE) и некоторые объединения государственного уровня также начали работать над изучением этих рисков. Эти инициативы и структуры действуют по существу на добровольной основе.

Программа Института IEEE «Этически ориентированный ИИ» и Асиломарские принципы ИИ рассматриваются как передовая практика и общепринятые нормы, но они не имеют ни конкретного юридического обоснования, ни обязательной силы. Зарождающееся Партнерство по развитию ИИ разработало принципы, формально обязательные для членов.

Однако механизм принудительной реализации этих принципов отсутствует, а ограничения, которые они накладывают на развитие ИИ, весьма слабы. Наиболее эффективный метод воздействия в современном сообществе разработчиков ИИ – социальная стигматизация, осложняющая устройство на работу для отдельных лиц и участие в общем движении для групп.

Инициативы различных групп, работающих над проблемами рисков (таких как вышеупомянутые некоммерческие организации), привели к резкому росту внимания, которое уделяется вопросам безопасности ИИ на конференциях и совещаниях разработчиков искусственного интеллекта, а также к значительному росту исследований по техническим аспектам проблемы. Наиболее эффективной краткосрочной стратегией поддержания безопасности ИИ в процессе его развития представляется продолжение и усиление поддержки организаций, занимающихся вопросами безопасности ИИ, а также создание структуры правительственного грантового финансирования исследований в этой области, которое позволит сформировать устойчивое, развитое сообщество исследователей как в академических кругах, так и в промышленном секторе. Это позволит разработать комплекс перспективных технических решений и сформировать пул квалифицированных специалистов по безопасности ИИ, к опыту которых государственные организации смогут при необходимости обратиться. 

Источник: https://globalchallenges.org/ru/our-work/risk-handbook/governance-of-artificial-intelligence

Жизнь 3.0: быть человеком в эпоху искусственного интеллекта

Повторяющееся — не материя (атомы), а информация (биты), определяющая расположение и порядок атомов.

Когда некая бактерия создает копию своей ДНК, она производит не новые атомы, а новый набор атомов, расположенных по той же схеме, что и в оригинале, копируя информацию.

Другими словами, жизнь можно считать самовоспроизводящейся системой обработки информации, в которой информация (алгоритмы) определяет не только функциональные возможности, но и схемы аппаратных средств информатизации.

Как и сама Вселенная, жизнь постепенно становилась все сложнее и интереснее. Считаю целесообразным классифицировать формы жизни по трем уровням сложности: версии 1.0, 2.0 и 3.0.

Вопрос о том, как, когда и где в нашей Вселенной впервые появилась жизнь, остается открытым, но существуют убедительные доказательства того, что на Земле она появилась около 4 миллиардов лет назад. Вскоре наша планета обзавелась арсеналом разнообразных форм жизни.

Некоторым из них повезло, и они превзошли остальных и развили определенную реакцию на окружающую среду.

Совет

В частности, они стали тем, что программисты называют «интеллектуальными агентами»: структурами, которые собирают сведения об окружающем мире с помощью рецепторов, а затем обрабатывают полученную информацию для оказания некоего обратного действия.

Данный процесс может включать в себя весьма сложную систему преобразования информации подобную той, что помогает нам вести беседу при помощи информации, полученной посредством глаз и ушей. Но сюда могут входить и достаточно простые средства информатизации.

У многих бактерий, к примеру, есть рецептор измерения концентрации сахара в окружающей их жидкости, а плавать им помогает винтообразный орган, называемый жгутиками.

Аппаратные средства информатизации, связывающие рецептор со жгутиками, могут реализовывать следующий простой, но полезный алгоритм: «Если мой рецептор выявляет меньшую концентрацию сахара в сравнении с той, что была пару секунд назад, обратное вращение жгутиков поможет сменить направление».

Вы научились говорить и приобрели бесчисленное множество других навыков. А вот бактерии обучить не так просто. Их ДНК определяет формат не только аппаратных (рецепторы сахара и жгутики) но и программных средств информатизации.

Вышеозначенный алгоритм был запрограммирован в их ДНК изначально, а плавать в направлении повышенного уровня сахара они не научатся никогда.

Разумеется, некое подобие процесса познания имело место, но уже за пределами жизненного цикла данной конкретной бактерии.

Это произошло скорее всего в ходе предшествующей эволюции данного вида бактерий в результате медленного процесса проб и ошибок, охватывающего многие поколения, на протяжении которых естественный отбор благоприятствовал тем случайным мутациям ДНК, что улучшили усвоение сахара.

Обратите внимание

Некоторые из данных мутаций оказались полезны с точки зрения совершенствования строения жгутиков и других аппаратных средств информатизации, а другие улучшили систему обработки информации, реализующую алгоритм обнаружения сахаросодержащей среды и другие программные средства информатизации.

Такие бактерии представляют собой то, что я называю жизнью версии 1.0: жизнью, при которой и аппаратные, и программные средства информатизации не были запрограммированы, а формировались с нуля. Мы же с вами, с другой стороны, являемся примерами жизни 2.

0: жизни, чьи аппаратные средства информатизации прошли процесс эволюции, а программные были в значительной степени спроектированы.

Под последними я имею в виду все алгоритмы и знания, которые мы используем для обработки информации, получаемой с помощью органов чувств и принятия решений: все, начиная со способности узнавать своих друзей и заканчивая способностью ходить, читать, писать, считать, петь и травить анекдоты.

При рождении вы не в состоянии выполнять ни одну из этих задач, и все программные средства информатизации внедряются в ваш мозг посредством процесса, называемого обучением. И если в детстве программа вашего обучения формируется в основном членами семьи и учителями, со временем вы обретаете больше сил и возможностей для самостоятельного создания программных средств информатизации.

Допустим, в вашей школе позволяют выбрать иностранный язык — захотите ли вы установить в мозг программный модуль, который позволит говорить по-французски или по-испански? Захотите ли вы научиться играть в теннис или в шахматы? Захотите ли вы выучиться на шеф-повара, адвоката или фармацевта? Хотите ли вы больше узнать об искусственном интеллекте (ИИ) и будущем, прочитав об этом книгу?

Способность Жизни 2.0 разрабатывать программные средства информатизации делает ее значительно более развитой, чем жизнь версии 1.0. Высокий интеллект требует множества аппаратных (состоящих из атомов) и программных (состоящих из бит) средств информатизации.

Читайте также:  Универсальный робот mhi-meister успешно проходит "боевое крещение" на аварийной атомной станции фукусима

Тот факт, что большинство аппаратных средств информатизации человека приходит после рождения (посредством роста), весьма важен, поскольку наш предельный размер не ограничен шириной родовых путей наших матерей.

Важно

Аналогичным образом, большая часть наших программных средств информатизации привносится после рождения (посредством обучения), а наш предельный уровень интеллекта не ограничивается количеством информации, которая может передаться нам при зачатии через ДНК, в стиле версии 1.0.

Я вешу примерно в 25 раз больше, чем при рождении, а синаптические связи, связывающие нейроны в моем мозгу, могут хранить примерно в сто тысяч раз больше информации, чем та ДНК, с которой я родился.

Ваши синапсы хранят все ваши знания и навыки, а это примерно 100 терабайт информации, в то время как в ДНК храниться не более гигабайта, чего едва хватит на скачивание одного фильма.

Так что родиться с прекрасными знаниями английского и готовыми к вступительным экзаменам в колледж физически невозможно: информацию никак нельзя предварительно загрузить в мозг младенца, поскольку полученный от родителей основной информационный модуль (ДНК) обладает недостаточным объемом хранилища информации.

Возможность создания собственных программных средств информатизации делает Жизнь 2.0 не только более развитой, чем версия 1.0, но и более гибкой. При изменении условий окружающей среды Жизнь 1.0 адаптируется только посредством медленной эволюции, длящейся поколениями. Жизнь версии 2.

0, с другой стороны, может приспосабливаться к новым условиям практически мгновенно путем обновления программных средств информатизации.

К примеру, часто сталкивающиеся с антибиотиками бактерии могут развивать устойчивость к препаратам на протяжении многих поколений, причем отдельные бактерии своего поведения вообще не изменят; а вот человек, узнав об аллергии на арахис, сразу же изменит модель поведения во избежание данного продукта.

Такая гибкость дает Жизни 2.0 еще большее преимущество на уровне численности популяции: несмотря на то, что за последние 50 тысяч лет информация в нашей человеческой ДНК эволюционировала не столь явно, вся совокупная информация, хранящаяся в нашем мозгу, книгах и компьютерах, дала вспышку развития.

Установив программный модуль, позволяющий общаться с помощью сложноорганизованного разговорного языка, мы обеспечили условия для копирования наиболее полезной информации, хранящейся в мозге человека, в мозг других людей и гарантий ее сохранность даже в случае гибели изначального носителя.

Установив программный модуль, позволяющий читать и писать, мы обрели способность хранить и передавать гораздо больше информации, чем люди когда-либо могли запомнить.

Развивая программные средства информатизации мозга с целью создания технологий (посредством овладения науками и инженерным делом), мы обеспечили многим жителям планеты доступ к большей части мировой информации с помощью всего пары кликов.

Такая гибкость позволила Жизни 2.0 доминировать на Земле.

Совет

Освобожденная от генетических оков совокупность знаний человечества продолжает расширяться ускоренными темпами, ибо каждое крупное научное открытие дает толчок для развития языка, письменности, книгопечатания, современной науки, компьютеров, интернета и так далее.

Подобная сверхбыстрая культурная эволюция наших общих программных средств информатизации превратилась в доминирующую силу с точки зрения формирования будущего людей, сделав нашу бесконечно медленную биологическую эволюцию практически несущественной.

Однако, несмотря на доступные нам сегодня мощные технологии, все известные нам формы жизни остаются значительно ограниченными собственными биологическими аппаратными средствами информатизации.

Ни один из них не способен прожить миллион лет, запомнить всю информацию из Википедии, понять все известные науки или полететь в космос без космического корабля.

Ни один из них не может превратить безжизненный космос в многоликую биосферу, которая будет процветать миллиарды, а, может, и триллионы лет, позволив нашей Вселенной реализовать, наконец, свой потенциал и полностью пробудиться.

Все это невозможно без заключительного обновления жизни до версии 3.0, способной программировать не только программные, но и аппаратные средства информатизации. Другими словами, на данной стадии жизнь становится хозяйкой своей судьбы, сбросившей, наконец, все сковывавшие ее эволюционные оковы.

Границы между тремя вышеуказанными стадиями жизни местами нечеткие. Если бактерии относятся к версии 1.0, а люди — к версии 2.0, то мышей, к примеру, можно классифицировать как версию 1.1; они способны научиться многому, но этого всегда будет недостаточно для развития языка или изобретения интернета.

Кроме того, отсутствие языка исключает передачу следующему поколению большей части того, чему мыши успевают научиться при жизни. Аналогичным образом можно утверждать, что современных людей следует воспринимать как жизнь версии 2.

Обратите внимание

1: мы можем имплантировать зубы, коленные чашечки и кардиостимуляторы, но не способны на десятикратное увеличение роста или тысячекратное увеличение объема мозга.

Подводя итог, с точки зрения способности жизни на самопрограммирование ее развитие можно разделить на три этапа:

• Жизнь 1.0 (биологический этап): эволюция аппаратных и программных средств информатизации; • Жизнь 2.0 (культурный этап): эволюция аппаратных средств информатизации и программирование большинства программных;

• Жизнь 3.0 (технологический этап): программирование аппаратных и программных средств информатизации.

Спустя 13.8 миллиарда лет космической эволюции, здесь, на Земле процесс развития резко ускорился: жизнь версии 1.0 зародилась около 4 миллиардов лет назад, жизнь версии 2.

0 (люди) — около ста тысяч лет назад, а Жизнь 3.0, по мнению многих ученых, может появиться в ближайшее столетие — а, быть может, и на нашем веку — благодаря успехам в области развития искусственного интеллекта.

Что произойдет тогда? И что станет с нами?

В этом, собственно, тема данной книги и заключается.

Макс Тегмарк (Max Tegmark), Scientific American, США

Макс Тегмарк известен как «Безумный Макс» за свободомыслие и страсть к приключениям. Его научные интересы варьируются в диапазоне от точной космологии до природы конечной реальности, чему и посвящена его последняя книга «Наша математическая Вселенная».

Тегмарк — профессор физики Массачусетского технологического института, написавший более 200 технических статей и выступавший в качестве эксперта в десятках документальных фильмов.

В 2003 году журнал Science признал совместные достижения Тегмарка и участников проекта SDSS (Sloan Digital Sky Survey, Слоановский цифровой небесный обзор) в изучении скоплений галактик прорывом года.

Источник: http://madan.org.il/ru/news/zhizn-30-byt-chelovekom-v-epohu-iskusstvennogo-intellekta

Ученые: искусственный интеллект может быть опасен

Институт будущей жизни объявил, что истратит пожертвование в размере 10 млн долларов, полученное от известного предпринимателя Элона Маска, на финансирование 37 научных проектов по контролю над искусственным интеллектом.

Предприниматель Элон Маск пожертвовал на эти исследования 10 млн долларов

Эти проекты включают исследование с бюджетом в 136 тысяч долларов возможности создания систем вооружения с искусственным интеллектом и возможных методов управления ими.

Выделяется также 1,5 млн долларов на создание исследовательского центра по проблемам искусственного интеллекта.

Эти деньги поступили от благотворительной организации Open Philanthropy Project. Этот центр будет управляться совместно университетами Оксфорда и Кембриджа.

«Существуют причины полагать, что нерегулируемые и бесконтрольные разработки могут привести к опасным последствиям, как из-за безответственных правительств, так и ввиду беспрецедентных возможностей таких систем», — заявил представитель Оксфордского университета Ник Бостром.

«Этот центр будет заниматься долгосрочными последствиями применения искусственного интеллекта, который уже вскоре может превысить способности человека в большинстве интересующих нам сфер, и политическими решениями, которые могут быть использованы для уменьшения потенциальных рисков, связанных с такими устройствами», — говорит ученый.

Потенциальная опасность

Проекты, которые должны получить финансирование от Института будущего жизни, включают исследования того, как этические принципы и гуманистические ценности могут быть включены в работу над системами искусственного интеллекта.

Ученые считают, что фильмы типа «Терминатора» отвлекают человечество от реальных проблем искусственного интеллекта

Группа уже объявила, что получила почти 300 заявок на финансирование со всего мира.

Важно

Основатель корпорации Microsoft Билл Гейтс и профессор Стивен Хокинг, среди прочих, в прошлом не раз предупреждали о потенциальной опасности, связанной с созданием искусственного интеллекта, который может вырваться из-под контроля человека.

Президент Института Макс Тегмарк заявил, что его организация не будет заниматься кошмарными сценариями, предлагаемыми такими голливудскими фильмами как «Терминартор».

«Опасность сценария по типу «Терминатора» состоит не в том, что такое может случиться, а в том, что он отвлекает от реальных проблем будущих систем искусственного интеллекта», — заявил Тегмарк.

Элон Маск, основавший такие известные компании как Tesla Motors, PayPal и SpaceX, пожертвовал 10 млн долларов на эти исследования в январе этого года.

Источник: https://www.nur.kz/812140-uchenye-iskusstvennyy-intellekt-mozhe.html

Известный физик о Сверхразумном искусственном интеллекте, Космическом Апокалипсисе и Жизни 3.0

Спросите Макса Тегмарка, почему люди должны читать его новую книгу и участвовать в дискуссии об искусственном интеллекте, и вы получите весомый ответ. Забудьте об объемах продаж, речь идет о проблеме поистине космических масштабов: судьба Вселенной может зависеть от решений, принимаемых «здесь, на нашей маленькой планете, в течение нашей жизни», — говорит он.

В своей книге «Жизнь 3.0: быть человеком в эпоху искусственного интеллекта» Тегмарк сначала объясняет, как сегодняшние разработки в сфере ИИ могут привести к созданию сверхразумного ИИ, а затем идет дальше и рассматривает варианты будущего, которые могут наступить в результате этого. Они не обязательно безнадежны.

Читайте также:  Москва перейдет на новый уровень развития электронных сервисов

Но в худшем случае человечество вымрет, а ему на смену придет искусственный интеллект, обладающий огромными умственными способностями, но не имеющий сознания.

Если все чудеса космоса продолжат существовать без разума, обладающего сознанием, чтобы их оценить, Вселенная станет бессмысленным «пустым пространством», утверждает Тегмарк.

Профессор физики Массачусетского технологического института, он стал одним из главных адептов исследований в сфере безопасности ИИ. Его глубокомысленная книга опирается на работу Ника Бострома «Сверхинтеллект», напугавшую самого Илона Маска. В ней шведский философ подробно описывает, как перенавернутый ИИ может привести к исчезновению человечества.

Почему он не согласен с Яном Лекуном

В прошлую пятницу у вас была дискуссия об ИИ с Яном Лекуном, одним из наиболее значимых ученых в этой сфере. Лекун высказал мнение, что пока мы не представляем, какую форму обретет сверхразумный ИИ, преждевременно исследовать и механизмы контроля над ним. Почему вы с ним не согласились?

То, что мы не знаем, что именно пойдет не так, не значит, что мы не должны вообще об этом думать. Это основная задача инженеров по технике безопасности: вы много думаете над тем, что может произойти, чтобы это предотвратить.

Многие люди склонны связывать подобный подход с паникерством. Но когда руководители программы «Аполлон» прежде, чем отправлять ракету с космонавтами на Луну, тщательно продумали все, что могло пойти не так, они не были паникерами.

Они делали именно то, что в конечном итоге привело к успеху миссии.

Так же нужно относиться и к ИИ. Мне очень нравится эта метафора с ракетой. До сих пор основное внимание уделялось тому, чтобы сделать ИИ как можно мощнее, не беспокоясь о том, как им управлять. Так же было с ракетными исследованиями до создания хороших ракетных двигателей — лишь после того как они появились, разработчики начали думать над тем, как управлять ракетами.

Нам нужно думать о том, как управлять ИИ уже сейчас. Как нам превратить современные, глючные и неустойчивые к взлому системы, в системы, которым мы действительно можем доверять и быть уверенными, что они делают лишь то, что мы от них хотим? Как нам научить машины понимать наши цели, принимать их и поддерживать?

«На самом деле, мне не нравится, когда люди спрашивают, что произойдет в будущем»

Источник: https://fraza.ua/stenograms/262801-izvestnyj-fizik-o-sverhrazumnom-iskusstvennom-intellekte-kosmicheskom-apokalipsise-i-zhizni-30

Физик Макс Тегмарк: «Искусственный интеллект

Искусственный интеллект, в отличие от человеческого, не зависит от атомов углерода, а также от строгих эволюционных ограничений.

Благодаря этому ИИ способен непрерывно обучаться и совершенствоваться, и в конечном счете он позволит человечеству решить массу насущных проблем — от климатических изменений до онкологических заболеваний.

По крайней мере, такого мнения придерживается Макс Тегмарк, физик из MTI и сооснователь Института будущего человечества.

Совет

В интервью The Verge Тегмарк представил свое видение трех эволюционных форматов жизни на Земле — 1.0, 2.0 и 3.0.

Жизнь 1.0, по словам специалиста, характерна для бактерий, которых ученый называет «небольшими атомами, соединенными вместе в простейший алгоритм саморегулирования».

При этом бактерии не способны освоить ничего нового в течение своей жизни.

Механизмы их работы крайне примитивны — они могут только поворачиваться в ту сторону, где больше еды, а развитие их «программного обеспечения» возможно только в рамках эволюционных изменений.

Жизнь 2.0 воплощается в людях. Несмотря на то, что человек также обладает жестко заданным и ограниченным эволюцией телом — «железом», он также обладает серьезным преимуществом в виде более совершенного разума — «программного обеспечения», которое позволяет ему учиться самостоятельно.

Тем не менее, несмотря на все преимущества, у нашего совершенствования есть предел. Именно поэтому со временем жизнь 2.0 будет вытеснена менее ограниченной жизнью 3.0.

Тегмарк отмечает, что многие люди сегодня воспринимают разум как загадочное свойство биологических организмов. Однако, по его словам, эти представления ошибочны.

Ученый уверен, что законы физики никак не препятствуют созданию машин, намного превосходящих человека по интеллекту. Помимо этого, подчеркивает он, нет никаких свидетельств в пользу того, что разум зависит от наличия органической материи:

Зачем нам ИИ

На развитие технологий искусственного интеллекта физик возлагает большие надежды.

По его мнению, в мире по-прежнему существуют такие нерешенные проблемы, как изменения климата, бедность и болезни, исключительно потому, что человечество биологически интеллектуально ограничено.

Риски ИИ

Вместе с тем, несмотря на оптимистичный настрой, Тегмарк признает, что искусственный интеллект несет риски. Здесь ученый полностью солидарен со Стивеном Хокингом, который полагает, что ИИ станет или самым худшим, или самым лучшим явлением в истории человечества.

По мнению специалиста, когда люди говорят о нынешней тотальной автоматизации рабочих мест, они забывают, что намного важнее заглянуть вперед, чтобы понять, что будет дальше.

Что делать дальше?

По словам ученого, чтобы нивелировать исходящие от ИИ риски, нам нужно чаще устраивать дискуссии на этот счет.

Напоследок ученый дает небольшой совет.

Источники: The Verge, hightech.fm

Источник: https://itc.ua/blogs/fizik-maks-tegmark-iskusstvennyiy-intellekt-eto-zhizn-3-0/

«Законы физики не помешают создать искусственный сверхразум»

Искусственный интеллект, в отличие от человеческого, не зависит от атомов углерода, а также от строгих эволюционных ограничений.

ИИ способен непрерывно обучаться и совершенствоваться, и эта способность со временем поможет решить массу проблем — от климатических изменений до онкологических заболеваний.

Такого мнения придерживается Макс Тегмарк, физик из МТИ и сооснователь Института будущего человечества.

Обратите внимание

В интервью The Verge Тегмарк представил свое видение трех форматов жизни на Земле. Жизнь 1.

0 характерна для бактерий, которых ученый называет «небольшими атомами, соединенными вместе в простейший алгоритм саморегулирования».

Бактерии не способны освоить ничего нового в течение своей жизни, механизмы их работы примитивны, а развитие их «программного обеспечения» возможно только в рамках эволюционных изменений.

Жизнь 2.0 воплощается в людях. Человек обладает заданным эволюцией телом — «железом» — и разумом — «ПО». Люди могут постоянно совершенствовать свое программное обеспечение, но у этого совершенствования есть предел.

В формат жизни 3.0 не существует эволюционных и биологических ограничений. Искусственный интеллект способен менять как свое ПО, так и железо. ИИ ничем не сдерживается и может расти бесконечно.

10 главных научных открытий 2017 года

Тегмарк отмечает, что многие люди воспринимают разум как загадочное свойство биологических организмов. «С точки зрения физика, разум — это всего лишь обработка информации, которую проводят элементарные частицы, движущиеся по определенным законам».

Ученый уверен, что законы физики никак не препятствуют созданию машин, намного превосходящих человека по интеллекту. Тегмарк также подчеркивает, что разум не зависит от наличия органической материи: «Я не думаю, что есть какой-то секретный соус, в котором обязательно должны быть атомы углерода и кровь».

Физик возлагает большие надежды на ИИ. По его мнению, человечество не достаточно интеллектуально развито, поэтому в мире существуют такие нерешенные проблемы, как изменения климата, бедность и болезни. Однако решать эти вопросы нужно как можно скорее, пока мощности ИИ не направили в другое русло.

Электросамолет Sun Flyer выгоднее бензиновых аналогов

Безусловно, искусственный интеллект несет риски. Тегмарк согласен со Стивеном Хокингом, который считает, что ИИ станет или самым худшим или самым лучшим явлением в истории человечества.

Тегмарк предлагает обсуждать проблемы ИИ и проводить исследования в этом направлении. Ни один из кандидатов на пост президента США не затрагивал тему ИИ.

По мнению ученого, это говорит об общем уровне неосведомленности в обществе.

При этом в исследовании искусственного интеллекта вкладывают миллиарды, а изучение безопасности не финансируется, хотя по степени значимости ИИ можно сравнить с ядерным оружием.

Одобрено использование «пластыря» для огнестрельных ран

Источник: https://hightech.fm/2017/08/30/max_tegmark

Революция в области искусственного интеллекта. Часть I

Революция в сфере искусственного интеллекта привела нас на грань зарождения нового вида? Как скоро машины станут умней нас?

«Добро пожаловать в детский сад для роботов», — приветствует Питер Эббил, открывая двери Лаборатории Машинного Обучения, расположенной на седьмом этаже стильного нового здания на северной окраине кампуса Калифорнийского университета в Беркли.

В лаборатории царит творческий беспорядок: велосипеды у стены, дюжина аспирантов в неприбранных рабочих кабинках, маркерные доски исписаны неразборчивыми уравнениями. 38-летний Эббил выглядит худым, но жилистым, одет в джинсы и растянутую футболку.

В 2000 году он переехал из Бельгии в США, чтобы получить докторскую степень в области компьютерных наук в Стэнфордском университете, и сейчас, будучи мировым специалистом в этой сфере, он как никто другой понимает, насколько сложно обучить роботов грамотному мышлению.

Но для начала он должен научить их хотя бы просто «думать». «Поэтому мы и зовем это место детским садом», — шутит Эббил.

Важно

Он знакомит меня с Бреттом — антропоморфным роботом ростом 1,8 метра, созданным компанией Willow Garage, высококлассным производителем робототехники из Кремниевой долины, ныне обанкротившейся. Лаборатория приобрела этого робота несколько лет назад для экспериментов.

Имя Бретт (Brett) означает «Робот для выполнения скучных задач, созданный в Беркли (Berkeley Robot for the Elimination of Tedious Tasks)». Бретт — это дружелюбно выглядящее существо с большой, плоской головой и широко расположенными камерами вместо глаз, широким корпусом, двумя руками с клешнями на концах и колесами вместо ног.

Читайте также:  В японии скоро появится отель без персонала

Сейчас для Бретта нерабочее время, он стоит в центре лаборатории с таинственной, тихой грацией выключенного робота. Рядом на полу стоит коробка игрушек, которыми Эббил и студенты учат Бретта играть: деревянный молоточек, пластиковый самолет, несколько огромных Lego-блоков. Бретт — один из множества роботов в лаборатории.

В другой офисной кабинке безымянный полуметровый робот свисает со спинки стула на веревке. Внизу в подвале держат промышленного робота, которому каждый день часами дают играть в аналог песочницы для роботов только для того, чтоб посмотреть, сможет ли он научиться чему-нибудь сам.

Через дорогу, в другой лаборатории Беркли, хирургический робот учится сшивать человеческую плоть, пока аспирант учит дронов самостоятельно огибать препятствия. «Мы не хотим, чтобы дроны врезались в окружающие вещи и падали с неба, — говорит Эббил, — мы пытаемся научить их видеть».

Промышленные роботы уже давно программируются на конкретные задачи: подвинуть руку на 6 дюймов влево, взять модуль, развернуться вправо, вставить модуль в печатную плату. Повторять 300 раз каждый час. Эти машины не умнее самой обычной газонокосилки.

Но за последние годы прорыв в области обучения машин — создание алгоритмов, в общих чертах имитирующих работу человеческого мозга и позволяющих машинам учиться самостоятельно — дал компьютерам исключительную возможность распознавать речь и зрительные образы.

Задача Эббила состоит в том, чтобы наделить роботов чем-то вроде общего уровня развития, позволившего бы им понять мир и научиться выполнять работу самостоятельно. Впереди у него долгий путь. «Способность к обучению у роботов не может сравниться даже с уровнем 2-летнего ребенка», — рассказывает Эббил.

Совет

К примеру, Бретт научился выполнять такие простые задачи, как завязывание узла или складывание белья для стирки. Вещи, которые легко получаются у людей, например, распознавание в скомканном кусочке ткани на столе полотенца, даются роботам с большим трудом.

Отчасти это происходит потому, что роботам не знакомо понятие здравого смысла, у них нет воспоминаний о предыдущих попытках сложить полотенце, и, самое главное, у них отсутствует общее представление о том, что такое полотенце в принципе. Все, что видит робот — это цветной комок.

Чтобы обойти эту проблему, Эббил изобрел самообучающийся алгоритм, на который его вдохновили кассеты с видеоуроками по психологии, где дети постоянно изменяли подход к решению задачи, чтобы ее выполнить.

Сейчас, когда Бретт сортирует одежду для стирки, он делает похожую вещь: хватает скомканное полотенце своими руками-клешнями, пытается понять, какой оно формы и как его складывать. Звучит примитивно, и так оно и есть.

Но затем ты прокручиваешь эту мысль в голове еще раз: Робот учится складывать полотенце.

Все это жутковато и напоминает мир Франкенштейна. Сложность задач, которые могут выполнять разумные машины, растет в геометрической прогрессии.

Куда в конечном счете это нас приведет? Если робот может научиться самостоятельно складывать полотенце, научится ли он когда-нибудь готовить вам ужин, выполнять хирургические операции, или даже вести войну? Искусственный интеллект вполне может помочь решить самые сложные проблемы, с которыми приходится сталкиваться человечеству — рак или глобальное потепление, но в ближайшем будущем вполне возможно, что он может поспособствовать расширению возможностей слежки, разрушению границ личного пространства, а также наделению телемаркетологов еще большими возможностями. Кроме того, есть и более серьезные вопросы: будут ли машины когда-либо способны мыслить самостоятельно, обдумывать проблемы, испытывать эмоции? Никто не знает. Восстание разумных машин не похоже ни на одну другую научно-техническую революцию, поскольку на карту может быть поставлено существование самого человечества. Возможно, мы находимся на грани создания новой формы жизни, которая может обозначить не только эволюционный прорыв, но и потенциальную угрозу продолжению существования человечества как вида.

Источник: https://newochem.ru/texnologii/revolyuciya-v-oblasti-iskusstvennogo-intellekta-chast-i/

Мы их или они нас. Как выжить в эпоху искусственного интеллекта?

Тегмарк, к мнению которого прислушиваются Илон Маск, Стивен Хокинг и Рэй Курцвэйл, дал своей новой книге красноречивое название Жизнь 3.0.

В предисловии к книге ученый прямо указывает, что не принадлежит к числу паникеров. Победа машин не обязательно должна обернуться чем-то ужасным, констатирует Тегмарк. Главное – сделать так, чтобы мы сами решили, каким будет наше будущее в эпоху машин, и не допустили, чтобы это сделали за нас, заявляет он.

Все в наших руках

Основная задача человечества в условиях приближающейся эпохи ИИ – сделать так, чтобы цели и задачи машин не шли вразрез с целями и задачами людей. Это первый и ключевой тезис книги.

Обратите внимание

Это позволит в некоторой степени обеспечить безопасность людей во времена, когда машины будет превосходить их в развитии и в количестве.

Макс Тегмарк, профессор Массачуссетского технологического института / WiKi

Важно также подготовиться к тому, что в определенный момент (и это произойдет достаточно скоро!) люди перестанут быть самым разумным видом на планете Земля. Или по крайней мере, перестанут быть единственным разумным видом.

И да, вероятно, разумная жизнь будет основана не на углеродных соединениях, а на кремниевых чипах или других аналогичных вычислительных технологиях. Т.е. Тегмарк считает, что пора готовиться к трансформации человечества как такового.

Люди будущего будут представлять собой симбиоз человека и машин с серьезным уклоном в сторону машин, убежден Тегмарк. И этого не стоит бояться, это тоже будет жизнь, просто на другой основе.

Больше того, предсказывает Тегмарк, это может быть вечная жизнь. Сверхлюди будущего, лишенные хрупких тел, смогут существовать бесконечно долго.

Но для этого предстоит приложить определенные усилия, в частности, упомянутые выше. Нужно сделать так, чтобы ИИ изначально не конфликтовал с человечеством.

Тегмарк солидарен в своих опасениях насчет возможного будущего ИИ с Илоном Маском. Больше того, вместе со своим другом Яаном Таллином, со-основателем Skype, на деньги Маска Тегмарк проводит изыскания в организации Future of Life Institute, штаб-квартира которой расположена в Кэмбридже, штат Массачуссетс.

Тегмарк утверждает, что главной проблемой, связанной с освещением проблемы будущего ИИ, является большое количество мифов и недоразумений в этой области.

Важно

В интервью The Guardian он, в частности, уточнил, что считает важной задачей развеять мифы, навязанные Голливудом.

“Страх перед машинами, которые обретут сознание и станут злыми, иррационален, — говорит Тегмарк. — Главная проблема с ИИ – не злоба, а компетенция. ИИ будет хорошо знать, как достичь своих целей. Следовательно, наша главная задача – не бороться с ИИ или препятствовать его появлению, а позаботиться о том, чтобы ИИ имел цели, сходные с нашими”.

Исследования Тегмарка в рамках Future of Life Institute финансирует Илон Маск

Именно это и будет стадия, которую он называет Жизнь 3.0. Под Жизнью 1.0 Тегмарк понимает примитивные формы жизни, такие как бактерии и другие организмы, которые умели лишь приспосабливаться под окружающую среду. Жизнь 2.0 – это стадия, на которой человек находится сегодня, имея возможность не только адаптироваться под окружающую среду, но и менять ее.

Жизнь 3.0 – это технологическая стадия, на которой человек сможет изменить не только внешнюю среду, но и себя самого.

И Тегмарк не просто рассуждает об этом, но и предлагает свое видение решений, которые нужно принять уже сегодня, чтобы обезопасить человека в эпоху Жизни 3.0.

“Самое главное – это финансировать исследования в области безопасности ИИ, запретить разработку автономного вооружения, основанного на ИИ, и развивать социальные системы, которые позволят людям перераспределять социальные блага, которые появятся вследствие существования ИИ”, — убежден Тегмарк.

Он уверен, что этот простой план из трех шагов может сделать будущее человека более безопасным.

Настоящий материализм

Футурологи и эксперты приняли работу Тегмарка достаточно благосклонно.

Тегмарк – вовсе не биологический сентименталист, заключает обозреватель The Guardian Эндрю Энтони. Он – материалист, который не видит разницы между интеллектом, возникшим в результате биологической эволюции, “смертным” интеллектом, и ИИ, который будет создан искусственно.

Источник: https://techno.nv.ua/popscience/my-ih-ili-oni-nas-kak-vyzhit-v-epohu-iskusstvennogo-intellekta-1878845.html

Ссылка на основную публикацию