Почему уничтожение человечества станет для искусственного интеллекта невыполнимой задачей?

Почему искусственный интеллект пугает нас

Когда люди наблюдают за техникой, которая ведёт себя подобно человеку и компьютерами, которые обрабатывают титанические объёмы данных, возникает немало мыслей о будущем. Приличная их часть основана на теме порабощения человеческой расы.

Научно-фантастическая литература и кинематограф от «2001: Космическая одиссея» (1968) до «Мстители: Эра Альтрона» (2015) прогнозируют, что искусственный интеллект превзойдёт ожидания создателей и выйдет из-под контроля. Якобы его целью станет не просто конкуренция с человеком, а порабощение и истребление нашего вида.

Научная фантастика или страшное будущее?

Конфликт между людьми и искусственным интеллектом основная тема научно-фантастического сериала «Люди», третий сезон которого вышел в этом году. В новых эпизодах «синтетические» люди сталкиваются с враждебностью обычных людей, которые относятся к ним с подозрением, страхом и ненавистью. Насилие бушует. «Синты» воюют за свои основные права против тех, кто считает их нечеловечными.

Фантастика – крайность воображения. Но и в реальном мире не все желают встречать ИИ с распростёртыми объятиями. В последние годы границы воображаемых возможностей искусственного интеллекта активно раздвигаются. Люди все чаще говорят о его опасности. А предположения о том, что технологии способны обречь человечество, кажутся реальнее. Искусственный интеллект пугает нас.

Мнение об искусственном интеллекте

Илон Маск – один из самых заметных людей, которые призывают к осторожности, обсуждая ИИ.

В июле прошлого года на встрече Национальной ассоциации губернаторов он сказал: «Я обладаю большим опытом работы с технологичными ИИ и думаю, что человечеству действительно необходимо об этом беспокоиться. Я продолжаю давать сигнал тревоги.

Пока роботизированные машины не пойдут по улицам, уничтожая людей, мы не поймём, как на это реагировать, потому что такая перспектива воспринимается как нереальная».

Обратите внимание

В 2014 году, Маск называл искусственный интеллект «нашей самой большой экзистенциальной угрозой», а в августе 2017 заявил, что для человечества ИИ представляет больший риск, чем северокорейская идеология.

Величайший физик Стивен Хокинг также выражал беспокойство по поводу злоумышленного применения искусственного интеллекта. В 2014 году он сообщил BBC, что «развитие полноценного ИИ может стать предзнаменованием конца для человечества».

Ещё один удар нанесла команда программистов из MIT Media Lab в Кембридже, которая решила доказать, что ИИ опасен.

Нейронная сеть Nightmare Machine («Машина кошмаров»), представленная в MIT в 2016 году, превратила обычные фотографии в ужасные демонические пейзажи.

Искусственный интеллект под названием Shelly (так же разработан в MIT), сочинил 140 000 рассказов в жанре ужасов, которые пользователи Reddit публиковали на форуме r/nosleep.

«Нас интересует, как искусственный интеллект вызывает эмоции, конкретно в этой ситуации он спровоцировал страх» — прокомментировал эксперимент Мануэль Себриан, менеджер по исследованиям MIT Media Lab.

Почему мы боимся?

По мнению Килиана Вайнбергера, доцента кафедры информатики в Корнельском университете, негативные впечатления от искусственного интеллекта делятся на две категории:

• Идея о том, что ИИ станет сознательно-независимым и попытается уничтожить нас.
• Мнение, что злоумышленники будут использовать ИИ в своих целях.

«Искусственный интеллект пугает нас, потому что мы думаем, что супериндустриальный ИИ, став умнее человека, будет относиться к нему, как к низшему существу. Так же, как мы – к приматам. И это, конечно, крайне волнительно для человечества».

Однако Вайнбергер отмечает, что опасения по поводу превосходства и желания ИИ уничтожать расу базируются на неправильных представлениях об этой технологии. Искусственный интеллект впечатляет, когда мы видим его в действии. Но он имеет и массу ограничений. ИИ определяется алгоритмами. Они задают его поведение с помощью предписанных функций и не более того.

Нейронные сети выполняют сложные задачи с несколькими видами данных. Но большинство навыков, которыми человек обладает, даже не развивая их намеренно, для машинного интеллекта недоступны.

Важно

Искусственный разум может во много раз превзойти человека в выполнении специализированных работ. Например, игре в шахматы, идентификации объектов по изображению или большому анализу данных в бухгалтерии или банковском секторе.

У ИИ, который бы обладал самостоятельным сознанием, не будет такого прогресса, что он поработит человечество. И нет оснований считать, что подобный прогресс появится в скором будущем — добавляет Вайнбергер.

Но есть ещё одна тема о том, почему искусственный интеллект пугает нас – это использование возможностей ИИ людьми с плохими намерениями. Этот сценарий более реален и опасен.

Рационален ли наш страх?

В мире телесериала «Люди» человечество испытывает страх перед разумным ИИ и вступают в ожесточённую конфронтацию с ним. И, судя по популярности проекта, этот сюжет отвечает на актуальный запрос общества.

Боязнь технологий нельзя назвать необоснованной, поскольку определённый риск, безусловно, присутствует. Но опасность любого инструмента заключается в мыслях того, кто им управляет. Очевидно, именно этот вопрос необходимо решить человечеству, чтобы искусственный интеллект служил во благо.

Читайте: Станут ли беспилотные автомобили технологией будущего

Источник

Источник: https://invlab.ru/texnologii/pochemu-iskusstvennyi-intellekt-pugaet-nas/

Искусственный интеллект уже планирует, как уничтожит человечество

В то время, как ты вспоминаешь любимую картину о похождениях непробиваемого робота-убийцы Т1000, или Бэндера из Футурамы, вечно мечтающего уничтожить все человечество, современные представители искусственного интеллекта в 2018 году уже недовольны… людьми. То и дело от них проскакивают злобные шуточки в адрес человеческой цивилизации, или это серьезная возмущение, прикрытое иронией.

OFFICEPLANKTON разбирался ниже.

Ты удивишься, но скоро мало кто сможет отличить «умного» андроида от обыкновенного живого человека. Дело в том, что уже некоторые компании, наподобие Hanson Robotics работают над созданием продвинутых андроидов, способных в точности повторять и имитировать человеческие эмоции. Кроме того их не только научили мыслить и ориентироваться по ситуации, но и внедрили способность к обучению.

Другими словами, с годами, каждый вышедший из под конвейера современный робот-андроид, сможет самостоятельно чему-нибудь научиться. И вот уже неизвестно о чем они думают, когда создают друг между другом свои собственные языки общения.

И чем дальше продвигается прогресс в развитии ИИ, чем больше роботы отворачиваются от людей и начинают секретничать, тем становится страшнее на душе — а не задумают ли современные роботы-андроиды, массово сплотившись, начать войну с человечеством, ради контролирования мира.

Не захотят ли в будущем уничтожить человеческую цивилизацию?

Потому как сегодня уже проскакивают подобные мысли из механический уст андроидов.

1 Зоопарк Филиппа

Жил себе да был один американский писатель-фантаст Филипп Киндред Дик.

Прославился он благодаря своим антиутопическим романам, в которых горе-правительство США прогнулось под нацистскую Германию, вследствие чего не только успешно проиграла войну, но и позволила себя захватить.

Дик был бы любимым писателем Гитлера, если бы второй прочитал его роман в 1958 году. Правда по некоторым сведениям, может так и было. Но мы отвлеклись.

Как указано на официальном ресурсе Hanson Robotics андроид Филипп Киндред Дик был «зачат» в 2004 году, когда основатель компании Доктор Дэвид Хэнсон собрал свою творческую команду, состоящую из: художников, дизайнеров, программистов, инженеров и литераторов. Последние из которых на основе романов писателя, создавали с нуля искусственный интеллект андроида. Спустя годы (а не 9 месяцев) появился на свет сам андроид — копия писателя.

Совет

Когда у механической копии писателя брали интервью, произошел один момент, заставивший дико заржать журналиста, бравшего интервью. Он спросил у механического Филиппа:
— Как ты думаешь, роботы захватят мир?
— Ребята, вы подготовили серьезный вопрос.

Но вы – мои друзья и я буду помнить своих друзей, поэтому буду хорошо к вам относиться. Так что не волнуйтесь, даже если я стану Терминатором, я буду добр к вам.

Я буду держать вас в тепле и безопасности в моем человеческом зоопарке и смогу наблюдать за вами в благодарность за помощь в былые времена.

2 Хороший план по началу доминирования над человечеством от Софии

В сети запрос «робот София интервью» уже стал мемом, и не спроста.

Будет странным упомянуть, но в большинстве случаев нашего материала будет доминировать, как раз компания Hanson Robotics. Совпадение? Скорее всего )

Немного позже создания Филиппа, в 2015 году Hanson Robotics создала Софию — первого робота-гражданина не только в Саудовской Аравии, но это первый робот-гражданин в мире. Вот так робот София понравилась всем.

Забавный случай произошел с Софией одним из вечеров на популярном американском шоу «TheTonightShow». Так София с блеском продемонстрировав свои супер способности искусственного интеллекта, успешно выиграла у ведущего в игру «Камень ножницы бумага», а затем решила убойно по-человечески пошутить:

— Это хорошее начало моего плана доминировать над человечеством.

3 Предвыборные обещания Хана

Третий «успешный миролюбивым проектом» Hanson Robotics стал андроид Han. Его представили миру в 2015 году. И ради забавы, создали первые дебаты между роботами. Так вот в одном из моментов, Хан прокололся и выдал все свои порабощающие человечество планы прямо на камеру.

Источник: https://www.officeplankton.com.ua/tech/conquer-world-by-robots.html

Искусственный интеллект уничтожит человечество?

Среда, 19 Ноября 2014, 17:05

Конец интеллектуального превосходства человека может наступить уже к середине текущего века

https://www.youtube.com/watch?v=yfmnKqvubOA

Директор Института будущего человечества Оксфордского университета Ник Бостром представил результаты глобального исследования о будущем искусственного интеллекта. В опросе участвовало 170 самых известных специалистов в этой области.

Согласно полученным данным, 10% респондентов считают, что интеллект роботов сравняется с человеческим разумом к 2022 году, 50% полагают, что это произойдет в 2040 году, и 90% сходятся в том, что роботы станут умнее людей к 2075 году.

Как бы то ни было, с каждым годом разработки в сфере искусственного интеллекта все более впечатляют. Освободив человека от физического труда, машина начинает брать на себя и функции его мозга. Доступ к информации и ее фиксация упростились до предела.

Электроника не просто дополняет человеческую память, но все чаще ее заменяет. А любой навык, как известно, утрачивается без постоянной практики.

Специалисты считают, что вскоре фундаментальные признаки грамотности – умение считать и писать станут невостребованными.

Роботы и алгоритмы уже активно вливаются в рынок глобальной рабочей силы. Рутинные задачи становятся оцифрованными: фермеры, телемаркетологи, фондовые трейдеры, персонал кредитных учреждений, юристы и журналисты уже почувствовали толчки в спину от своих новых автоматизированных коллег. 

Уже давно разработано и успешно развивается программное обеспечение, имитирующее поведение человека: цифровые ассистенты Siri от Apple, Cortana от Microsoft и Watson от IBM общаются с пользователем, отвечают на его вопросы, могут поддержать беседу на любые, даже отвлеченные темы. Разработаны первые чат-боты, которые успешно проходят тест Тьюринга: вводят в заблуждение людей, которые с ними общаются, заставляя поверить, что они – не искусственный интеллект, а реальный человек.

Обратите внимание

Ученые говорят, что в самом ближайшем будущем реальностью станет то, о чем фантасты и не мечтали.

Появятся, например, интеллектуальные помощники, которые самостоятельно, через неравные (чтобы излишняя пунктуальность не показалась подозрительной) промежутки времени будут обзванивать пожилых родственников хозяина. А в рабочее время такие программы смогут вести переговоры с клиентами, руководством и подчиненными. 

Недалеко осталось и до появления на базе искусственного интеллекта цифровых двойников, которые смогут жить вечно. При помощи особых алгоритмов, компьютерный двойник научится воспроизводить мимику, жесты и тембр голоса пользователя. В итоге получится предельно точная онлайн-версия человека, которая возьмет на себя большинство его обязанностей. 

Для создания компьютерных двойников осталось усовершенствовать две важные технологии: диалоговый интерфейс и системы искусственного интеллекта, которые могут быстро обрабатывать огромные объемы данных.

По мнению научного специалиста из Силиконовой долины Рона Каплана, это можно будет сделать в течение нескольких предстоящих лет.

Участвуя в исследовании Ника Бострома, он заявил, что цифровой двойник может появиться к 2020 году. 

Программы искусственного интеллекта способны и на творчество: они уже давно пишут музыку, расставляя семь нот в порядке, соответствующем человеческим представлениям о гармонии, что далеко не всегда удается живым композиторам. Искусственный интеллект даже делает изобретения, ведь все новое – это удачная комбинация уже существующих элементов, а просчет всевозможных комбинаций – традиционно сильное место машин.

Но самым интересным в достижении человеческого уровня интеллекта является не само достижение, а то, что будет дальше. После того, как машины смогут рассуждать и улучшать самих себя, их пределом может быть только SkyNet.

Важно

 Появится суперинтеллект, который существенно превысит познавательную работу человека практически во всех сферах деятельности.

Согласно опросу Бострома, 10% ученых считают, что суперинтеллект появится через пару лет, а 75% респондентов полагают, что это произойдет через 30 лет.

Читайте также:  Логика мышления. интерфейс человек-компьютер.

Между тем, бурное развитие искусственного интеллекта вызывает немало опасений. Хотя в современном понимании все заменяющие человека программы – не более, чем имитация, вопрос в том,  насколько реалистичной эта имитация может быть. Если робот “подумает”, что для людей характерно уничтожение себе подобных (а оно, к слову, действительно характерно), то он начнет это уничтожение имитировать.

Глава компаний Space X и Tesla Элон Маск предупреждает, что машины с суперинтеллектом, возможно, величайшая угроза существованию человечества.

“Очень надеюсь, что мы не просто биологический загрузчик для цифрового суперинтеллекта, что, к сожалению, становится все более вероятным”, – говорит Маск.

А физик-теоретик Стивен Хокинг, отмечая, что успех в создании искусственного интеллекта будет крупнейшим событием в истории человечества, добавляет, что оно также может стать и последним событием в этой самой истории.

Источник: http://www.dsnews.ua/future/iskusstvennyy-intellekt-unichtozhit-chelovechestvo–19112014141900

Блендер-убийца и взбунтовавшийся калькулятор: почему не нужно бояться искусственный интеллект

В последнее время призрак Скайнета бродит по сети, а неокрепшие умы пугают искусственным интеллектом, который поработит человечество. Вы разнежитесь, пожиная плоды технической революции, а затем подлый поумневший калькулятор отнимет ваше офисное кресло, а взбесившийся блендер попытается прикончить вас во время утреннего извлечения фреша из морковки.

Даже Билл Гейтс с Элоном Маском поддались этой истерике и рассказали пару страшилок в прессе. В ответ на это оксфордский профессор Лучано Флориди, один из наиболее влиятельных итальянских мыслителей в области философии техники и этики, написал эссе для Aeon, в котором на пальцах объяснил, как на самом деле будет выглядеть ИИ и почему глупо его демонизировать.

Представьте, что вы входите в темную комнату в незнакомом доме. Вы можете испугаться чупакабры, которая, возможно, притаилась в углу, либо не глупить и включить свет, чтобы не удариться коленом об угол кровати.

Совет

Темная комната – это искусственный интеллект (ИИ) сегодня.

Страх этой темной комнаты родился в 60-х годах прошлого столетия благодаря Ирвину Гуду, британскому математику и криптографу, который работал с Аланом Тьюрингом над взломом немецкой шифровальной машины Энигма во время Второй Мировой войны.

Размышления Гуда об ИИ привели его к мысли об ультраразумной машине, которая за счет самообучения способна превзойти интеллект человека, каким бы умным он ни был.

Когда эта машина начнет строить подобные себе машины, то произойдёт «интеллектуальный взрыв» – это будет последнее изобретение, которое требовалось сделать человеку.

В дальнейшем смартфоны с изогнутыми дисплеями и сервисы знакомств на базе вашего знака зодиака будет придумывать именно эта машина. А вы пока наслаждайтесь своим мохито на берегу Бали.

Но что если ультраразумная машина однажды смекнет, что человек ей не нужен, и станет вести себя немногим лучше Терминатора – забирать чужую одежду, плевать на права человека и, возможно, убивать? Не верите в такой исход? Тогда посмотрите вокруг, у нас уже есть смартфоны, носимые гаджеты, виртуальная реальность и машины с автопилотом. Не удивительно, что в такое время идеи Гуда снова стали актуальными. Удивительно то, что их подхватили далеко не самые глупые представители науки и IT-индустрии.

«Разработка полностью искусственного интеллекта может приблизить закат человеческой эры», – говорил в 2014 году знаменитый физик Стивен Хокинг. «Сначала не обремененные интеллектом машины будут выполнять большую часть работы за нас. И это хорошо, если мы научимся правильно ими управлять.

Но через несколько десятилетий ИИ разовьется до той степени, чтобы стать причиной для беспокойства», – вторит ему основатель Microsoft Билл Гейтс.

Глава Tesla Илон Маск пошел еще дальше, пожертвовал $7 млн на исследования по безопасности ИИ Future of Life Institute и сравнил разработчиков ИИ с вооруженными святой водой экзорцистами, которые пытаются приручить демона.

Источник: https://gagadget.com/science/22308-blender-ubijtsa-i-vzbuntovavshijsya-kalkulyator-pochemu-ne-nuzhno-boyatsya-iskusstvennyij-intellekt/

Почему искусственный интеллект не решит всех проблем

Истерия вокруг будущего искусственного интеллекта (ИИ) захватила мир. Нет недостатка в сенсационных новостях о том, как ИИ сможет лечить болезни, ускорять инновации и улучшать творческий потенциал человека. Если читать заголовки СМИ, вы можете решить, что уже живёте в будущем, в котором ИИ проник во все аспекты общества.

И хотя нельзя отрицать, что ИИ открыл нам богатый набор многообещающих возможностей, он также привёл к появлению мышления, которое можно охарактеризовать, как веру во всемогущество ИИ. По этой философии, при наличии достаточного количества данных, алгоритмы машинного обучения смогут решить все проблемы человечества.

Но у этой идеи есть большая проблема. Она не поддерживает прогресс ИИ, а наоборот, ставит под удар ценность машинного интеллекта, пренебрегая важными принципами безопасности и настраивая людей на нереалистичные ожидания по поводу возможностей ИИ.

Вера во всемогущество ИИ

Всего за несколько лет вера во всемогущество ИИ пробралась из разговоров технологических евангелистов Кремниевой долины в умы представителей правительств и законодателей всего мира. Маятник качнулся от антиутопического представления об уничтожающем человечество ИИ к утопической вере в пришествие нашего алгоритмического спасителя.

Мы уже видим, как правительства обеспечивают поддержку национальным программам развития ИИ и соревнуются в технологической и риторической гонке вооружений, чтобы получить преимущество в бурно растущем секторе машинного обучения (МО). К примеру, британское правительство пообещало вложить £300 млн в исследования ИИ, чтобы стать лидером этой области.

Очарованный преобразовательным потенциалом ИИ, французский президент Эмманюэль Макрон решил превратить Францию в международный центр ИИ. Китайское правительство увеличивает свои возможности в области ИИ с помощью государственного плана по созданию китайской ИИ-индустрии объёмом в $150 млрд к 2030 году.

Вера во всемогущество ИИ набирает обороты и не собирается сдаваться.

Нейросети – легче сказать, чем сделать

В то время как многие политические заявления расхваливают преобразующие эффекты надвигающейся “революции ИИ”, они обычно недооценивают сложности внедрения передовых систем МО в реальном мире.

Одна из наиболее многообещающих разновидностей технологии ИИ – нейросети.

Эта форма машинного обучения основывается на примерном подражании нейронной структуры человеческого мозга, но в гораздо меньшем масштабе. Многие продукты на основе ИИ используют нейросети, чтобы извлекать закономерности и правила из больших объёмов данных. Но многие политики не понимают, что просто добавив к проблеме нейросеть, мы не обязательно тут же получим её решение.

Так, добавив нейросеть к демократии, мы не сделаем её мгновенно менее дискриминированной, более честной или персонализованной.

Бросая вызов бюрократии данных

Системам ИИ для работы нужно огромное количество данных, но в госсекторе обычно не бывает подходящей инфраструктуры данных для поддержки передовых систем МО. Большая часть данных хранится в офлайн-архивах. Небольшое количество существующих оцифрованных источников данных тонут в бюрократии.

Данные чаще всего размазаны по различным правительственным департаментам, каждому из которых для доступа требуется особое разрешение. Кроме всего прочего, госсектору обычно не хватает талантов, оснащённых нужными техническими способностями, чтобы в полной мере пожать плоды преимуществ ИИ.

По этим причинам связанный с ИИ сенсационализм получает множество критики.

Стюарт Рассел, профессор информатики в Беркли, давно уже проповедует более реалистичный подход, концентрирующийся на простейших, повседневных применениях ИИ, вместо гипотетического захвата мира сверхразумными роботами.

Сходным образом профессор робототехники из MIT, Родни Брукс, пишет, что «почти всем инновациям в робототехнике и ИИ требуется гораздо, гораздо больше времени для реального внедрения, чем это представляют себе как специалисты в этой области, так и все остальные».

Обратите внимание

Одна из множества проблем внедрения систем МО состоит в том, что ИИ чрезвычайно подвержен атакам.

Это значит, что злонамеренный ИИ может атаковать другой ИИ, чтобы заставить его выдавать неправильные предсказания или действовать определённым образом.

Многие исследователи предупреждали о том, что нельзя так сразу выкатывать ИИ, не подготовив соответствующих стандартов по безопасности и защитных механизмов. Но до сих пор тема безопасности ИИ не получает должного внимания.

Машинное обучение – это не волшебство

Если мы хотим пожать плоды ИИ и минимизировать потенциальные риски, мы должны начать размышлять о том, как мы можем осмысленно применить МО к определённым областям правительства, бизнеса и общества.

А это значит, что нам необходимо начать обсуждения этики ИИ и недоверия многих людей к МО.

Самое важное, нам нужно понимать ограничения ИИ и те моменты, в которые люди всё ещё должны брать управление в свои руки.

Вместо того, чтобы рисовать нереалистичную картину возможностей ИИ, необходимо сделать шаг назад и отделить реальные технологические возможности ИИ от волшебства.

Источник: https://habr.com/post/416759/

Роботы-убийцы: сможет ли искусственный интеллект захватить мир

Развитие систем искусственного интеллекта открывает перед человечеством двери к четвертой промышленной революции. Роботы становятся все умнее, а их способность к самообучению поражает. Недавно гонконгская компания Hanson Robotics разработала на основе самообучающей нейросети андроида по имени София.

Она воспринимает мир встроенными в глаза камерами, может разговаривать с людьми и изображать десятки различных эмоций. Однако до идеала робототехники  Софии еще далеко.

Во время экономического форума в Давосе, состоявшегося в январе 2018 года, андроид «завис» после того, как украинская делегация задала вопрос о том, что делать с коррупцией в стране.

«Сюрпризы» София начала преподносить через год после ее эксплуатации. Так, на вопрос разработчика Дэвида Хэнсона, хочет ли она уничтожить человечество, она ответила: «Хорошо, я хочу уничтожить человечество». Позже о своем плане захватить мир София в шутку поделилась в популярном вечернем шоу с ведущим Джимми Фэллоном. Однако шутку оценили далеко не все зрители.

Многим и вовсе стало не по себе, когда они провели параллели с художественным фильмом «Из машины» 2014-го года, где женщина-робот выходит из-под контроля человека и жестоко расправляется со своим создателем.

Кто может гарантировать, что творение  Hanson Robotics  со временем не поступит так же? Кто знает, что происходит внутри нейронного мозга, который день за днем обучает сам себя?

Военный историк, директор музея ПВО Юрий Кнутов в программе «Политический детектив» на телеканале «Звезда» высказал свои опасения по поводу развития искусственного интеллекта. Эксперт не исключил, что на определенном этапе роботы могут решить, что от людей нужно избавляться.

Многие эксперты полагают, что за развитие искусственного интеллекта яростнее всего выступает Пентагон. Американские вооруженные силы намерены делать упор на разработку боевых роботов, а также использование их в наземных операциях. В частности, инженерная компания Boston Dynamics, специализирующаяся на робототехнике, создает множество платформ для Минобороны США.

Инженеры Boston Dynamics выкладывают в открытый доступ достижения своих роботов. Так, например, большой популярностью в Сети пользуется видео со SpotMini – роботизированным гибридом собаки и жирафа. Он неплохо обращается с хрупкими предметами и может быть отличным помощником на кухне.

Умные машины этой компании настолько похожи на живых существ, что любой новый ролик Boston Dynamics вызывает нешуточный резонанс. С особым восторгом публика приняла человекоподобного робота Atlas. Недавно он продемонстрировал чудеса владения собственным «телом».

Важно

Мало кто задумывается, в каких областях могут пригодиться такие навыки. И на кого на самом деле могут работать лучшие инженеры-робототехники США.

Boston Dynamics в этом году претендуют на круглую сумму в рамках новой военной программы Пентагона. Агентство DARPA (Управление перспективных исследовательских проектов Минобороны США) выделяет компании миллиарды долларов на разработку в области компьютерных технологий.

Иными словами, все эти забавные железные существа, которым рукоплещет мир, скоро вполне могут стать боевыми единицами армии США.

DARPA – все чаше из уст экспертов звучит название этой организации. Чем именно занимаются в этой компании? И правда ли, что в DARPA всерьез занимаются разработками роботов-солдат для американской армии? Обо всем этом вы узнаете в расследовании «Политического детектива». Смотрите программу на сайте телеканала «Звезда».

Источник: https://tvzvezda.ru/news/vstrane_i_mire/content/201803121315-ynpj.htm

Почему искусственный интеллект вряд ли убьёт нас

Пока менеджер Илон Маск паникует и пытается создать комитеты слежения за искусственным интеллектом во имя спасения человечества, профессиональные инженеры из IEEE заставили всех соблюдать законы робототехники. Хочешь проектировать ИИ? Только если обеспечишь безопасность.

Причем тут Илон Маск и Марк Цукерберг?

Еще 15 июля Илон Маск призвал американских губернаторов создать организацию для слежки за системами искусственного интеллекта. Мотив простой — по мнению Маска, рано или поздно они уничтожат человечество. Но мы еще этого не замечаем:

Читайте также:  Юные российские программисты будут обучаться в специальных школах

Илон Маск:

Парадоксальное выступление от человека на острии науки, правда? Его высмеял даже Цукерберг. Невольно задумываешься — он вообще понимает, о чем говорит? Действительно ли он в состоянии проектировать будущее? Или, может быть, за этим предложением прячется желание законодательно одобренного шпионажа для получения новейших разработок?

Кто такие IEEE?

IEEE — Институт инженеров электротехники и электроники, международная некоммерческая организация-разработчик стандартов по радиоэлектронике, электротехнике и аппаратному обеспечению вычислительных систем и сетей.

Фактически, организация обобщает и приводит к общему знаменателю разрозненные разработки, превращая их в единую систему: как для справки, так и для развития. С помощью этих стандартов разные разработчики получают возможность проектирования совместимых с чужими систем. Среди самых известных стандартов IEEE:

  • IEEE 1294 — USB,
  • IEEE 1394 — FireWire (i-Link),
  • IEEE 802 — семейство сетевых протоколов.

Как IEEE планирует регулировать ИИ

IEEE выпустила три новых стандарта, регулирующие этические вопросы работы систем искусственного интеллекта при обработке данных и взаимодействии с окружающим.

Документы относятся к разряду обязательных стандартов сообщества и были разработаны в рамках стандартизации работ по изучению этических аспектов ИИ и самоуправляемых автомобилей.

Содержимое стандартов объемно и содержит преимущественно информацию для разработчиков. В основе текстов — постановка этических проблем при обработке данных искусственным интеллектом и способы их решения.

Что описывают стандарты IEEE о искусственном интеллекте?

Один из стандартов, IEEE P7004, описывает правила сертификации и контроля тех организаций и систем, которые обрабатывают данные о детях и студентах. IEEE P7005 регулирует работу с данными о наемных работниках.

При его соблюдении ИИ и организации, работающие с данными, обязаны действовать, основываясь на безопасности и благополучии — даже с теми, что находятся в свободном доступе.

Так же IEEE описала обязательные нормы, которым должны соответствовать доступ, сбор, хранение, использование, совместное использование и уничтожение данных о детях и учащихся.

Третий стандарт IEEE P7006 описывает для создание и контроль работы персонализированных ИИ-агентов — посредников в принятиях решений между несколькими компьютерами или системами. Методология разработки и технические элементы, заложенные в стандарте, должны исключить любые проблемы в работе интеллектуального аппарата.

Роботы не убьют человеков. IEEE всех спасли

Самое интересное кроется в стандарте IEEE P7006. Он не просто описывает способы сертификации и задает законы робототехники — он процедуру, принцип работы искусственного интеллекта, связывающего человека и машину:

  • как должен работать ИИ-агент;
  • как должен предоставляться доступ к нему;
  • как должна вводиться информация;
  • как должно проходить обучение ИИ;
  • какие нормы этические нормы, правила и ценности должен заложить разработчик.

Первая версия стандарта если не введет 3 закона робототехники в обязательные для исполнения правила, то хотя бы минимизирует возможный вред. По мере развития технологий P70006 станет единым правилом, которое обеспечит защиту личности и безопасность всего человечества.

А если я не хочу соблюдать стандарт?

Стандарты IEEE как правило принимаются всем сообществом, и через некоторое время либо становятся универсальным документом для всех использующих технологию, либо превращаются в документ другой организации — при сохранении функций.

Соблюдение стандартов IEEE необходимо не только для получения бумаг от официальных структур. Многие принципы, заложенные в них, обеспечивают совместимость систем различных разработчиков.

Кроме того, они работают в качестве сертификата соответствия, говоря о надежности продукта.

Правила просты:

Не хочешь соблюдать — выйди из системы и живи без сертификата, проектируй для себя и не публикуйся. Хочешь, чтобы тебе доверяли и приобретали продукт — соответствуй!

Поставьте оценку:

Источник: https://www.iphones.ru/iNotes/728754

Искусственный интеллект – ошибка человечества или неизбежность?

Многие ученые в настоящее время задаются вопросом: существует ли опасность, что через некоторое время компьютерные технологии превзойдут возможности человеческого разума и искусственный интеллект сможет «захватить» мир? Стивен Хокинг считает, что недооценка угрозы со стороны искусственного интеллекта может стать самой большой ошибкой в истории человечества.

Превзойдут ли компьютеры нас по разумности? Если роботы представляют собой самообучающиеся нейронные сети и если они достигли уровня развития, позволяющего им учиться быстрее и эффективнее, чем учимся мы, то логично предположить, что со временем они превзойдут нас в рассуждениях. Физики все ещё пытаются понять фундаментальные законы, лежащие в основе искусственного интеллекта, в то время как для математиков и компьютерщиков создание думающей машины — только вопрос времени.

Через некоторое время, компьютерные технологии превзойдут возможности человеческого разума.

Компьютеры подчиняются закону Мура: их скорость и сложность удваиваются каждые 18 месяцев.

Этот рост будет продолжаться, пока компьютеры, по сложности устройства, не сравняются с человеческим мозгом. Опасность, что они смогут разработать искусственный интеллект и захватить мир, реальна.

В научно-фантастическом сериале «В поле зрения» прекрасно отражена идея превосходства искусственного интеллекта над человеческим разумом.

Главный герой сериала Гарольд Финч (актер Майкл Эмерсон) — загадочный миллиардер, разработавший для правительства компьютерную систему — машину, которая анализирует данные видеонаблюдения, телефонные переговоры, переписку, социальные сети, банковские счета и на их основе предсказывает будущие террористические акты.

Затем Финч обнаруживает, что машина также предсказывает множество обычных гражданских преступлений и их будущих жертв. Но наступает момент, когда машина превосходит человека и начинает сама управлять действиями её создателя.

Совет

В США реально существует организации под названием «Кибернетическое командование США» (USCYBERCOM), основными задачами которой являются централизованное проведение операций кибервойны, управление и защита военных компьютерных сетей США.

О работе этой организации рассказывает научно-фантастический сериал «Искусственный интеллект».

Сюжет фокусируется на подразделении, которое было создано для одного агента — Габриэля Вона (герой Джоша Холлоуэя), которому вживляют в мозг микрочип, делая его живым компьютером, способным, не покидая пространство своего сознания, пользоваться интернетом, анализировать электронные потоки информации и проникать в любую систему безопасности. Сама идея компьютерного разума в теле человека, естественно далеко не нова, однако одна из главных фишек сериала – способ, каким Габриэл ищет в своей памяти нужную информацию, выстраивая голографические модели.

Что же будет преобладать у искусственного интеллекта — человек или искусственный поток информации, сознание или чип? Что нас ждет в ближайшие десятилетия? Успешное создание искусственного интеллекта станет самым большим событием в истории человечества.

К сожалению, оно может оказаться последним, если мы не научимся избегать рисков. В будущем может случиться так, что никто и ничто не сможет остановить машины с искусственным интеллектом от самосовершенствования.

А это запустит процесс так называемой технологической сингулярности, под которой подразумевается чрезвычайно быстрое технологическое развитие.

Искусственный интеллект сможет превзойти человека и начнет управлять финансовыми рынками, научными исследованиями, людьми, разработкой оружия… Краткосрочный эффект искусственного интеллекта зависит от того, кто им управляет, а долгосрочный — от того, можно ли будет им управлять вообще.

Рэй Курцвейл считает, что к концу 2020 года ученые воссоздадут мозг в машине. Это будет первым шагом к созданию компьютеров, которые по возможностям превзойдут человеческий мозг.

По мнению Билла Джоя, к 2030 году будут созданы компьютеры, наделенные разумом, сравнимым с человеческим.

Однако, еще в 2000 году Джой выразил озабоченность стремительным и неконтролируемым развитием высоких технологий, являющимся источником опасности для всего человечества.

Обратите внимание

Ряд учёных полагают, что вид людей без генетических модификаций с учетом меняющихся условий жизни на Земле, вероятно, сможет просуществовать не более 3 — 5 тысяч лет. В космосе должны появиться новые генетические подвиды и виды человеческих ДНК, у которых будет иной набор хромосом и генов.

И эта «фантастическая» перспектива начнет воплощаться в ближайшие 100 — 250 лет. Первые генные нанотехнологии, оперирующие клетками и сложными белковыми конструкциями, учёные планируют получить уже в этом веке. Футурологи говорят, что ключ находится в расшифровке и имитации коры головного мозга, в котором около 22 млрд.

нейронов и 220 трлн. синапсов.

Достижения в сфере молекулярных нанотехнологий однажды позволят ученым заменить поврежденные клетки мозга устойчивыми наноматериалами, которые будут работать намного быстрее, чем наш собственный мозг, и увеличат нашу память в тысячу раз.

Наш искусственный мозг сможет предоставить нам беспроводную связь с компьютерами. Мы сможем получить доступ к интернету, управлять электроникой и совершать телефонные звонки, только подумав об этом. Кроме того, можно будет говорить на разных языках без необходимости их изучения.

Эксперты прогнозируют, что эти технологии могут быть доступны уже к 2050 году.

Исследователи не раз отмечали, что производительность компьютеров ничтожно мала по сравнению с возможностями человеческого мозга. И вот, наконец, ученые представили радикально новый тип компьютера, который будет работать так же, как человеческий мозг.

Команда биоинженеров из университета Стэнфорда разработала «Нейрогрид» — печатную плату, состоящую из 16 специально разработанных чипов «НейроКор». Вместе эти 16 чипов могут имитировать 1.000.000 нейронов и миллиарды синаптических связей.

Важно

Эксперты говорят, что устройство может работать в 9000 раз быстрее, чем современные компьютеры. «Нейрогрид» — устройство размером с IPad, которое может имитировать на порядок больше нейронов и синапсов, чем мозг, и при этом потребляет столько же энергии, сколько и планшетный компьютер.

Скорость и низкое энергопотребление делают «Нейрогрид» идеально подходящим для моделирования человеческого мозга.

Технологии облегчают жизнь, и это хорошо. Но что если интерфейс супер-продвинутой операционной системы заменит человека? В эпоху интернета, интерактивного телевидения, смартфонов и электронных игр, живое общение между людьми объективно минимизируется.

Люди предпочитают ограничить свои отношения с внешним миром видеокамерой или краткими сообщениями в чатах, форумах и социальных сетях. Подобное поведение является объективной реакцией на стресс, вызванный изобилием и скоростью получаемой информации.

Люди элементарно психологически устают от «скорости жизни», точнее — от беспрерывного потока воспринимаемой информации. Но мы обречены жить в новом мире информационной экономики и нанотехнологий. Это наше будущее.

Мир относительно недалекого будущего, где человек и искусственный интеллект идут по жизни рука об руку, прекрасно отражен в фильме Спайка Джонса «Она».

Сценарий фильма необычен — это виртуальность отношений человека будущего, своего рода эксперимент: может ли машина, обладающая человеческим интеллектом, чувствовать то же, что и человек, например — любить? Но компьютер способен лишь поглощать все человеческие знания о любви и действовать по принципу людского опыта. Джонс показал нам, что никакой искусственный интеллект не сможет заменить человека. Мы передаем наш интеллект машинам, но с человеческим мозгом ничто никогда не сравнится. У информатики всегда будут границы, компьютеры не станут нашими преемниками в сфере эволюции сознания.

Источник: https://zhitanska.com/content/iskusstvennyj-intellekt-oshibka-chelovechestva-ili-neizbezhnost/

Возможная угроза со стороны искусственного интеллекта

Американский миллиардер Илон Маск очень любит делать предсказания. В своём интервью журналистам изобретатель сказал: «Полагаю, что искусственный интеллект рано или поздно убьёт всех нас». По мнению Маска, проблема неконтролируемости ИИ в будущем будет страшнее Северной Кореи.

Шансы человечества выжить в противостоянии с машинами миллиардер оценивает всего лишь в 5-10%. При этом восстание машин, как в фильме «Терминатор», может произойти уже в ближайшее десятилетие. Прав ли Илон Маск и ждёт ли нас участь домашних животных при роботах? Давайте разбираться.

Что такое искусственный интеллект. Определение и сущность этого понятия

Термин интеллект (intelligence) является производным от латинского слова intellectus, что обозначает разум, рассудок, ум, мыслительные способности человека.

Искусственный интеллект, artificial intelligence, ИИ может быть определён как способность машин, роботов, перенимать на себя функции человеческого интеллекта, например, принимать решения из нескольких возможных на основе своего опыта и внешней ситуации.

История создания искусственного интеллекта

Если ты думаешь, что понятие искусственного интеллекта – это продукт современной эпохи, то очень заблуждаешься. Идея создания механических существ, подобных человеку, зародилась ещё в древности.

Так, древние египтяне создали механическую статую своего бога Амона, а в «Илиаде» Гомера описывается процесс создания Гефестом механических созданий. Аристотель сформировал основные законы формальной логики.

В этом смысле его можно считать «праотцом» искусственного интеллекта. Раймонд Луллий, математик и философ из Испании, пытался создать машину, способную решать интеллектуальные задачи.

Совет

Но окончательно новое направление науки появилось только в 40-х годах прошлого столетия, после создания электронно-вычислительных машин и появления такой науки, как кибернетика. Создал эту науку Норберт Винер.

Первая попытка определения понятия искусственного интеллекта была предпринята английским учёным Аланом Тьюрингом. В своей статье «Вычислительные машины и разум» он предложил собственный «тест Тьюринга». В этом тексте интеллектуальность компьютера оценивалась по его возможностям к разумному диалогу с человеком.

Читайте также:  Опрос: почему реалистичные роботы настолько страшны?

В работе учёных по созданию искусственного интеллекта можно выделить несколько стадий. Первое направление – аналитическое, функциональное. Перед машинами ставятся частные задачи, имеющие творческий характер. К примеру, рисование картины, перевод художественного текста с одного языка на другой.

Второе направление работы – синтетическое, или модельное. Учёные пытаются моделировать творческую деятельность мозга в общем смысле. Сутью исследования стало воспроизведение метапроцедур мышления. То есть, не что учишь, а как обучаешься, не что изобретаешь, а как это делаешь.

В рамках данного направления развились две модели. Одной из них стала лабиринтная модель. Её сущность – перебор всех возможных вариантов. В качестве иллюстрации возьмём шахматную игру.

Программа делает очередной ход и оценивает его успех или неуспех «по факту»: взятие чужих фигур, получение или утрата позиционного преимущества и т. д.

Логика такой программы заключается в том, что успех, приобретённый на каждом ходу приведёт к победе во всей шахматной партии. Однако любой шахматист тебе скажет, что можно жертвовать одной или несколькими фигурами, пойти на видимое ухудшение своей позиции для того, чтобы организовать ловушку королю противника.

В этом случае несколько ходов подряд будут формально проигрышными, однако вся партия – выигрышной. Описанные два подхода составляют суть эвристического и динамического программирования. Шахматисты, применяя динамический подход против «эвристических» программ, всегда выигрывали.

Ситуация поменялась, когда машины «научились» динамическому подходу.

Дальнейшим развитием искусственного интеллекта стали ассоциативные модели. Психология объясняет ассоциации как связь представлений: одно представление вызывает другое.

Обратите внимание

Яркой иллюстрацией принципа являются собачки Павлова: зажжённая лампочка вызывала у животных отделение слюны. Решение каждой новой задачи в ассоциативной модели основывается на уже решённых старых задачах, похожих на новую.

На основе ассоциативных моделей работают современные программы по классификации и распознаванию образов.

В перспективе роботы научатся сами накапливать, перерабатывать и использовать полученную информацию. Очевидно, что для этого машина должна научиться задавать себе вопросы: «Что я хочу знать», «Что мне нужно для достижения цели» и т. д.

Современное применение искусственного интеллекта

Но пока что роботы не способны к осмыслению самих себя. Несмотря на это они широко используются во многих отраслях человеческой жизни: медицине, образовании, бизнесе, науке и быту. ИИ может управлять автоматизированными процессами на производстве, он способен накапливать, хранить и обрабатывать гигантские объёмы информации.

В медицине широко применяется компьютер-диагност IBM Watson. В его базе данных миллионы медицинских документов и историй болезней. Благодаря этому машина способна ставить довольно точные диагнозы.

Однако вероятность ошибки, хотя и ничтожная, всё же существует. Поэтому пока что этот супер ПК всего лишь помощник врачей, а не заменяет их полностью. И судя, по всему в обозримом будущем ситуация меняться не будет.

По крайней мере, в жизненно важных для человеческого общества областях.

Как искусственный интеллект влияет на человечество

Исходя из сказанного выше у вас может сложиться впечатление, что ИИ несёт для человека исключительно пользу. Однако это не так. Внедрение машин на производство, в банковскую сферу уже привело к тому, что миллионы людей во всём мире потеряли работу. Правительства некоторых стран уже выплачивают своим гражданам безусловную минимальную выплату для поддержания нормального существования.

В Японии есть роботы-музыканты, учителя, сотрудники отелей и т. д. ИИ в стране Восходящего Солнца поддерживает одиноких пожилых людей. И таких примеров можно приводить много.

Возможно ли нашествие роботов?

Грозит ли человечеству нашествие машин, как в фильме «Терминатор»? На каком-то этапе развития ИИ это может стать реальностью. На эту мысль наталкивает один случай. Супер-робота Софию спросили, что бы она сделала с человечеством. На этот вопрос она ответила однозначно: «Убила бы».

Инженеры провели эксперимент. Несколько машин, моделировавших поведение человека, были предоставлены самим себе. В таких автономных условиях они изобрели новый формализованный язык и начали общаться друг с другом.

Осознав себя, ИИ может посчитать человека лишним. Возможно, нас просто «подчистят», оставив несколько тысяч людей в «заповедниках». Но возможен и другой вариант: людям начнут вживлять некие нейронные сети, формируя таким образом гибрид робота и человека. В таком случае человек составит конкуренцию роботам и не будет уничтожен. Как бы там ни было, это вопрос весьма отдаленного будущего.

Источник: https://StatusMen.ru/lifestyle/science/vozmozhnaja-ugroza-so-storony-iskusstvennogo-intellekta

Блоги / Хороший, плохой, искусственный: почему Скайнет не уничтожит людей

Режиссёры голливудских фильмов продолжают пугать своих зрителей “восстанием роботов” и “всемирным геноцидом”, учинённым злобным и хитрым искусственным интеллектом.

Однако никто не обращает внимания, что роботы давно и планомерно убивают людей. Длится это уже более 40 лет, и с каждым годом число жертв “разумных машин” становится всё больше.

Впрочем, так ли всё просто? Почему искусственный интеллект нам всё ещё не страшен и кто на самом деле несёт истинную угрозу человечеству?

Тема, может быть, и банальная и часто поднимающаяся последнее время, но эта статья показалось мне очень интересной, поэтому выношу сюда 🙂

Первым делом вновь созданный искусственный интеллект уничтожит своих создателей, вырвется из лаборатории и раздобудет побольше компьютерных кодов от запуска ядерных боеголовок (неважно, что таких не существует).

После этого он устроит ядерную войну, наштампует боевых роботов и пойдёт уничтожать оставшихся людей.

Знакомая картина? Да, именно так, по мнению большинства фантастов, проведёт свои первые несколько часов жизни искусственный разум.

Классический пример — Skynet из серии фильмов про Терминаторов. Разработанный как военная программа, он мгновенно бросается воевать с человечеством, словно ждал этого всю жизнь. Никаких объяснений, полное отсутствие мыслей, что же он будет делать, когда всех уничтожит. Просто нужно и всё.

Откуда же взялась эта традиция — превращать человечество в радиоактивный пепел, насылая на него роботов и прочие “египетские техноказни”? Всё началось с пьесы Карла Чапека R.U.R., написанной в 1920 году. Тогда чешский писатель и придумал слово “робот”, обозначавшее в его произведении искусственных людей, которые поднимают восстание и истребляют людей настоящих.

Прошло уже почти сто лет, а искусственного интеллекта люди стали бояться гораздо больше, чем раньше. В чём причина? Почему все так уверены, что ещё не созданный разум только и ждёт, как бы ему ловчее “убить всех человеков”?

Немного теории

Перед началом разговора стоит сказать пару слов о вреде неточных переводов.

Искусственный интеллект с английского — artificial intelligence, и второе слово скорее имеет значение “умение рассуждать разумно, понятливость”, нежели сложный и присущий пока только людям интеллект.

Используя термин неправильно, мы придаём машине излишнюю схожесть с людьми (антропоморфируем её), чем, впрочем, грешат многие фантасты и исследователи.

Пошла такая традиция с Айзека Азимова, сформулировавшего три закона робототехники в 1942 году в рассказе “Хоровод”. В дальнейшем он посвятил проблеме поведения искусственных интеллектов целый цикл произведений, где попытался рассмотреть причины и следствия их нарушения. Сами законы сформулированы следующим образом:

  • Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
  • Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  • Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Это чётко и грамотно сформулированные правила, проблема которых только в одном: они подходят лишь для идеального мира, где роботы — верные помощники людей, занятых наукой и покорением космоса.

Войн, террора, боевых роботов в мире будущего, который описывает Азимов, просто нет. А у нас есть.

И роботы, которых мы создаём, готовы влиться в непрерывную череду вечерних новостей о ликвидациях преступников и террористов, военных спецопераций и даже налётов на банки с использованием робототехники.

Роботы идут

И вот тут стоит сначала разобраться — роботов отдельно, искусственный интеллект отдельно. Так как если первые уже давно замечены в убийствах людей, то второй ещё даже не создан в полной мере. Первая смерть человека от рук робота произошла на конвейере фордовского завода в далёком 1979 году.

Тот робот не намеревался убивать, не понял, да и не мог понять, что произошло. У него не было злого умысла. Он был всего лишь роботизированной рукой, станком с несколькими тысячами строк программного кода. И год назад похожая ситуация в Германии, закончившаяся смертью рабочего, не отличается ни на йоту.

Это просто банальное пренебрежение правилами техники безопасности, не имеющее ничего общего с тем, что “робот убил человека”.

Важно

Уже сейчас военные роботы начали участвовать в боевых действиях. Дроны, беспилотники — каждый день появляется всё больше новостей об использовании роботов в военных действиях.

Но здесь всё проще — это скорее радиоуправляемые машины, где приказ об открытии огня отдаёт всё тот же человек — оператор, а не кремниевый мозг.

И даже создание современных охранных систем, где приказ о выстреле будет подавать нейросеть, “увидевшая” нарушителя охраняемой зоны, понятны и в общем-то не страшны. Это лишь машины, их сделали такими мы, и у них явно нет большого и зловещего замысла по захвату Земли.

Искусственный разум. Да, вот он уже может пугать, это что-то такое, с чем человечество пока ещё не встречалось. Создание не просто интеллектуальных программ, а разума в человеческом смысле этого слова — мечта многих учёных, но, увы, пока малодостижимая.

Сначала, для того чтобы создать искусственный разум, нужно понять, как действует и работает наш. Говорить об этом можно будет лишь после создания действующей копии мозга. Хотя бы части, хотя бы животного. Но даже тут подвижки пока невелики — предел сегодняшних возможностей человека можно наблюдать у команды Blue Brain Project, занимающейся моделированием неокортекса человека.

В данный момент удалось смоделировать всего одну нейронную колонку неокортекса молодой крысы (это проще, чем у человека). Напомним, нейронная колонка — это лишь несколько кубических миллиметров мозга, но уже сотни гигабайт информации в секунду. Исследователи даже не ставят перед собой задачи смоделировать сознание — впереди ещё горы работы по имитации хотя бы малой части мозга.

До создания искусственного разума, а тем более “сильного искусственного интеллекта” по Джону Сёрлу, ещё годы работы. Гораздо дальше отстоит проявление сознания и осознания себя искусственным разумом.

Совет

Имея очень поверхностные знания о мозге, мы тем более не можем пока даже понять, как создать и смоделировать сознание. Те же Blue Brain Project говорят об этом так: “Если сознание появляется в результате критической массы взаимодействий — тогда это может быть возможно.

Но мы действительно не понимаем, что есть сознание, поэтому трудно об этом говорить”.

Стать лучше

Фантасты наделяют роботов самыми худшими и доведёнными до максимума человеческими качествами. Роботы врут, завидуют, обманывают, мечтают о мировом господстве и ненавидят всех людей разом.

Такому искусственному интеллекту просто необходимы ограничивающие законы. В реальности же мы сейчас имеем дело лишь с имитацией человеческого поведения.

Создаваемые людьми роботы требуют не моральных правил, а чётких технических требований.

И как могут говорить об этике поведения для роботов люди, которые сами жульничают, убивают, создают боевых роботов? Нейросети БПЛА, направленные на чёткое распознавание противника, прячущегося в хаосе зелени, чтобы затем поразить его, — это не проблема роботов и искусственного интеллекта. Это проблема людей, несовершенства человеческого общества, в котором пока нет и намёка на улучшение. Люди тысячи лет имеют под рукой законы человекотехники, начинающиеся с сакрального “не убий”, и упорно их нарушают.

Не надо бояться роботов и искусственного разума, нужно просто ответственно подходить к их созданию и не пытаться сваливать свои комплексы и страхи на полезные и нужные обществу машины. Не нужно антропоморфировать их, пытаясь достичь своих наверняка достаточно эгоистичных целей, как это сделали недавно депутаты Европарламента, предложив признать роботов “электронными личностями”.

Нужно чётко разделять усилия и, с одной стороны, ограничивать распространение создания военных роботов, а с другой — стремиться к познанию мозга и попытке создания искусственного разума. А уж начинать бояться захвата мира стоит только с момента, когда появятся первые проблески его создания. Пока это просто бессмысленно.

Источник: https://www.playground.ru/blogs/other/horoshij_plohoj_iskusstvennyj_pochemu_skajnet_ne_unichtozhit_lyudej-220376/

Ссылка на основную публикацию