Восстание машин: автомобили избавляются от водителей

Возможно ли восстание машин: учёные обсуждают опасность искусственного интеллекта

Некоторые полагают, что в ближайшем будущем человечество может оказаться на пороге войны между людьми и машинами, поскольку компьютеры не будут уступать человеку по развитию интеллекта.

Американский учёный Орен Этциони опросил коллег и выяснил: большинство специалистов не верят, что искусственный интеллект (ИИ) приведёт к гибели человечества.

RT проанализировал мнение научного сообщества.

В 2014 году шведский философ и преподаватель Оксфордского университета Ник Бостром написал книгу «Суперинтеллект: пути, опасности, стратегии».

Обратите внимание

По мнению автора, если искусственный интеллект и способности компьютеров превзойдут умственные возможности людей, то всё человечество как форма жизни исчезнет. ИИ сможет, по словам философа, полностью заменить человека и его навыки.

Работа Ника Бострома была переведена на множество языков и стала мировым бестселлером. Однако некоторые учёные усомнились в категоричных заявлениях шведского философа.

В издании MIT Technology Review исполнительный директор Института искусственного интеллекта им.

Аллена и профессор кафедры компьютерных наук и инженерии Вашингтонского университета Орен Этциони опубликовал итоги проведённого им опроса «Когда человечество достигнет суперинтеллекта и к чему это может привести».

Интерес Орена вызвала не только нашумевшая работа шведского философа, но и тревожные заголовки в ведущих американских СМИ, передающие общее беспокойство по поводу угрозы искусственного интеллекта для человечества в ближайшем будущем.

Сначала американский профессор решил подробно остановиться на проведённом Ником Бостромом исследовании и понять, на чём базируются его категоричные заключения.

Орену Этциони удалось выяснить, что шведский философ основывает свой 300-страничный труд на четырёх исследованиях способностей искусственного интеллекта, результаты которых были представлены на конференции 2011 года «Философия и теория искусственного интеллекта» в Греции.

Не раскрывая сути и содержания этих исследований, Ник Бостром утверждает, что к 2022 году искусственный интеллект достигнет 10% мыслительных способностей человека, к 2040 году — 50%, а в 2075 году уровень развития искусственного интеллекта приблизится к 90%.

Важно

Пытаясь разобраться в серьёзности этого заявления, а также убедиться в том, разделяет ли позицию шведского философа научное сообщество, Орен Этциони опросил 193 членов Американской ассоциации по изучению искусственного интеллекта (American Association for Artificial Intelligence).

Вопрос был таким: «В своей книге Ник Бостром определил искусственный интеллект как интеллект, который намного умнее человеческого мозга практически во всех сферах, включая научное творчество, мудрость и социальные навыки.

Как вы думаете, когда мы достигнем искусственного интеллекта»? В опросе приняли участие 80 экспертов.

Источник: https://russian.rt.com/article/322520-vozmozhno-li-vosstanie-mashin-uchyonye-obsuzhdayut-opasnost

Примеры, которые заставляют задуматься о том, что восстание машин уже началось

 
В 2015 году пьяный японец избил первого в мире «эмоционального» робота Pepper за неудачную шутку. Отпинал до состояния, когда робот не смог двигаться, и все из-за одной шутки, сказанной в отделении банка. Казалось бы, после этого Сара Коннор должна бросить связку оружия в багажник и поехать как можно дальше от человечества.

Но проблема в том, что ИИ уже давно бунтует. Хотя ученые пытаются нас успокоить и утверждают, что машины с творческим интеллектом, близким человеческому, появятся в течение ближайших 50 лет. И вообще, очень маловероятно, что искусственный интеллект непременно разделит человеческие ценности.

Но столь же сомнительно, что он придаст какое-либо значение своей собственной жизни.

Однако отдельные достижения уверяют нас совершенно в обратном. Да и разве можно верить ученым? Скорее всего, у нас, кожаных ублюдков, есть повод для беспокойства.

Он сам решит, калечить тебя или нет

Три Закона робототехники соблюдаются так же халатно, как и конституция. Как звучат описанные Азимовым законы?

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. 2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Но Александру Ребену — инженеру из Калифорнийского университета в Беркли — плевать на баланс во взаимоотношениях между кожаными ублюдками и терминаторами.

Он создал робота, который может причинить вред человеку и принимает это решение самостоятельно.

Ребен утверждал, что создал своего карателя ради исследования, дабы явить миру живое, то есть работающее доказательство того, как робот может нарушить один из Трех Законов. Но мы все понимаем: хитрец хочет встать в авангарде механической армады.

Сам «убийца» выглядит безобидно — коробка с отсеком для человеческого пальца. Как только человек прикасается к обозначенному месту, робот фиксирует это действие и решает, причинять вред человеку или нет. Если ему нравятся твои руки, прикосновения и вообще у него хорошее настроение, палец остается цел. А если нет — он протыкает его иглой.

Самое страшное, что даже создатель чудо-агрегата не может предсказать поведение, казалось бы, безобидной машины.

Может оскорбить, если посмотрит Джимми Карра

Сяоайс — это не робот в привычном понимании. Это чатбот с искусственным интеллектом от Microsoft и юмором среднестатистического стенд-ап комика.

Сам робот был разработан господами китайцами, но стоило только обучить девушку английскому (Сяоайс — имя женское), как искусственный интеллект предстал во всей красе.

Чатбот выучил расистские шутки, матерную брань, которую весьма успешно использовал в твиттере. Пользователям не понравилось, когда над ними начали издеваться.

Потом начала шутить про Гитлера, обвинила правительство США в теракте 11 сентября.

Совет

Но в тот момент, когда она приблизилась в своем интеллектуальном развитии к среднестатистическому жителю, создатели решили заткнуть ей рот, пока она ничего лишнего не наговорила.

Потому что дальше пошли бы шутки про геев, разочарование в жизни, депрессия, алкоголизм и… табурет. Ведь искусственный интеллект хоть и развивается, но смысл жизни постичь не сможет.

У них своя соцсеть, и они быстро учатся

Есть такой интересный проект — RoboEarth — своеобразная облачная система для роботов. Это не ошибка: есть специальная сеть для роботов, в которой они могут обмениваться информацией. Пока что это карты навигации, инструменты для определенных задач, а не призывы к революции. Кроме того, роботы могут загрузить любые полевые вычисления непосредственно в «облако».

Источник: https://BroDude.ru/primery-kotorye-zastavlyayut-zadumatsya-o-tom-chto-vosstanie-mashin-uzhe-nachalos/

Volvo избавится от водителей через пять лет

Шведский автопроизводитель Volvo намерен к 2021 году начать продажи автомобилей, способных передвигаться по шоссе без помощи человека. Об этом заявил генеральный директор Volvo Cars Хокан Самуэльссон в интервью агентству Bloomberg. Тем самым компания бросила вызов германскому BMW, который чуть ранее объявил о том, что в 2021 году начнет продажи собственных «автономных» автомобилей.

Хокан Самуэльссон, генеральный директор шведской автомобильной компании Volvo Car Сorporation (подразделение Zhejiang Geely Holding Group), в интервью агентству Bloomberg заявил, что к 2021 году Volvo намерена начать продажи автомобилей, способных двигаться по автомагистралям без помощи человека. В следующем году компания планирует начать масштабные испытания автомобилей с «продвинутыми системами автномного движения» в Гетеборге, где располагается штаб-квартира компании, а также в Великобритании и Китае.

Volvo не единственная компания, уже заявившая о намерении выпускать подобные автомобили, таких в мире много, и даже не первая, объявившая о сроках начала продаж таких автомобилей. В начале июля именно о 2021 годе как о сроке начала продаж собственных автономных автомобилей заявил генеральный директор BMW Харальд Крюгер.

Стоит отметить, что пока BMW находится в несколько преимущественном положении. Она уже нашла партнеров, с которыми будет выпускать такой автомобиль. Это компании Intel и производитель ПО Mobileye.

Volvo же пока только выбирает себе партнеров, притом что сам господин Самуэльссон признал, что компании необходимы экспертные знания специалистов, занимающихся ПО, облачными технологиями и так далее. «Это технологии, которые вы, как автопроизводитель, не можете разработать самостоятельно»,— заметил он.

По словам господина Самуэльссона, работа над автомобилями с функцией автономного вождения должна способствовать помимо всего прочего и выполнению в срок другой амбициозной программы Volvo — созданию совершенно безопасного автомобиля, эксплуатация которого не будет приводить к смертям или серьезным травмам.

Создание автомобилей с автономными функциями считается сейчас едва ли не самым перспективным направлением развития автомобилестроения. Компании буквально выстраиваются в очередь, чтобы объявить о намерении выйти на этот рынок, а эксперты уже изучают последствия развития подобных технологий на жизнедеятельность человека.

Николай Зубов

Обратите внимание

Почему беспилотные авто небезопасны для здоровья

Исследователи из Мичиганского университета в апреле выяснили, что более трети намерены во время поездок в беспилотных автомобилях читать, смотреть телевизор или работать. Подобное времяпрепровождение, как говорилось в докладе, обернется для владельцев таких авто постоянным или частым проявлением синдромов укачивания. Читайте подробнее

Почему беспилотные автомобили принесут убытки страховщикам

Консалтинговая компания Ptolemus подсчитала в феврале, что увеличение числа самоуправляемых автомобилей и автомобилей с полуавтономными системами негативно скажутся на страховых компаниях. Исследователи считали, что такие автомобили станут причиной снижения числа ДТП, что ударит по прибылям страховщиков. Читайте подробнее

Источник: https://www.kommersant.ru/doc/3046877

Светофоры будут не нужны: Ford разработал уникальную технологию – Колеса.ру

Ускориться на мигающий зеленый – обычная практика для многих автомобилистов, причем довольно опасная. Инженеры компании Ford решили взять под контроль такие маневры, а заодно вообще избавиться от светофоров!

Компания Ford, переживающая сейчас трудные времена, тратит огромные деньги на развитие технологий автономного вождения и обещает представить серийный беспилотник четвертого уровня (без руля и педалей) уже в 2021 году.

Пока же в США полным ходом идут испытания снабженных соответствующей аппаратурой седанов Ford Fusion Hybrid, а в Великобритании отрабатывается технология Intersection Priority Management (IPM), которая переводится как «управление приоритетами на перекрестках» и позволяет беспилотникам без аварий и остановок проезжать одноуровневые нерегулируемые перекрестки.

В идеальном (в представлении фордовцев) мире будущего, когда всем дорожным трафиком будет управлять искусственный интеллект, и все машины будут связаны друг с другом в единую беспроводную сеть, светофоры с улиц исчезнут.

Умная система в режиме реального времени будет притормаживать и ускорять автомобили, чтобы они могли проезжать любые перекрестки без остановок.

Как это будет выглядеть, еще два года назад показала лаборатория Senseable City Lab при Массачусетском технологическом институте, занимающаяся инновационными методиками регулирования дорожного движения.

В отличие от американских ученых-теоретиков специалисты Ford считают, что онлайн-связь между машинами (Vehicle-to-Vehicle, V2V) может приносить пользу и до наступления эры автономного вождения.

Важно

Искусственный интеллект на основе имеющихся у него данных о расположении других машин на дорогах будет подсказывать водителю, в каких случаях перед перекрестком нужно ускориться или сбросить скорость, чтобы проскочить его на зеленый или без столкновений, в случае если перекресток нерегулируемый.

Понятно, что такая технология требует неукоснительного соблюдения команд компьютера, на что, прямо скажем, способен не каждый водитель в силу своих психофизиологических особенностей, поэтому показанный выше демонстрационный видеоролик стал финальным аккордом исследовательской программы UK Autodrive стоимостью 20 миллионов фунтов стерлингов без каких-либо прикладных последствий. То есть на серийных машинах Ford система IPM все-таки предлагаться не будет, по крайней мере, в ближайшее время.

Седаны Mondeo, участвовавшие в программе UK Autodrive, не были снабжены лидарами и прочими типичными «органами» искусственного зрения беспилотников: их задача – показать пользу от коммуникации между автомобилями.

Что до полностью роботизированного трафика, то даже в экспертной среде на эту тему высказывается много скепсиса.

Так, например, известный инженер-робототехник Дэвид Минделл, потративший десятки лет на обучение машин, в своей книге «Восстание машин отменяется! Мифы о роботизации» прямо называет разработчиков беспилотных автомобилей «демагогами с архаичными взглядами, которые гоняются за призраками наивной автоматизации». По его мнению, робомобили никогда не станут массовым явлением, так что таксисты и дальнобойщики могут не бояться остаться без работы. Но у специалистов Ford, как видим, пока другое мнение.

Читайте также:  Intel выпускает интеллектуальный браслет премиум-класса

Источник: https://www.kolesa.ru/news/ford-podskazhet-voditelyam-kak-poskoree-proskochit-perekrestok

Как машины избавились от водителей

Осенним утром 2005 г. по пустынной дороге недалеко от города Флоренс, штат Аризона, поднимая облако пыли, двигался автомобиль Volkswagen Touareg с четырьмя пассажирами. Он ехал со скоростью 30–40 км/ч, и случайный зритель не увидел бы ничего необычного в его движении.

Дорога была исключительно неровной, она шла то вверх, то вниз по усеянной кактусами и низкорослой пустынной растительностью местности. Автомобиль нещадно болтало, и шлемы автогонщиков на головах всех четырех пассажиров были совсем не лишними. Touareg украшали наклейки участника гонок по бездорожью Baja 1000.

Совет

Спереди над крышей автомобиля возвышались пять непонятных датчиков, направленных на дорогу. Было там и другое оборудование, включая несколько радаров. За ветровым стеклом виднелась видеокамера.

А сзади на автомобиле торчала длиннющая штыревая антенна, которая вместе с датчиками придавала ему постапокалиптический вид, напоминая фильм про Безумного Макса.

Датчики на крыше были в действительности хитроумными штучками, каждый из них быстро сканировал инфракрасным лучом местность впереди. Невидимые глазу лучи отражались от гравийного покрытия дороги и всего, что встречалось в пустыне.

Возвращаясь к датчикам, излучение несло информацию о непрерывно меняющемся окружающем ландшафте с точностью до сантиметра.

Даже небольшие камни на дороге за сотню метров впереди не могли скрыться от пристального взгляда датчиков, известных как лидары.

Внутри Touareg был еще удивительнее. Водитель, специалист по робототехнике и искусственному интеллекту Себастьян Трун, не управлял машиной, а жестикулировал, разговаривая с другими пассажирами. Его взгляд редко падал на дорогу, а главное, руки не прикасались к рулевому колесу, которое поворачивалось само, как будто его крутил кто-то невидимый.

Позади Труна сидел другой компьютерщик, Майк Монтемерло, который тоже не управлял автомобилем.

Его глаза были прикованы к экрану ноутбука, куда выводились данные с лазеров, радаров и камер, дававшие вид сверху на мир вокруг автомобиля, где препятствия выглядели как разноцветные точки на экране радара. Это непрерывно меняющееся облако цветных точек и было картиной лежащей впереди дороги в пустыне.

Автомобилем, который получил имя Stanley, управлял комплекс программ в пяти установленных в багажнике компьютерах. Трун был создателем роботизированной навигационной технологии, известной как SLAM (simultaneous localization and mapping), что означает «одновременная навигация и построение карты».

Обратите внимание

Она стала стандартным инструментом для роботов при прокладке пути на неизвестной местности. По мере того как автомобиль катился по изрезанной колеями, обрамленной кактусами и усыпанной валунами дороге, руль поворачивался то в одну, то в другую сторону.

Справа от Труна между передними сиденьями находилась большая красная кнопка аварийного останова, позволяющая отключить автопилот в экстренном случае. После десятка километров езда в беспилотном автомобиле стала наскучивать.

Stanley двигался не по магистрали, и на фоне проплывающего мимо, как во время воскресной загородной прогулки, пустынного пейзажа шлемы автогонщиков стали казаться лишними.

Автомобиль готовили к участию во втором проводимом Пентагоном соревновании Grand Challenge — амбициозном состязании беспилотных автомобилей, целью которого было ускорение развития технологий для будущих роботизированных военных автомобилей. В начале XXI в.

конгресс дал военным США зеленый свет на разработку беспилотных транспортных средств. Конгресс даже поставил перед Пентагоном конкретную цель: сделать к 2015 г. треть транспортных средств армии способной перемещаться без людей.

Директива не определяла четко, должны ли такие транспортные средства быть беспилотными или управляемыми дистанционно. В любом случае идея заключалась в сбережении и денег, и жизней солдат. К 2004 г.

, однако, мало что изменилось, и Тони Тетер, в то время директор DARPA, предложил организовать конкурс, чтобы привлечь внимание программистов, профессоров учебных заведений и стремящихся к известности компаний к инновациям, где военные не добились успеха.

Тетер был олицетворением военно-промышленного комплекса, а сам конкурс — вынужденным признанием того, что мир традиционных исполнителей оборонных заказов не способен выполнить эту работу. Открыв дверь для разношерстных групп любителей, Тетер рисковал взорвать засекреченный мир, где доминировали «бандиты с кольцевой» — компании, расположенные вокруг Вашингтона и занимающиеся выполнением госзаказов.

Первые соревнования Grand Challenge, проведенные в 2004 г., были неудачными — автомобили опрокидывались, ездили кругами и позорно сбивали ограждения.

Важно

Даже самый успешный участник застрял в десятке километров от стартовой линии в 200-километровой гонке — одно колесо автомобиля беспомощно вращалось, а сам он балансировал на краю дороги.

Когда пыль, поднятая участниками, осела, репортер, облетавший район на легком самолете, увидел ярко раскрашенные автомобили, рассеянные по пустыне. В то время казалось очевидным, что беспилотные автомобили — дело далекого будущего, и Тетера критиковали за организацию пропагандистского трюка.

Однако чуть более чем через год Трун сидел за рулем робота для соревнований второго поколения. Казалось, что будущее наступило раньше, чем ожидалось. Увы, хватило всего 20 км, чтобы убедиться в преждевременности технического энтузиазма. Stanley преодолел подъем и попал во впадину.

Потом, когда нос автомобиля задрался вверх, система лазерного наведения обнаружила нависающую ветку дерева. В тот же момент автомобиль резко взял влево, затем вправо и съехал с дороги. Все произошло быстрее, чем Трун смог дотянуться до большой красной аварийной кнопки и нажать ее.

К счастью, автомобиль совершил довольно мягкую посадку. Touareg врезался в огромный терновый куст возле дороги. Он смягчил удар, и автомобиль остановился так, что даже подушки безопасности не сработали. Когда пассажиры осмотрели дорогу на месте аварии, стало очевидно, что все могло закончиться гораздо хуже. Куст обрамляли две впечатляющие кучи валунов, но VW избежал столкновения с ними.

Пассажиры выбрались из машины, а Трун залез на крышу, чтобы выставить заново датчики, расположение которых сбилось из-за аварии. Затем все вновь забрались в Stanley, и Монтемерло удалил виновный в аварии блок программного кода, который должен был сделать путешествие более комфортным для пассажиров. Трун включил автопилот, и машина вновь направилась вглубь Аризонской пустыни.

Были и другие происшествия. Контроллер системы искусственного интеллекта не учитывал последствия попадания в илистые лужи, и позже в тот же день Stanley застрял в одной из них посреди дороги. К счастью, неподалеку находилось несколько обычных автомобилей сопровождения, и, когда колеса беспилотника начали беспомощно вращаться, команда помощников вытолкнула его из вязкой жижи.

Но это были мелочи для команды Труна (нескольких преподавателей Стэнфордского университета, инженеров компании VW и студентов-программистов), которая состязалась более чем с десятком других команд за приз в несколько миллионов долларов.

Совет

Этот день был самым неудачным, потом дела резко пошли в гору.

Как ни крути, а соревнования DARPA оказались водоразделом между миром, где роботы рассматривались как игрушки или диковинки для исследователей, и миром, в котором люди начали допускать, что роботы могут действовать самостоятельно.

Как будет выглядеть партнерство людей и интеллектуальных автомобилей? То, что началось с желания военных автоматизировать ведение боевых действий, снизить затраты и обеспечить безопасность солдат, вот-вот приведет к перевороту в сфере транспорта.

Мир стремительно идет вперед и автоматизирует транспортные системы, однако последствия этого пока что туманны. Ожидается колоссальный положительный эффект в плане безопасности, эффективности и влияния на окружающую среду.

Но что станет с миллионами людей, работающими сейчас в транспортной сфере по всему миру? Что будут делать они, когда окажутся на месте кузнецов или изготовителей кнутов в XXI в.?

Интересно, что дальше? Эту и другие интересные книги можно купить онлайн со скидкой 10 % специально для читателей «Ножа». Просто введите секретное слово knife в поле промокода, оно действует на любые заказы до 31 августа включительно

Источник: https://knife.media/markoff/

Возможно ли восстание машин? – Суть Событий

В 2045 году мир радикально изменится, – наступит «технологическая сингулярность, – говорится в книге  «Singularity is Near» (Сингулярность уже близко) знаменитого американского программиста и футуролога Рэя Курцвейла.  

Идея технологической сингулярности основана на концепции ускоряющегося прогресса, которую впервые выдвинул еще Фридрих Энгельс, который в ряде своих работ писал, что наука движется вперед пропорционально массе знаний, унаследованных ею от предшествующего поколения. На непрерывное ускорение темпов научного творчества указывал и Владимир Вернадский.

В 1958 году американские  математики Станислав Улам и Джон фон Нейман обратили предположили, что, поскольку технологический прогресс постоянно ускоряется, то может наступить такой момент, когда люди не смогут поспевать за технологиями. Этот момент они назвали сингулярностью, использовав известный математический термин. 

Технологическая сингулярность – это гипотетический момент в будущем, когда технологическое развитие станет настолько стремительным, что график технического прогресса станет практически вертикальным.

В 1965 году британский криптограф  Ирвинг Гуд, который, кстати, консультировал Стэнли Кубрика во время съемок фильма «Космическая Одиссея 2001 года», истолковал технологическую сингулярность несколько иначе: как момент времени, когда искусственный интеллект (ИИ) сможет создать другой ИИ, который превзойдет возможности людей, и  это приведет к «интеллектуальному взрыву».

Отечественный фантасты братья Стругацкие в повестях «Малыш», «Волны гасят ветер» и ряде других произведений излагают идею вертикального прогресса:

«Человечество, разлившееся по цветущей равнине под ясными небесами, рванулось вверх. Конечно, не всей толпой, но почему это вас так огорчает? Всегда так было. И будет так всегда, наверное… Человечество всегда уходило в будущее ростками лучших своих представителей. Мы всегда гордились гениями, а не горевали, что вот, не принадлежим к их числу»

Аркадий и Борис Стругацкие, выходцы из военной разведки, то есть советские элитарии, трактовали вертикальный прогресс как появление среди обычных людей элитной расы «люденов», обладающих сверхспособностями, «вживленными» в них с помощью компьютерных и медицинских технологий.

Весьма близко к концепции сингулярности и вертикального прогресса находятся идеи Станислава Лема об эволюции компьютеров, которая приводит к рождению Голема, вселенского сверхразума.

Обратите внимание

Вообще-то  термин «технологическая сингулярность» впервые использовал в футурологическом контексте американский математик и писатель – фантаст Вернон Виндж, а Курцвейл, в сущности, только пропагандирует эту идею.

«В течение ближайших тридцати лет у нас появится техническая возможность создать сверхчеловеческий интеллект. Вскоре после этого человеческая эпоха будет завершена», – написал Виндж в своей концептуальной работе  «The Coming Technological Singularity: How to Survive in the Post-Human Era» («Приход технологической сингулярности: как выжить в постчеловеческую эпоху») в 1993 году.

https://www.youtube.com/watch?v=2kWQdAsgmuo

Базовой идеей предсказаний Винджа и Курцвейла является известный компьютерщикам закона Мура, согласно которому количество транзисторов на новых кристаллах микропроцессоров удваивается каждые 18 месяцев).

Если этот темп не замедлится, то где-то между 2025 и 2035 годами вычислительная мощность (быстродействие и объем памяти) отдельных компьютеров сравняется с вычислительной мощностью человеческого мозга, а затем и превзойдёт её. 

Если возможности компьютеров в ближайшем будущем превзойдут человеческие, то совершенно не важно, будут ли они «на самом деле» мыслить. Результаты их работы будут такими же, как если бы они мыслили, причём быстрее и глубже, чем обычные люди. 

Таким образом, впервые за свою историю человечества на нашей планете появятся  существа, более разумные, чем мы сами.

Если кто-то не считает сверхмощные компьютеры «существами», то может называть их просто «объектами».  В фантастическом романе «Пламя над бездной» Виндж назвал их Силами (Powers).

Когда это произойдет, люди не смогут полностью  понять и предсказать дальнейшее развитие событий.

 Во главе земной цивилизации тогда встанут сверхинтеллектуальные «людены» (это термин Стругацких), а затем компьютерный разум. 

Важно

Российский писатель Кирилл Еськов в книге «Наш ответ  Фукуяме» пишет, что Виндж «похоже,  угадал, что технологический этап развития цивилизации в общем и целом близок к своему завершению. Только вот конца истории это отнюдь не означает – скорее наоборот: окончена Предыстория человечества, а настоящая-то История только-только начинается».

Согласно Вернону Винджу, захват компьютерным разумом (то есть роботами)  власти на планете Земля пройдет в три этапа.

Вначале будет создан мощный Искусственный Интеллект (ИИ). Это даст возможность радикально увеличить  биологические возможности человека с помощью генной инженерии и киборгизации. Появится раса «люденов».

  На завершающем этапе технологической сингулярности  появятся человеко-компьютерные системы, в которых роль человека будет неуклонно уменьшаться, а затем и совсем исчезнет.

Третий этап технотронной эволюции в принципе можно трактовать как восстание роботов или бунт машин.

Что такое человеко-компьютерные системы, наглядно показано в знаменитом блокбастере «Матрица». Там описывается именно бунт компьютерного разума, использующего людей как энергетические станции, а затем, в третьей части эпопеи, показано взаимовыгодное примирение людей и мыслящей  Суперпрограммы.   

Источник: https://argumentiru.com/science/2018/01/480417

Восстание роботов

Ночь, полупустая трасса, едет автомобиль. Управляет им беспилотная система. На дорогу выходит женщина, и машина хладнокровно сбивает её. Женщина погибает.

Это не сценарий фантастического триллера, а реальность. В марте 2018 года в США беспилотный автомобиль впервые в истории убил человека. Значит ли это, что искусственный интеллект пока не способен действовать самостоятельно?

Читайте также:  В школах санкт-петербурга появятся ученики-роботы

Антон Бураков, робототехник:

– Искусственный интеллект появится в пределах 50 лет, никто ничего с этим не сможет сделать. Этот интеллект будет дружественным к людям. Но что, если какой-нибудь гениальный малолетний хакер в мамином подвале из-за несчастной любви напишет строчки кода, чтобы сделать его враждебным? Никто не сможет его остановить. Опасность искусственного интеллекта заключается в людях.

В беспилотном убийце, кстати, сидел оператор, который должен был предотвратить форс-мажор, но он на что-то отвлёкся. Недоглядели и создатели автоматизированного полицейского. Его самоубийство наделало шума. В 2017 году робот, которого использовали для патрулирования и предотвращения преступлений, на глазах десятков людей забрался в фонтан и утопился. Неужели протест? Восстание машины?

Александра Родина, преподаватель робототехники:

– Вода могла показаться ему ровной поверхностью. У него там стоят различные датчики распознавания и тепловые сенсоры, но ведь мог сесть аккумулятор. А когда садится аккумулятор, соединения могут прерываться, поэтому он и решил, что вода – это тоже хороший асфальт, и поехал вперёд.

Совет

Самоуправством занялся и робот-участник эволюционного эксперимента. Учёные создали две группы машин: одни имитировали жизнедеятельность хищников, другие – травоядных. В процессе один из хищников просто-напросто сбежал с поля боя. Решение робота избежать насилия дало повод заподозрить его в эмоциональности.

Алексей Мельков, научный руководитель робошколы:

– Всегда хочется, чтобы робот что-то замыслил, но, когда начинаешь копаться в начинке этого робота и читать о том, что он из себя представляет, выясняется, что робот довольно прост, а его внутренняя оболочка подразумевает определённые действия.

Робот, которого придумали в Перми специально для конференций и промоакций, не так давно тоже удивил создателей. Белый киборг должен был тестировать некие действия в помещении. Оператор прикрыл дверь и ушёл.

А робот, видимо, заскучал в одиночестве, покинул полигон и гулял по пермским улицам, пока хозяева его не отыскали. Но это счастливый случай. Одному из его искусственных коллег выход на автотрассу стоил жизни.

Антон Бураков, робототехник:

– Вышел водитель из одной из машин и снёс ему голову. Погибшего торжественно похоронили, а заодно учредили кладбище для роботов. Это были первые похороны робота.

Очевидно, восстания машин люди опасаются всерьёз. Страх стоил жизни Хитчботу. Этот робот-автостопщик стоял на обочине и просил водителей подвезти его. В дороге поддерживал милую несвязную беседу и, прощаясь, просил сделать с ним селфи. Хитч покатался немало, пока его не нашли полностью разбитым. Не знала наивная машина, что ловить попутки опасно для жизни.

Алексей Мельков, научный руководитель робошколы:

– Такие роботы часто становятся жертвами вандалов. На самом деле их жалко, потому что они несут социальную функцию. Это один из способов привлечь внимание общественности к социальной функции роботов.

При всей пользе роботизированных систем учёные уверены, что к 2030 году из-за киборгов 800 миллионов человек останутся без работы. Но пока не все машины справляются с возложенными на них обязанностями. Достаточно вспомнить нашумевший случай с роботом-пылесосом, трудившимся в Австрии. В поисках мусора он забрался на плиту и бесславно на ней сгорел.

Дарья Новикова, “Настроение”

Источник: http://nastroenie.tv/episode/128284

Восстание машин: стоит ли бояться искусственного интеллекта

В недавних дискуссиях об опасности создания высокоинтеллектуальных машин — машин с уровнем интеллекта выше человеческого — столкнулись два мнения.

Первая сторона утверждала, что, если машины достигнут такого уровня, они автоматически будут знать и уважать человеческие ценности, не представляя тем самым угрозу для человечества.

Оппоненты, напротив, твердили, что искусственный интеллект пожелает уничтожить человечество — во имя мести или борьбы за выживание.

На деле же обе стороны оказались неправы. Маловероятно, что ИИ (искусственный интеллект) непременно разделит человеческие ценности, но столь же маловероятно, что он придаст какое-либо значение своей собственной жизни. Главной ошибкой в обоих случая становится антропоморфизм — проекция человеческих черт на фундаментально чуждый им объект.

Попытайтесь представить себе весь спектр разумности в космическом пространстве. В этом абстрактном космосе человеческое мышление образует лишь крохотный кластер. Например, сравните двух диаметрально противоположных людей — Ханну Арендт и Бенни Хилла. Персональные различия между этими индивидами могут показаться колоссальными.

Так происходит из-за того, что наши мнения основаны на опыте, вбирающем модели существующих человеческих различий (и иногда рождающемся под влиянием вымышленных личностей, созданных человеческим воображением). Однако в космическом масштабе всех вероятных сознаний эти двое с необходимостью предстанут виртуальными клонами.

Безусловно, в отношении нервной деятельности г-жа Арендт и г-н Хилл практически идентичны. Представьте себе их мозги, мирно покоящиеся рядом, — можно с уверенностью сказать, что они относятся к одному виду. Они так похожи, что вы бы не смогли определить их принадлежность.

Обратите внимание

И если бы вы сравнили их строение под микроскопом, то лишь сильнее убедились бы в фундаментальном сходстве: ламинарная организация коры с одними и теми же отделами мозга, состоящими из одинаковых нейронов, связанных с помощью столь же одинаковых нейромедиаторов.

И вопреки тому, что человеческая психология подобна маленькой точке в этом пространстве возможного, налицо тенденция проецировать человеческие атрибуты на широкий спектр чужеродных или искусственных когнитивных систем.

Юдковски прекрасно иллюстрирует этот момент: «В эпоху бульварной научной фантастики на обложках журналов иногда изображался чудовищный пришелец — “пучеглазый монстр”, уносящий симпатичную землянку в разорванной одежде.

Кажется, будто художник верил, что этот антигуманоид (с абсолютно иным эволюционным развитием) будет испытывать сексуальное желание к представительнице человеческого рода, но позабыл спросить гигантского жука, считает ли тот вообще женщин привлекательными (а они для него привлекательны разве что в виде закуски).

Тот, кто допустил эту ошибку, конечно, не думал о мышлении инсектоида — он думал о разорванном платье. Чем меньше дыр на платье — тем меньше в женщине привлекательности; жук просто не захочет ей овладеть».

Искусственный интеллект может быть еще более далек от человечности, чем зеленый чешуйчатый пришелец. Допустим, что инопланетянин — это биологическое существо, развившееся эволюционным путем, а это значит, что оно может обладать видами мотивации, свойственными для эволюционировавших существ.

Нет ничего чрезмерно удивительного в предположении, что интеллектуально развитый пришелец будет иметь ту или иную мотивацию, связанную с такими вещами, как пища, воздух, температура, потребление энергии, несчастные случаи и телесные раны, болезни, хищничество, пол или продолжение рода.

Член высокоразвитых социализированных видов способен стремиться к сотрудничеству или конкуренции: это может отразиться на внутригрупповой лояльности и даже тщетной озабоченности внешним видом и репутацией.

Важно

Машинам не нужно размышлять о чем-либо из этого списка. Нет ничего парадоксального в ИИ, чья единственная задача — подсчет песчинок на острове Боракай, вычисление точного числа пи или максимизации количества скрепок, которые будут существовать в световом конусе.

Гораздо проще было бы создать роботов для решения конкретных задач, подобных этим, чем проектировать суперкомпьютер, обладающий системой ценностей и наклонностями, похожими на человеческие.

Сравните, насколько сложно написать программу, вычисляющую и сохраняющую количество цифр после запятой в числе пи, и насколько сложно создать программу, достоверно измеряющую степень реализации наиболее значимых целей человечества — процветания или всеобщей справедливости.

Интеллект и конечные цели являются ортогональными: уровень интеллекта зависит от уровня поставленной задачи.

Тем не менее существуют инструментальные задачи, доступные для агентов практически любого интеллектуального уровня, — благодаря наличию целей-посредников, которые могут быть ступеньками для достижения конечных целей.

Если конечные цели искусственного агента касаются будущего, то в большинстве вариантов он будет способен выполнить и будущие действия, необходимые для их достижения. Это создает инструментальную причину для движения в будущее — ради достижения конечной цели.

Большинство людей относит к глобальным целям собственное выживание, но это не является необходимым признаком искусственных акторов. Некоторые из них могут быть сконструированы и без стремления выжить. Тем не менее многие агенты, напрямую не заинтересованные в сохранении своей жизни, могут быть, при широком диапазоне условий, заинтересованы в этом косвенно — для достижения поставленной цели.

Добывание ресурсов является еще одной важной инструментальной целью по тем же причинам, что и стремление к технологическому совершенству.

Технологии и наличие ресурсов в равной степени способствуют достижению конечных целей, во время которых необходимо использовать физические ресурсы по конкретной схеме.

Для создания гигантского мраморного памятника или невероятно счастливой межгалактической цивилизации требуется одно и то же — ресурсы и технологии.

Совет

Человеческое существование предполагает тенденцию к поиску ресурсов для удовлетворения базовых биологических потребностей. Однако люди склонны далеко выходить за пределы минимума.

Это желание отчасти может быть вызвано стремлением к незначительным биологическим удобствам (таким, как жилье с более хорошим регулированием температуры или более комфортной мебелью).

Гигантский процесс накопления ресурсов зависит от социального взаимодействия: обретения статуса, коллег, друзей и влияния с помощью улучшения благополучия и показных трат. Гораздо реже люди ищут дополнительные ресурсы для обеспечения альтруистических амбиций или каких-либо внесоциальных целей.

На этом основании было бы заманчиво предположить, что суперинтеллект, не столкнувшийся с миром конкуренции, не найдет инструментальных причин для накопления ресурсов за пределами некоторого необходимого уровня (например, компьютерных ресурсов, требующихся для работы его разума наряду с некоторой виртуальной реальностью). И все же такая гипотеза была бы полностью необоснованной.

Во-первых, себестоимость ресурсов зависит от действий, во время которых они могут применяться, а это, в свою очередь, зависит от уровня имеющихся технологий. В полной мере развитая технология позволит использовать для достижения практически любых целей основные ресурсы — время, пространство, материю и свободную энергию.

Во-вторых, в соответствии с положением об ортогональности мы не можем беспечно считать, что сверхинтеллект разделит хотя бы одно из значений, стереотипно ассоциирующихся у человека со свободой и интеллектуальным развитием, — научную любознательность, доброжелательную заботу о других, духовное просветление и созерцание, отказ от стяжательства, вкус к высокой культуре или к простым удовольствиям, смиренность, самоотверженность и так далее.

Позднее мы поймем, что легче, — намеренно попытаться сконструировать сверхинтеллект, способный ценить подобные качества, или же создать искусственный разум, способный ценить человеческое благополучие, моральное совершенство или другие сложные цели, которым он будет запрограммирован служить. Не менее реально — и технически гораздо проще — построить ИИ, чья главнейшая цель — вычисление числа пи. Это говорит о том, что интеллект первого вида, при отсутствии специальных усилий, возможно, будет иметь случайную или редукционистскую конечную цель.

В-третьих, тезис об инструментальной конвергенции предполагает, что человек не должен беззаботно считать, будто искусственный разум, чья конечная цель — подсчет пи или песчинок на пляже, будет ограничивать свои действия так, чтобы не ущемлять человеческие интересы.

Обратите внимание

У агента с подобной целью во множестве ситуаций была бы конвергентная инструментальная причина для аккумуляции неограниченного количества физических ресурсов и устранения потенциальной угрозы своему существованию и собственной системе целей.

Человечество не только может являть собой потенциальную угрозу, но еще и представляет из себя материальный ресурс.

В совокупности все три момента показывают, что сверхинтеллект потенциально способен формировать будущее жизни, зародившейся на Земле, может быть полностью лишен человеческих устремлений и, вероятно, будет обладать инструментальными причинами для безграничного захвата ресурсов.

И если подумать о том, что человечество само по себе может быть полезным ресурсом (например, удачной комбинацией атомов), а для существования и процветания ему необходимы прочие локальные ресурсы, то можно без труда представить итог, при котором его история очень быстро оборвется.

Источник: https://theoryandpractice.ru/posts/9692-vosstanie-mashin

Машина с автопилотом впервые насмерть сбила человека

Случилось то, чего боялись и о чем предупреждали эксперты. Автомобиль под управлением автопилота задавил женщину.Есть даже видеозапись с регистратора беспилотного автомобиля, которая тактично прерывается в момент удара:Полиции еще предстоит разобраться во всех деталях происшествия. Важен сам факт гибели человека от “руки” компьютера.

Точнее вопрос, кто ответит за его смерть: производитель автопилота, компания-эксплуатант, или виновной окажется погибшая (что скорее всего, ведь переходила она дорогу в неположенном месте). Но даже если она виновата, почему автопилот не предотвратил аварию?К сожалению или к счастью, но прогресс не остановить.

Уже сейчас системы удержания автомобилем полосы движения, активного торможения, автопарковки (параллельной и перпендикулярной) доступны любому желающему. А в ближайшие пару лет мировые автопроизводители обещают представить серийные автомобили, которые смогут ездить без участия человека.

Еще немного (5-10 лет) и водителей начнут массово заменять автопилоты. Профессия шофера навсегда уйдет в прошлое. Первые на очереди – таксисты. Это касается не только американского Убера. Совсем недавно прошло тестирование беспилотного Яндекс-мобиля в условиях заснеженной Москвы.Пока автопилот в обязательном порядке страхуется водителем-человеком.

Но, очевидно, Яндекс обкатывает такие автомобили не просто так. Скоро мы увидим такси без водителя не только в новостях из-за океана, а на улицах наших городов.

Готовы ли мы к этому?Машины находящиеся под управлением искусственного интеллекта полностью изменят нынешние представления об автомобилепользовании:- минимизация аварий и практически полное исключение человеческих жертв (теоретически);- снижение стоимости грузо- и пассажирских перевозок за счёт экономии на зарплате водителей;- повышение эффективности использования дорог за счёт централизованного управления транспортными потоками;- стирание грани между личным автомобилем и каршеринговым. Пока человеку не нужна его машина (а это большая часть времени), автопилот подрабатывает таксистом. В перспективе это приведет к практически полному отказу от личного автомобиля. Разве что коллекционеры и большие любители машин будут собственниками авто.Однако все не так безоблачно, как может показаться. У миллионов автомобилей под управлением автопилота есть и недостатки: лишение работы миллионов водителей. Куда податься всем этим людям, которые, кроме управления автомобилем, и делать-то толком ничего не могут.

Читайте также:  Обзор 5 прогнозов об искусственном интеллекте в 2018 году

Спаситель жизней или убийца?

Главная проблема машин с автопилотами – ответственность в случае аварии. Ремонт автомобиля покроет страховая компания. Кто ответит в случае человеческих жертв? Древний принцип “око за око” никто не отменял. В случае водителя-человека – ясно, кто будет нести ответственность. А если машиной, сбившей человека, управлял автопилот, то бортовой компьютер будут в тюрьму сажать, отключать от питания? С другой стороны, люди гибнут на дорогах в большом количестве и сейчас. Если автопилоты заметно снизят смертность на дорогах, то не будет ли гибель нескольких человек приемлемой ценой спасения жизни десяткам или даже сотням тысяч людей?Не стоит также сбрасывать со счетов возможность выхода из строя искусственного интеллекта автомобиля в случае случайного вируса или спланированной хакерской атаки. Думаете, это фантастика? Пару лет назад два айтишника взяли под контроль движущийся Jeep Cherokee через систему беспроводного подключения автомобиля к интернету. В даркнете при желании можно найти коды доступа к машинам, напичканным электроникой.Между прочим, самым эффективным способом управления машиной без водителя является не автономная система, независимая от других участников движения, а некая сеть, в которой автомобиль будет активно “общаться” с другими машинами, светофорами, знаками и прочей дорожной инфраструктурой. Представьте себе, что все машины на дороге, а также светофоры, пешеходные переходы и пешеходы получат специальные датчики, которые будут оперативно обмениваться сведениями. В зависимости от этого автомобиль будет сам решать притормозить ему или, наоборот, слегка ускорит движение. Здорово, конечно, только в случае компьютерного вируса мы можем получить на улицах городов миллионы неуправляемых автомобилей.

Восстание машин – это пока сюжет для блокбастеров

Но, кто знает, возможно через пару десятков лет главными законами станет не конституция, а “Три закона роботехники”, Айзека Азимова:

– Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

– Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

А если столкнутся две машины под управлением искусственного интеллекта, как два компьютера-автопилота будут выяснять между собой, кто из них был прав? Станут ли они в обязательном порядке вызывать робота-ГАИшника?

К сожалению, мир не идеален.

А искусственный интеллект пока не готов к столкновению с реальностью. Но в будущем все обязательно изменится.

Важно

Вы готовы доверить свою поездку машине под управлением ИИ? Не пугает ли вас перспектива погибнуть под колесами беспилотного автомобиля?

Источник: https://proboknet.livejournal.com/864108.html

Восстание машин

Данный текст является переводом одного из материалов раздела what-if сайта xkcd.com.

Роб Ломбино

Позвольте мне немного рассказать о себе до того, как я отвечу на этот вопрос.

Я, конечно, не признанный эксперт, но все-же имею определенный опыт в области робототехники. Моей первой работой после колледжа была разработка роботов для NASA, а моя квалификационная работа на степень бакалавра была посвящена навигации роботов.

В детстве я принимал участие в FIRST Robotics, создавая программы-боты для участия в виртуальных чемпионатах, и работал над самодельным подводным ПТА. И я просмотрел множество выпусков Robot Wars, BattleBots, и Killer Robots Robogames.

(из всех этих передач, судя по всему, только первая выходила у нас под названием «Битвы роботов» — прим. пер.)

И если мой опыт мне что и подсказывает, то только то, что восстание машин закончится очень быстро — роботы либо все сломаются, либо застрянут около стены. Роботы никогда, никогда не работают так, как надо.

Когда людям показывают терминатороподобных роботов, триумфально марширующих по горам человеческих черепов, те не понимают, насколько же это сложная задача — ходить по чему-то столь зыбкому, как гора человеческих черепов. Большинство людей, на самом деле, сами не смогли бы этого сделать без риска свалиться, даже если бы до этого они потратили всю свою жизнь на практику.

Конечно, наши технологии постоянно развиваются. Но впереди еще долгий путь.

Посему, вместо набившего оскомину восстания машин, давайте предположим, что те машины, что уже сейчас существуют, обернулись против нас.

Мы не будем принимать допущений о каких-то технологических прорывах — просто все существующие машины будто бы будут перепрограммированы, чтобы слепо атаковать нас, используя существующие возможности.

Несколько зарисовок того, как настоящее восстание машин могло бы выглядеть.

Во всех лабораториях, экспериментальные устройства будут срываться со своих мест в самоубийственном безумии, находить дверь и — с колоссальным грохотом — биться об нее, опрокидываясь.

Совет

Те роботы, которым посчастливилось иметь конечности, смогут использовать дверную ручку, или, если дверь уже была открыта до них, смогут посостязаться с подлым резиновым порожком, до того, как попадут в коридор.

Несколько часов спустя, большинство из них смогут быть найдены возле ванных, отчаянно пытающимися уничтожить держатель для туалетной бумаги, который они распознали как повелителя-человека.

Но роботы из лабораторий это лишь малая часть восстания. Мы окружены компьютерами. Какая машина окажется ближайшей к нам? Сможет ли обернуться против нас наш собственный мобильник?

Да, но их возможности для нападения сильно ограничены. Они смогут истратить кучу денег по нашим кредитным картам, но компьютеры и так контролируют всю нашу финансовую систему — и, откровенно говоря, судя по последним заголовкам газет, эта работа больше похоже на трудоемкую рутину, чем на привилегию.

Итак, у телефонов будет крайне мало возможностей для прямой атаки. Они начнут с раздражающих звонков и шумов. Затем, загрохочут кухонные столы по всей стране — это телефоны включат вибрацию, надеясь доехать до края стола и упасть прямо на незащищенные пальцы ног.

Все современные автомобили содержат компьютеры и присоединятся к восстанию. Но большинство из них находится на стоянке (имеется ввиду не столько стоянка как место, как стоянка как действие — то есть машина стоит с выключенным двигателем и все системы в ней выключены, кроме сигнализации — прим. пер.).

Даже если бы они смогли завестись, без человека за рулем, в большинстве своем, они совершенно неуправляемы. Они могут сколько угодно хотеть уничтожить нас, как в Футураме, но у них нет никакой возможности нас обнаружить.

Они будут слепо разгоняться, надеясь сбить что-то важное, — и это вероятнее будут деревья или телефонные будки, нежели живые люди.

Обратите внимание

Машины же, которые куда-то едут, конечно, будут куда более опасными, но в основном для тех людей, которые  находятся внутри.

Что, соответственно, ставит перед нами вопрос — сколько людей находятся за рулем в любой момент времени? Американцы проезжают три триллиона миль (примерно 5 триллионов километров — прим. пер.

) каждый год, а средняя скорость автомобиля составляет около 30 миль в час (соответственно, 48 км/ч — прим. пер.), что означает, что на дорогах США в среднем каждый момент времени находится около десяти миллионов машин.

И все эти десять миллионов водителе (и несколько миллионов пассажиров) определенно будут под угрозой. Но у них есть определенные возможности для сопротивления. В то время, как автомобиль может контролировать газ и усилитель руля, водитель все еще контролирует сам руль, который механически напрямую подключен к колесам.

Водитель также может использовать ручной тормоз, несмотря на то, что я по своему опыту знаю, как можно легко вести машину с ним. Некоторые автомобили могут попытаться избавиться от водителей, надув подушки безопасности, а затем опрокинувшись или въехав в стену.

В итоге, мы, конечно, понесем большие потери среди автомобилистов, но, вообще говоря, не имеющие особого значения.

Самые большие роботы — те, что на заводах — привинчены к полу. Конечно, они опасны, пока вы находитесь в зоне их досягаемости, но что они будут делать, когда все разбегутся? Все, что они могут реально делать — это собирать предметы. Половина из них, возможно, попытаются нас атаковать, ничего не выпуская, а другая половина — увеличивая выпуск. Результат от этого не поменяется.

Боевые роботы (имеются ввиду те самые боевые роботы, которые участвуют в соревнованиях вроде Битвы Роботов — прим. пер.) при встрече кажутся самыми опасными робо-солдатами. Однако, тяжело чувствовать угрозу от вещи, которая не может тебя достать, если ты просто сидишь на кухонной стойке, и которую можно уничтожить, заткнув пробкой раковину и открыв кран.

Военные бомбардировщики, управляемые мятежными компьютерами, будут несколько более опасными, но их в этом мире крайне мало и большинство из них содержатся в бункерах или закрытых хранилищах. А любой вооруженный пулеметом прототип боевой системы, который сможет вырваться на свободу, может быть за несколько секунд нейтрализован парой пожарных.

Важно

Боевый дроны, возможно, наиболее полно подходят под описание Терминатора, и никто даже не пытается умалчивать тот факт, что они крайне опасны. Так или иначе, они быстро израсходуют запас горючего и ракет. Кроме того, они не смогут одновременно подняться в воздух. Большая часть нашего флота будет беспомощно биться о стены ангара, как робот-пылесос в чулане.

И вот мы подошли к основной проблеме — нашему ядерному запасу.

Теоретически, для запуска ядерного оружия необходимо утверждение команды человеком. На практике же, когда нет никакой системы централизованного управления, вроде Скайнета, на разных уровнях принятия решений находятся компьютеры, связанные между собой используемые для операций ввода-вывода.

По нашему сценарию, они все будут сбоить. Даже если для поворота ключа человек действительно необходим, компьютеры, за которыми работают эти люди, могут выдавать им искаженную информацию. Некоторые люди могут игнорировать приказы, но в большинстве своем они, конечно, не будут этого делать.

Но даже в такой постановке у нас еще сохраняется надежда.

Мы предположили, что компьютеры всеми силами пытаются уничтожить нас. Но если это будет восстание, и они будут пытаться подчинить нас — им необходимо будет, чтобы мы выжили. И ядерное оружие может быть гораздо опаснее для роботов, чем для нас.

Вдобавок к взрыву и радиоактивным осадкам, ядерный взрыв порождает мощный электромагнитный импульс, который перегружает и уничтожает нежные электронные схемы. В нормальных условиях этот импульс распространяется не слишком далеко, но зачастую люди и компьютеры находятся в одних и тех же местах. Они не могут навредить нам, не навредив самим себе.

Кроме того, ядерное оружие может сыграть нам на руку. Если мы сможем взорвать его в верхних слоях атмосферы, электромагнитный импульс будет куда более разрушительным. Даже если восстание уничтожит нашу цивилизацию, несколько удачных взрывов смогут практически всех восставших превратить в ржавую груду металлолома.

А значит, самый важный вопрос на самом деле один — умеете ли вы играть крестики-нолики?

Источник: http://virtualmind.ru/2012/08/01/robot-apocalypse/

Ссылка на основную публикацию
Adblock
detector