Если ничего не предпринять, то созданные роботы смогут убивать людей

10 случаев с роботами, убившими людей

Развитие робототехники и автоматизации, безусловно, необходимы для перехода человечества на новый технологический уровень. Но, как и в любой другой высокотехнологичной сфере, здесь есть свои риски. И ставка в этих рисках может быть самой высокой – ваша жизнь.

В этом мы убедились на примере недавнего инцидента с беспилотным автомобилем Uber, в котором погиб пешеход.

Проблема усугубляется тем, что нынешний уровень развития ИИ не позволяет бездушным машинам быстро и адекватно определять уровень опасности, а следовательно, и понимать — находится ли перед ним человек или материал, с которым робот был запрограммирован работать.

Обратите внимание

Пример трагедии, в результате которой под колесами беспилотника Uber погибла женщина, далеко не единственный. Для беспилотных автомобилей – один из, но не для производственной среды, где людям приходится работать бок о бок с опасными машинами каждый день. В критически опасных ситуациях, когда холодная сталь сталкивается с живой плотью, последняя всегда остается в проигрыше.

Сегодня мы поговорим о десяти случаях гибели людей от «рук» роботов. Некоторые примеры содержат весьма неприятные подробности, поэтому перед тем, как вы начнете это читать, советуем убрать от экрана детей. То же самое, если вы являетесь довольно мнительным человеком – лучше закройте эту страницу и поберегите нервы. Мы предупреждали!

Джошуа Браун

Джошуа Браун стал первым человеком, погибшим в результате аварии с участием беспилотного автомобиля.

Трагедия случилась 7 мая 2016 года, когда двигавшийся по дороге американского городка Уиллистон электромобиль Tesla Model S, оснащенный системой беспилотного управления, не смог определить, что перед ним находится – чистое небо или поворачивающая направо 18-колесная грузовая фура.

Автомобиль Брауна влетел под центральную часть тягача как нож в масло и через мгновение вышел с другой стороны. Машина со срезанной крышей вылетела с дороги, пролетела через два забора, а затем врезалась в столб.

После внутреннего расследования Tesla заявила, что в софте автомобиля не было обнаружено никаких ошибок, и сразу же попыталась оградить себя от любого обвинения в этой аварии. При этом об инциденте публично было объявлено лишь 30 июня, то есть фактически через месяц после аварии.

В опубликованном отчете говорилось, что автомобили модели Model S проехали уже более 210 миллионов километров и до сих пор не было ни одной аварии со смертельным исходом, когда для обычных автомобилей этот показатель в среднем составляет 150 миллионов километров.

Компания также указала, что система автопилота ее автомобилей на момент аварии не была идеальной (полноценной), а потому правила четко требовали от водителя постоянного внимания и наличия рук на руле. За время этой 37-минутной поездки Браун только на 25 секунд убрал руки с руля.

Они и оказались для него последними в его жизни.

Расследование Национального совета по безопасности на транспорте (NTSB) показало, что ни Браун, ни система автопилота перед столкновением не задействовали систему торможения автомобиля.

Важно

Подушки безопасности электрокара не раскрылись до тех пор, пока автомобиль не вылетел с дороги и проехал через кусты, расположенные на частном участке.

Медицинские эксперты заявили, что Браун, вероятнее всего, погиб сразу после того, как автомобиль попал под тягач.

Водитель тягача заявил, что Браун смотрел фильм о «Гарри Поттере» в момент аварии. Проверка NTSB действительно показала наличие microSD-карты с фильмом о «Гарри Поттере», но не смогла точно сказать, действительно ли Браун был отвлечен просмотром фильма на лэптопах Asus или Chromebook, также обнаруженных в автомобиле.

Роберт Уильямс

Роберт Уильямс стал первым человеком в истории, убитым роботом. Инцидент произошел на фабрике Ford в городе Флэт-Рок, штата Мичиган 25 января 1979 года. Уильямс погиб от роботизированной руки весом в 1 тонну, которая его ударила, когда он пытался самостоятельно достать новую изготовленную деталь.

Задача роботизированной руки заключалась в перекладке новых деталей с одного места на другое. Однако накопившиеся ошибки в ПО, указывающие неправильную информацию о количестве деталей, находившихся в тот момент на стеллаже, заставили Уильямса самостоятельно подняться по лестнице и достать нужную деталь.

В этот момент машина его и убила. Расследование показало, что причиной гибели человека стала очень слабая техника безопасности на предприятии, и в том числе отсутствие предупреждающих звуковых сигналов, которые говорили бы об опасном присутствии человека.

Компания выплатила семье погибшего 10 миллионов долларов.

Девять южноафриканских солдат

В результате инцидента, произошедшего в 2007 году, погибло девять южноафриканских солдат и еще 14 получили серьезные ранения. В этот раз сбой дала установка противовоздушной обороны, которая открыла неконтролируемый огонь во все стороны.

Убийцей стало автоматическое компьютеризированное зенитное орудие Эрликон GDF-005. Оно управлялось системой, предназначенной для автоматического поиска, захвата и атаки противника без участия человека.

Орудие даже имело систему самостоятельной перезарядки, что в нашем случае могло сделать его еще смертоноснее.

Солдаты проходили тренировку на одной из баз Северо-Капской провинции ЮАР, когда зенитное орудие сначала заклинило, потом, по словам очевидцев, в нем что-то взорвалось, а затем зенитка открыла неконтролируемый огонь, выпустив из двух своих стволов двести пятьдесят 35-мм фугасных снарядов в людей, находившихся рядом с ним.

В числе предполагаемых причин «бунта» зенитного орудия назывались и сбой в программном обеспечении, и механические неисправности.

Согласно комментариям представителей некоторых компаний, занимающихся производством оружия, подобный инцидент был далеко не единственным, и им уже приходилось сталкиваться с аналогичными ситуациями.

Просто этот случай оказался первым, когда в таком инциденте погибли люди.

Мика Джонсон

7 июля 2016 года в американском городе Даллас произошла стрельба со смертельным исходом.

На почве гнева по поводу недавних убийств полицейскими нескольких темнокожих жителей, прокатившихся волной в различных городах США, Мика Джонсон застрелил пять полицейских и ранил еще девятерых, двое из которых были гражданскими.

Первых трех полицейских он убил около 9 вечера, во время еще мирных на тот момент протестов. После этого он попытался скрыться в колледже в Эль-Центро, где на входе убил еще одного офицера полиции и занял выжидающую позицию, чтобы убить еще несколько полицейских.

В течение последующих пяти часов полиция безрезультатно пыталась вести с Джонсом переговоры, однако тот не желал сдаваться и угрожал взорвать несколько бомб.

В конечном итоге терпение у полиции закончилось, и офицеры предложили Джонсону два выбора: либо он сдается и выходит наружу с поднятыми руками, либо остается внутри и в таком случае полиция готова применить силу. Убийца решил выбрать второй вариант.

Вскоре преступник понял, какую силу имели в виду полицейские, когда те прицепили брикет взрывчатки C4 к руке робота и отправили последнего в подземную парковку колледжа, где прятался убийца.

Машина, «пожертвовав» собой, забрала в ад и Джонсона. Это был первый случай, по крайней мере в полицейской практике, когда для устранения преступника использовался робот.

Ирония еще и в том, что сам робот предназначался для разминирования.

Совет

Полиция и до этого инцидента иногда использовала роботов для обезвреживания преступников. Правда в таких случаях, как правило, речь шла о светошумовых и дымовых гранатах, чтобы преступника можно было взять живьем.

Кроме того, работе с роботами обучают и спецподразделения SWAT, которым чаще приходится иметь дело с террористами.

В то же время американские войска еще во время Иракской войны пользовались аналогичными тактиками борьбы с повстанцами.

Кендзи Урада

Кендзи Урада стал второй жертвой робота в истории, а также первой и далеко не единственной жертвой, погибшей от руки робота, в Японии. Инцидент произошел в 1981 году на заводе компании Kawazaki Heavy Industries в городе Акаси, когда Урада производил ремонт одного из роботов.

Как выяснилось позже, робот в нужный момент выключен не был, хотя должен был. Механическая рука столкнула бедного инженера в дробилку, где мужчина и погиб. Фактически это первый случай, когда машина убила человека с помощью другой машины.

Спасти бедолагу не удалось – подоспевшие к месту трагедии коллеги Кендзи просто не знали, как выключить дробилку.

После долгих разбирательств инспекторы пришли к выводу, что Урада не забыл выключить технику – нужный тумблер он все-таки нажал. Однако после этого он сам же случайно зацепил тумблер, тем самым активировав только что отключенное устройство.

Судя по тому, что Кендзи не остановила защитная решетка – которая должна опускаться автоматически, если робот находится во включенном режиме, – тумблер был включен уже после того, как Урада пролез через ограду.

После случившегося производители сделали определенные выводы и еще больше усилили защитные системы роботов.

Неизвестный

Трагедия произошла в 2015 году на заводе автоконцерна Volkswagen в немецком городе Баунаталь.

Неназываемый 21-летний молодой человек входил в команду инженеров, разработавших робота и занимавшихся его установкой.

Машина убила своего создателя, проломив тому грудную клетку, после того как схватила и швырнула о металлические пластины. От полученных травм, несовместимых с жизнью, человек скончался в больнице.

Обратите внимание

СМИ сообщали, что робот-убийца должен был использоваться на линии по производству двигателей. Как и положено по технике безопасности, робот находился внутри защитной клетки.

В то же время в ней находился и инженер, занимавшийся установкой и настройкой машины.

В своем заявлении Volkswagen предположила, что установка могла двинуться по сигналу другого рабочего, который находился в тот момент с внешней стороны. Вследствие ошибки робот и убил несчастного.

Ванда Холбрук

В июле 2015 года крупно не повезло 57-летней Ванде Холбрук, сотруднице завода Ventra Ionia Mains в Детройте, производящего автозапчасти (бамперы и прицепы для грузовиков).

На заводе Холбрук занималась мониторингом неисправностей на линиях.

Тогда никто и подумать не мог, что трагическое происшествие внезапно оборвет ее жизнь, а причинной ее смерти станет сбой в механизме робота, который своими «руками» раздробит Ванде голову.

Как правило, сборочная линия на заводе разделена на несколько секций, в каждой из которых находятся роботы, занимающиеся своей частью сборки и предположительно не способные дотянуться до другой секции. Мы говорим «предположительно» потому, что один робот каким-то образом все-таки это сделал.

Как писалось в отчете комиссии, расследовавшей эту трагедию, «рука робота неожиданно схватила Ванду, дотянувшись до секции, где она работала. После этого, ударив и раздавив голову Ванды между сцепками сборки, попыталась поместить ее голову в специальное приспособление-зажим».

Рабочее место Ванды занимало площадь 800 квадратных футов, в котором роботы брали бамперы грузовиков и приваривали к ним металлические пластины. В документах писалось, что она работала как бы в клетке в тот момент, когда рука робота проникла на ее территорию и прижала ее голову к арматуре.

То, что произошло ЧП, другие сотрудники Ventra заметили лишь после того, как некоторые обычные операции перестали функционировать привычным образом. Именно после этого они направились в секцию Ванды Холбрук и решили выяснить, что произошло. Холбрук была найдена коллегами в бессознательном состоянии и умерла через 40 минут после аварии.

Рука робота фактически пыталась установить голову Ванды в специальный зажим для детали, что само по себе показалось крайне невероятным, поскольку зажим не может удерживать сразу две детали одновременно – на момент инцидента деталь уже находилась в зажиме.

Читайте также:  Обзор 5 прогнозов об искусственном интеллекте в 2018 году

Муж погибшей подал иски против пяти компаний, участвовавших в производстве этого робота.

Ана Мария Витал

В 2009 году роботом-паллетизатором компании Golden State Foods на заводе в промышленном районе Лос-Анджелеса была убита 40-летняя Ана Мария Витал. Машина использовалась в процессе установки упаковки (коробок) на палету (поддон).

В какой-то момент одна из коробок застряла внутри робота, и Мария вошла в его клетку для того, чтобы восстановить ход упаковки. Так как машина все это время была включена (зачем нам техника безопасности?), робот схватил Ану Марию, как одну из упаковок, с которыми он работал, а затем просто раздавил ее тело, несмотря на попытки механиков ее освободить.

Рамжи Лал

В 2015 году 24-летний Рамжи Лал, работавший загрузчиком металла, был заколот до смерти одним из роботов завода компании SKH Metals в индийском городе Манса.

Задача робота сводилась к перемещению сваренных между собой металлических листов. Один из таких листов оказался неправильно расположен, и Рамжи попытался его поправить.

Правда, оказался недостаточно расторопным, и рука робота заколола его острым краем листа в живот. Сообщалось также, что погиб он от удара током.

Важно

На самом деле Лал умер не сразу. Очевидцы произошедшего вызвали скорую, и человека привезли больницу, где через 20-30 минут он и скончался.

Вскрытие показало, что его ребра и брюшная полость превратились в настоящее месиво, а умер он от обширного внутреннего кровотечения. При этом никаких признаков поражения током патологоанатомы не нашли.

Однако у полиции на этот счет, видимо, оказалось свое мнение. В официальном отчете говорилось, что причиной смерти явилось смертельное поражение электрическим током.

Регина Эльза

В июне 2016 года, за две недели до собственной свадьбы, от «руки» робота погибла Регина Эльза. Ей было всего 20 лет. Несчастный случай произошел на фабрике Ajin USA, занимающейся производством деталей для автомобилей компаний Hyundai и Kia.

В тот судьбоносный день Эльза с коллегами пыталась починить вышедшего из строя робота. На самом деле они не должны были этого делать, однако многочисленные звонки в ремонтный отдел эффекта не возымели. Там просто никто не брал трубку.

В итоге их решение попробовать починить робота самостоятельно оказалось роковым для одного из сотрудников. Робот неожиданно перезагрузился и очень сильно толкнул Эльзу в другую машину, нанеся ужасные травмы.

Сотрудницу фабрики сначала доставили в медицинский центр Восточной Алабамы, а затем вертолетом отправили в травматологический центр в Бирмингеме. К сожалению, травмы оказались очень серьезные, и на следующее утро девушка скончалась.

Инцидент привлек повышенное внимание властей. Было установлено, что руководство фабрики Ajin USA, стремясь повысить прибыль, нарушило сразу несколько протоколов безопасности.

Всего за две недели до инцидента Министерство труда США выдвинуло предприятию иск в размере 2,7 миллиона долларов за нарушение 27 различных правил безопасности. Проверка также показала, что сотрудники Ajin USA часто перерабатывали.

Иногда руководство требовало от них работать 7 дней в неделю без выходных и часто подначивало самостоятельно ремонтировать вышедших из строя роботов.

Источник: https://Hi-News.ru/robots/10-sluchaev-s-robotami-ubivshimi-lyudej.html

Восстание машин. Смогут ли роботы пойти войной на людей

Искусственный интеллект уже способен диагностировать рак, высчитывать наиболее удобные маршруты для перевозки грузов и может даже спланировать финансовые действия крупной корпорации на десять лет вперёд. Высшей точки инженерного и научного искусства — способности машин истреблять как роботов, так и людей — человечество пока не достигло. Однако специалисты утверждают, что ждать осталось недолго.

К восстанию машин уже всё готово. Во всяком случае, если оно случится уже завтра, почти никто этому не удивится.

Люди лишь всплеснут руками и скажут: «Мы так и знали!» Человечество на протяжении десятилетий готовится к войне с более умными, действующими по заранее заложенным программам устройствами.

Во всяком случае, лучшие писатели-фантасты прошлого, такие как Гарри Гаррисон, Эдмонд Гамильтон, Роберт Хайнлайн и Айзек Азимов, были уверены, что искусственный интеллект непременно будет использован людьми для истребления себе подобных в любой точке Земли и за её пределами.

Совет

При этом мечтатели прошлого, сулившие человечеству блага от внедрения искусственного интеллекта, справедливо полагали, что «хапнуть горя» люди смогут практически в любой сфере, где ежедневно переключают реле, заглушки и задвижки сотни тысяч роботов под управлением искусственного интеллекта.

Роберт Хайнлайн был уверен, что рано или поздно разразится чудовищный планетарный кризис и против землян восстанет Луна — сырьевой придаток, обеспечивающий зажравшихся жителей планеты дешёвой энергией.

По сюжету произведения на сторону повстанцев встаёт суперкомпьютер, контролирующий практически всё — от добычи полезных ископаемых до системы доставки сырья на Землю.

Другой гений и провидец в области искусственного интеллекта, писатель Айзек Азимов, был уверен, что рано или поздно случайные фрагменты кода, собранные в отдельные алгоритмы, позволят бытовым роботам нарушить три закона робототехники, что даст машинам возможность калечить и даже убивать людей. Десятками лет человечество готовили к войне за выживание в таких условиях, однако возможен ли такой сценарий на самом деле?

Сначала сальто — потом война

Пока весь мир умиляется танцам четвероногих роботов, созданных компанией Boston Dynamics, эксперты в области вооружений уже прикидывают, как и где можно применить машины такого типа в случае начала полномасштабных боевых действий.

В истории с забавными роботами стоит знать главное: за красивой ширмой из рекламных роликов и кривоногими роботами, которые прыгают, бегают и даже умеют делать сальто, стоит не жажда потешить публику и получить деньги от просмотров на YouTube.

У истоков смешных американских роботов — DARPA, Управление перспективных исследовательских проектов Министерства обороны США, в интересах которого компания Boston Dynamics работает практически с самого начала.

Нетрудно догадаться, что американских военных танцующие роботы не интересуют — главной целью программы стали исследования по созданию и адаптации компьютерных программ под военных. Проще говоря, на деньги Минобороны США в Boston Dynamics пытаются выяснить, как можно превратить убогие электронные устройства в машины для убийства.

Сейчас даже в видеорегистраторах есть акселерометры, датчики движения и многое другое. В роботах Boston Dynamics эти системы компонуются, автоматизируются и доводятся до пригодного к бою состояния.

Юрий Мосоленко, кандидат технических наук, программист

Говоря простым языком, «загнать за шиворот» противнику пару десятков килограммов взрывчатки под покровом ночи такие роботы могут уже сейчас. К примеру, Spot Mini уже могут самостоятельно и в составе группы двигаться по помещениям. Нагрузите эти устройства взрывчаткой C4 — и спецназ на зачистку здания от террористов можно уже не посылать.

С бегающими роботами Atlas пока всё немного сложнее, но трудности, как отмечают эксперты, не будут продолжаться вечно. Главная особенность этих машин — практически полное сходство с роботами из фильма «Суррогаты»: Atlas может двигаться не только автоматически, но и способен «передавать» управление оператору.

Глазами и ушами в этом случае будут камеры и чувствительные датчики. Замените резиновые «копытца» на пулемёт с сотней патронов — и электронный истребитель «кожаных мешков» готов.

Конечно, скептики сразу станут утверждать, что такая цель уязвима для огня противника, но не стоит забывать, что главная задача роботов — действовать на поле боя вместо людей и при необходимости там же вместо них умирать.

Обратите внимание

Главная роль в войнах будущего отводится нейросетям, программированием и обучением которых заняты целые институты и крупные департаменты IT-корпораций.

Первые опыты по внедрению нейросетей в боевой софт уже проведены — такие компании, как Military AI Works и им подобные, имеют давние и прочные связи с мастодонтами военно-промышленного рынка — Boeing или General Dynamics, которые разрабатывают различные системы на основе нейросетей. От военной логистики до систем управления беспилотниками — область для применения нейросетей практически бесконечна.

Совсем недавно несколько выдающихся деятелей современности, среди которых оказались астрофизик Стивен Хокинг, основатель и председатель совета директоров Microsoft Билл Гейтс, создатель SpaceX Илон Маск и другие известные личности, выступили за запрет на «работу» нейросетей в критически уязвимых секторах и областях человеческой жизни.

Главная боязнь учёных и IT-бизнесменов заключалась в том, что встроенные в цепи управления нейросети перепишут заложенные в них алгоритмы и начнут самообучаться, постепенно заполучив в свои коварные лапы всю инфраструктуру. Отчасти страхи учёных и глав корпораций оправданны — алгоритмы самообучения нейросетей уже написаны и давно функционируют.

Одним из наиболее удачных примеров является SOINN — самоорганизующаяся инкрементная нейронная сеть, созданная специалистами японской компании Hasegawa. Эта программа действительно помогает роботу быстрее обучаться простейшим операциям на производстве и имеет большой потенциал.

Единственное, о чём забывают активисты за запрет нейросетей, — любые математические параметры, вплоть до пределов самообучения, нейросетям задают люди. По крайней мере, пока.

Бахнем, но потом

В фильме «Я — робот» по роману Айзека Азимова реализуется один из самых ожидаемых сценариев захвата человечества машинами.

Взбесившаяся позитронная нейросеть компании US Robotics с чего-то вдруг посчитала людей угрозой для самих себя, планеты и жизни в целом, после чего с лёгким сердцем устроила небольшой геноцид в пределах отдельно взятого американского города будущего.

Если не брать в расчёт войну машин против людей по аналогии с фильмом «Терминатор», то такие события могут наступить значительно быстрее, чем ожидается, и вот почему.

Важно

Программисты и вообще любые специалисты по обучению нейронных сетей отмечают, что математическое моделирование и машинное обучение — это хорошо, однако чтобы победить человека, нейросеть в первую очередь должна думать как человек.

Единственной возможностью для этого может стать подключение AI через специальный интерфейс напрямую к мозгу специалиста по защите данных, хакеру или бойцу спецподразделения. Лишь тогда нейросеть будет способна перебирать всё множество вариантов действий в сложной ситуации и принимать единственно верное решение. Точно такое же, какое может принять сотрудник разведки, космонавт, полицейский или оператор истребителя в стрессовой ситуации.

Однако настоящие проблемы начнутся в тот момент, когда нейросети, «натасканные» машинным обучением и подсмотревшие за тем, как могут действовать люди, будут подключены к цепям управления боевыми информационными системами.

Уже известно, что в начале 2019 года армия США может объявить конкурс на создание нейросетей, облегчающих пилотирование ударных вертолётов AH-64D Apache.

Какие конкретно функции будет выполнять электронный мозг, пока не известно, но не исключено, что нейросеть на определённом этапе задействуют для определения приоритетов и важности целей, а затем привлекут для нанесения ударов.

Возражения о том, что машина должна лишь выполнять команды человека, принимаются и понимаются даже на таком уровне, как Пентагон, поэтому до появления квантовых компьютеров беспокоиться не о чем — традиционные математические алгоритмы, пусть и с трудом, но поддаются контролю со стороны операторов.

Квант милосердия

Математики считают, что подвести человечество под монастырь могут всего две вещи: слепая вера в нейросети и квантовые компьютеры.

По первому пункту человечество уже давно и крайне уверенно летит в пропасть — сейчас нейросети соединяют с суперкомпьютерами для математического поиска сверхпроводников и жизни на других планетах, доверяют программам защиту человечества от рака, а завтра в кластер доверия попадёт управление контурами на АЭС. Послезавтра каждая подстанция, ГЭС, отделение почты и воинская часть будут оснащены искусственным интеллектом, и ничего хорошего это людям не сулит.

Читайте также:  Dexmo - экзопротез для людей с ограниченными возможностями

Игры с автоматизацией неизбежно приведут к внедрению нейросетей в боевые системы. На текущем этапе это, конечно, невозможно, но квантовые компьютеры заметно «разгонят» искусственный интеллект

Юрий Быков, профессор, кандидат математических наук

Совет

Квантовые компьютеры позволят нейросетям обучаться практически без предела по объёму получения данных — учитывая скорость обработки «больших чисел» в таких компьютерах, незначительную мелочь вроде курса молодого бойца или основ кибербезопасности нейросеть изучит примерно секунд за тридцать, а может быть, и меньше.

Что дальше система будет делать с такими данными — зависит только от тех, кто её написал и создал. Если нейросеть создавалась с целью нанести максимальный ущерб экономике противника через кибератаки и заражение вредоносными программами, она обязательно выполнит поставленную задачу.

До включения человека в «расстрельный список» нейросетей ещё далеко — люди пока не научились контролировать роботов настолько, чтобы «натравливать» их под управлением суперпрограмм друг на друга. Война машин против людей будет заметно отличаться от того, что мы привыкли видеть в фильмах.

Отвечая на вопрос, возможен ли такой исход, специалисты нервно пожимают плечами, замечая, что и этот день когда-нибудь может настать, а воевать человеку придётся не только с боевыми роботами, но и с обычными холодильниками, роутерами и ноутбуками, которые будут выполнять функцию «первого эшелона» порабощения человечества.

Когда люди будут лишены связи и возможности координировать действия, в дело могут вступить самые настоящие боевые машины с искусственным интеллектом, внезапно сообщающие через громкоговоритель, что в вашем городе объявлен комендантский час.

Источник: https://life.ru/1161876

10 ужасных технологий, которые не должны существовать

© www.wallpaperpics.net

Чем дальше мы двигаемся в 21-й век, тем чаще мы начинаем представлять себе фантастические возможности, которые ждут нас. Вместе с тем нас преследует и мрачное предчувствие ужасов, ждущих в будущем. Ниже перечислены 10 страшных технологий, не имеющих права на существование.

1. Военные нанотехнологии

© The University of Sydney

Ничто не сможет закончить наше царствование на Земле быстрее, чем военные (или просто чрезвычайно неудачно реализованные) нанотехнологии. Это угроза, которая исходит от двух невероятно мощных сил: от бесконтрольного самовоспроизведения и экспоненциального роста.

Достаточно нигилистичное правительство, негосударственная организация, или отдельная личность могут создать микроскопические машины, которые в ходе самовоспроизведения уничтожат все важнейшие ресурсы нашей планеты со скоростью лесного пожара, и оставят после себя только совершенно бесполезные би-продукты, остатки, которые футурологи очень любят называть «серой слизью».

Роберт Фрейтас

Теоретик нанотехнологий Роберт Фрейтас предпринял «мозговой штурм», и выдал несколько вариантов того, как нанотехнологии могут уничтожить планету. В числе этих вариантов была так называемая «серая пыль», «серый планктон», «серые лишайники» и «убийцы биомассы».

«Серая пыль» способна затмить солнечный свет, «серый планктон» может оказаться на дне моря и уничтожить всю морскую экосистему, «серые лишайники» уничтожат полезные ресурсы на поверхности, а «убийцы биомассы» истребят все живые организмы.

Обратите внимание

По словам Фрейтаса, наихудший сценарий такой «глобальной экофагии» займёт около 20 месяцев, которых будет более чем достаточно для выработки эффективной защиты. Под «защитой» Фрейтас подразумевает разработку других самореплицирующихся нанороботов, способных разрушать внутренние системы «захватчиков».

Другой мерой может быть создание так называемых «активных щитов», хотя большинство экспертов по нанотехнологиям в один голос говорят о том, что такие «щиты» окажутся бесполезны. А значит, на военные нанотехнологии должен быть установлен мораторий, и он должен неукоснительно соблюдаться.

2. Сознательные машины

© www.speakers.co.uk

Однажды мы вдохнём в машину искусственное сознание. Но мы должны серьёзно подумать, прежде чем сделать это. На самом деле это может быть очень жестоко — построить полнофункциональный мозг внутри компьютера. И это относится как к человеку, так и к его «копии». Ещё в 2003-м году философ Томас Метцингер утверждал, что это было бы чудовищно неэтично:

Томас Метцингер / © www.oberbergkliniken.

de

«Что бы вы сказали, если бы кто-то пришёл к вам, и заявил: „Эй, мы хотим генетически модифицировать умственно отсталых человеческих младенцев! Для научного прогресса нам необходимы дети с определённым познавательным и эмоциональным дефицитом для того, чтобы мы могли изучить их послеродовое психологическое развитие, и нам срочно необходимо предоставить финансирование для этого важного и инновационного вида исследований“. Вы наверняка решили бы, что это не только абсурдная, но и опасная идея. Надеемся, ни один комитет по этике этого никогда не одобрит. Однако кое-чего сегодняшние комитеты по этике не видят. Они не видят появления первых машин, у которых уже есть минимальный набор связей, которых достаточно для получения начального сознательного опыта, такого же, как у умственно отсталого ребёнка. А значит, такие машины будут страдать от всех видов функционального и репрезентативного дефицита. Вдобавок, они не будут иметь никакого политического лобби — никаких представителей ни в одном комитете по этике».

Футуролог Луи Хельм согласен с этим. Вот что он говорит:

Луи Хельм

«Одной из лучших вещей в компьютерах является то, что вы можете заставить их производить миллионы операций в секунду не заботясь о том, что они могут обидеться, или что им станет скучно.

Так как мы планируем использовать труд искусственного интеллекта вместо интеллектуального труда человека, я думаю, было бы аморально запрограммировать его так, чтобы он стал сознательным.

Заключить сознательное существо в машину, и заставить его работать за вас — это просто возвращение к рабству».

3. Искусственный интеллект

Стивен Хокинг / © www.toptenz.net

Как заявил в этом году Стивен Хокинг, искусственный интеллект может быть нашей худшей ошибкой за всю историю. Это не раз отмечалось и другими учёными. Появление интеллекта, превосходящего человеческий, может оказаться катастрофическим.

Внедрение в нашу жизнь систем, которые гораздо быстрее и умнее нас, отодвинет нас на второй план. Мы будем отданы на милость искусственного разума, который станет решать всё за нас. К тому же далеко не факт, что мы сможем создать дружественный искусственный интеллект.

Мы должны решить эту проблему, в противном случае создание искусственного интеллекта будет безумием чистой воды.

4. Путешествия во времени

© www.nesta.org.uk

На свете не так много людей, верящих в путешествия во времени. Но если нечто подобное всё-таки возможно, то нам лучше держаться от этого подальше, поскольку это было бы безумно опасно.

Любой научно-фантастический фильм, связанный с изменением временных линий, должен дать вам представление о потенциальных опасностях этой технологии, и особенно об этих отвратительных временных парадоксах.

И даже если некоторые формы квантовых путешествий во времени всё-таки возможны (в ходе чего будут создаваться отдельные, совершенно новые временные линии), то культурный и технологический обмен между слишком разными по своему развитию цивилизациями просто не может закончиться хорошо.

5. Устройства для чтения мыслей

© www.dvice.com

В перспективе могут быть созданы машины, с помощью которых можно будет прочесть мысли и воспоминания людей, причём на расстоянии и без их согласия. Но очевидно, что это не станет возможным до тех пор, пока человеческий мозг не будет более тесно интегрирован в веб, и в другие системы связи.

В прошлом году, к примеру, учёные из Нидерландов использовали данные, полученные в результате сканирования мозга, и некоторые компьютерные алгоритмы для того чтобы определить, на какие буквы смотрит человек.

Этот научный прорыв наверняка намекнул третьим лицам на то, что реконструкция человеческих мыслей вскоре может выйти на беспрецедентно высокий уровень детализации. Можно будет узнать, что мы видим, помним, и о чём думаем.

Такие устройства, если использовать их массово, могут быть хорошим подспорьем тоталитарному режиму или какому-нибудь полицейскому государству, и сделают жизнь просто невыносимой. И это будет мир Оруэлла, в котором людей наказывают за «мыслепреступления».

6. Устройства для «взлома» мозга

© www.wired.com

Наш разум тоже может быть изменён без нашего ведома и без нашего согласия. Однажды в наших мозгах появятся чипы, и если предположить, что мы не сможем разработать эффективные «мозговые брандмауэры», то наши умы будут доступны из любого сегмента Интернета.

Невероятно, но мы уже сделали первые шаги в этом направлении. Недавно международная группа нейробиологов провела эксперимент, который позволил участникам осуществить «слияние разумов» посредством Интернета. С одной стороны это здорово.

Важно

Но с другой стороны такая «техническая телепатия» может стать настоящим ящиком Пандоры. Возможно, самая лучшая (и самая страшная) иллюстрация этой угрозы была представлена в аниме «Призрак в доспехах».

В этом фильме искусственный интеллект «взламывал» мозги людей, и был способен модифицировать их воспоминания и намерения. А теперь представьте такую технологию в руках организованной преступности или параноидального правительства.

7. Автономные роботы, разработанные, чтобы убивать людей

© www.thechangewithin.net

Опасность автономных машин для убийства это страшный, и пожалуй, единственный пункт в этом списке, который актуален уже сегодня. Вот что по этому поводу говорит футуролог Майкл ЛаТорра:

«У нас пока ещё нет машин, демонстрирующих интеллект, который хотя бы немного напоминал человеческий. Но смертоносным автономным роботам человеческий интеллект и не нужен. Роботизированные боевые машины всех видов успешно строят уже сейчас. Роботы-танки, роботы-самолёты, роботы-подводные лодки, и даже роботы-солдаты создаются уже сегодня.

В отличие от дистанционно управляемых самолётов-беспилотников, военные роботы могут самостоятельно определять цели и уничтожать их без участия человека, самостоятельно принимая решение открыть огонь.

Опасность подобной технологии очевидна, и она выходит за рамки угрозы инцидентов „дружественного огня“, в ходе которых робот может убить солдат, находящихся с ним на одной стороне, или даже невинных гражданских.

Огромная опасность таится в гонке международных вооружений, так как она может побудить какую-то из наций начать строительство автономных боевых роботов. Через несколько циклов усовершенствования появятся роботы нового поколения, которые смогут победить любую систему, контролируемую человеком.

А потом либо случайно („Кто же знал, что искусственный интеллект может спонтанно возникнуть в военном роботе“?), либо по злому умыслу („Мы как-то не подумали о том, что хакеры могут перепрограммировать наших военных роботов на расстоянии“!), человечество может оказаться в полном подчинении у своих новых повелителей».

8. Военные патогены

© www.mpipz.mpg.deРэй Курцвейл / © wired.co.uk

Ещё одна плохая, но пугающе актуальная вещь. Ещё в 2005-м году Рей Курцвейл и Билл Джой опубликовали геномы смертельных вирусов для всего мира, так что все смогли увидеть эти рецепты нашего уничтожения.

Всегда существует возможность того, что отдельно взятый идиот или группа фанатиков воспользуются этой информацией, и воссоздадут смертельный вирус с нуля, либо внесут изменения в какой-нибудь существующий вирус, чтобы сделать его смертельным, а затем выпустить в окружающую среду.

Совет

Считалось, например, что пресловутый «птичий грипп» мог убить половину людей на земном шаре. А кое-кто считал, что этот вирус был создан искусственно. Конечно, главное в таких ситуациях — знать врага в лицо, и разработать возможные контрмеры до того, как разразится пандемия.

Но всегда есть опасность того, что вирус может выйти за пределы лаборатории, и начнёт убивать население.

9. Виртуальные тюрьмы и наказания

© www.scotsman.com

Чем станут тюрьмы и наказания, если люди когда-нибудь смогут жить в течение сотен, или даже тысяч лет? И что если умы заключённых будут загружаться в «виртуальные тюрьмы»? Специалист по этике Ребекка Роуч делится страшными сценариями:

Ребекка Роуч

«Преимущества от радикального увеличения продолжительности жизни очевидны, но они также могут быть использованы и для повышения суровости наказаний.

В случае, когда тридцатилетнее заключение покажется судье слишком мягким приговором, осужденный преступник может быть приговорён к пожизненному заключению, которое сочетается с принудительным продолжением жизни. В результате пожизненное лишение свободы может означать срок в несколько сотен лет, а не десятилетий.

Обществу, конечно, дорого обойдётся поддержка таких приговоров. Но если повышение продолжительности жизни будет доступно всем, эти затраты могут быть компенсированы повышением производительных сил.

Существует и другой вариант. Ум осуждённого преступника загружается в компьютер, и скорость работы этого разума принудительно увеличивается в миллион раз, так что 1000 лет лишения свободы легко умещаются в 8,5 часов. Такой подход, очевидно, обойдётся налогоплательщикам куда дешевле, чем принудительное увеличение продолжительности жизни преступника».

Это ужасно. Тут важно отметить, что Роуч не выступает за такие методы наказания, она всего лишь сделала некоторые предположения. Но будет лучше, если они никогда не станут реальностью.

10. Адская инженерная деятельность

© srwuga-mods.dreamwidth.org

Этот пункт немного похож на предыдущий.

Некоторые футурологи делают прогнозы для «райской инженерной деятельности», под которой подразумевается использование передовых технологий, в частности, загрузку сознания в виртуальную реальность для того, чтобы создать рай на Земле.

Читайте также:  Роботы тоже пошли в школу

Но коль скоро вы можете создать рай, значит, можете создать и ад. И эта перспектив особенно пугает, если предположить, что в будущем жизнь человека может быть очень долгой, и в этой жизни будет множество возможностей для причинения физических и психологических страданий.

На самом деле это одна из худших вещей, которые могут случиться. Плюс появляется ещё одна причина для запрета на разработку искусственного интеллекта: возникновение «проблемы Василиска Роко» («Василиск Роко» — богоподобная и чрезвычайно опасная форма искусственного интеллекта).

Источник: https://www.publy.ru/post/13050

Американского разработчика уволили без ведома начальства. Это сделал робот — и люди не смогли его остановить — Meduza

Разработчик Ибрагим Диалло и предприниматель Крис Шенг рассказывают о своем стартапе Renly на конференции TechCrunch. 16 мая 2017 годаNoam Galai / Tech Crunch / Getty Images

Разработчик из Калифорнии и сооснователь стартапа Renly Ибрагим Диалло рассказал в своем блоге о том, как год назад лишился работы.

К тому моменту Диалло, который родился в Египте, а затем выучился на программиста в США, уже восемь месяцев работал в крупной компании (ее название он не разглашает), где с ним заключили контракт на три года.

Мужчина пишет, что занимался разработкой программного обеспечения, его работу постоянно хвалили, и все шло отлично — пока однажды утром он не получил странное сообщение от начальника: «Боже мой, с тобой все в порядке?»

Диалло решил, что начальник ошибся адресатом — и не стал перезванивать. В тот же день он не смог попасть на работу: его пропуск на вход в здание не работал.

Это мужчину не слишком насторожило, тем более, знакомый охранник впустил его в здание по своей карточке.

Диалло обратился в отдел кадров, чтобы выяснить, что случилось — там ему сказали, что «получили странное письмо» по его поводу и пообещали разобраться. Никто не перезвонил, а его рабочий день прошел как обычно.

На следующий день Диалло не смог попасть на парковку у офиса, пропуск в здание по-прежнему не работал, и программисту снова пришлось просить охранников его впустить.

Обратите внимание

В отделе кадров мужчине пообещали сделать новый пропуск — а пока попросили пользоваться временным.

После этого Диалло постепенно стал терять доступ к рабочим программам на компьютере, а его менеджер в панике сообщил, что его учетная запись в системе дезактивирована.

Никто, включая руководство, не понимал, что происходит: мужчину не планировали увольнять и не отдавали такого распоряжения. Дело дошло до главы организации: она велела службе поддержки все починить, заверила Диалло, что все в порядке, но в ответ сама получила письмо с пометкой «Важно», где говорилось, что контракт с Диалло расторгнут.

На следующий день охрана велела Диалло собрать вещи и покинуть офис; он сидел дома, переписываясь с сотрудниками компании, пытавшимися разобраться в его ситуации.

В итоге выяснилось, что его предыдущий менеджер должен был перезаключить контракт с Диалло, когда компанию, где он работал, купила более крупная организация. Так его старый договор истек, а заключить второй все забыли.

Система решила, что Диалло больше не работает в компании — и начала блокировать все его аккаунты.

Проблему смогли решить только через три недели — заключив с Диалло абсолютно новый договор и настроив ему все уровни доступа заново. Все это время он не мог работать над многомиллионным проектом, которым занимался, и не получал зарплату.

«Система безопасности на работе оказалась всего лишь иллюзией, — пишет разработчик. — Представляю себе, что случилось бы, если бы я допустил в этой компании какой-нибудь настоящий промах.

Автоматика может сильно упрощать жизнь в компании, но должны быть способы найти управу на робота, если он ошибется».

Источник: https://meduza.io/feature/2018/06/20/amerikanskogo-razrabotchika-uvolili-bez-vedoma-nachalstva-eto-sdelal-robot-i-lyudi-ne-smogli-ego-pobedit

Мнение HR-ов: куда направить рабочую силу, когда технологии заменят всё? | Rusbase

Желание упростить жизнь, сделать ее максимально удобной — то, к чему всегда стремится человек. Первое колесо, первый паровой двигатель, первые электронные устройства — все технические революции произошли для того, чтобы нам было комфортно жить.

Владимир Ермошин, менеджер БДО Юникон, рассказывает, что такое четвертая промышленная революция. А HR-специалисты из разных областей предсказывают, что будет с рынком труда, когда эта революция достигнет своего максимума.

«Индустрия 4.0» — проект правительства Германии, созданный в 2011 году как парадигма конкурентоспособного развития промышленности страны. В основу концепции положено «умное производство», способное к самоконтролю через так называемые кибер-физические системы — комплексы объектов, «вещей», подключенных к интернету.

Уже сейчас более миллиарда промышленных и сервисных устройств подключено к сети, а, по оценкам компании Verizon, через четыре года их количество будет лишь немного отставать от общей численности населения Земли. Фактически это означает, что коммуникация выйдет за привычные рамки и будет строиться не только по схеме «человек-человек», но и «человек-машина» и даже «машина-машина».

Речь о сенсорном датчике, который будет передавать остальным участникам промышленного процесса информацию о своем состоянии, например, поломке, перегрузке или готовности к отправке на склад.

Что это значит?

Производство перейдет в режим саморегулирования: с помощью получаемых и обрабатываемых данных.

Устройства сами смогут подстраиваться под разные факторы начиная от наличия необходимого сырья на заводе и заканчивая анализом исправности оборудования.

Важно

Предложение станет максимально кастомизированным, а уникальное торговое предложение станет действительно уникальным: философия конвейерного производства подчинится пожеланиям покупателя.

Такой подход переориентирует бизнес в сторону сервисных моделей и в корне изменит производственные процессы: датчики помогут контролировать товар на протяжении всего его жизненного цикла.

Фантастические роботы и где они обитают

Еще один драйвер индустрии 4.0 — роботы. По данным сайта The Robot Report, в период с 2010 по 2015 годов в производство США внедрили 135 тысяч роботов. Они уже начали занимать место человека на самых опасных или рутинных операциях.

  • Вся складская логистика компании Amazon держится на нескольких тысячах роботов, которые оказались до пяти раз эффективнее сотрудников.
  • Компания Adidas с 2017 года планирует перенести свои фабрики по выпуску кроссовок из Юго-Восточной Азии в Германию и начать полномасштабную трансформацию благодаря революционным изменениям в производственных процессах. Изготовлением обуви на фабриках Speedfactory с планируемым годовым объемом выпуска в один миллион пар будут заниматься роботы.

А что будет делать человек, когда технологии заменят всё?

RFID-метки заменят штрихкоды и защитят от контрафакта, дроны займут места саперов и пожарных, вездесущие датчики подскажут, когда пора обратиться к врачу или сменить телефон.

Футурологи рисуют мрачное будущее с миллионами безработных, а аналитики только подтверждают их догадки: по прогнозам Gartner, одну треть существующих рабочих мест займут умные роботы. Это не совсем так: пусть машины и смогут общаться друг с другом без участия человека, задавать им цель по-прежнему будут люди.

Мнение экспертов

Самыми роботизированными странами, по данным исследования Reshoring of manufacturing компании EY, считаются Германия и США: в немецких компаниях на 10 тысяч сотрудников приходится 270 роботов, а в США — 150.

Технический прогресс заставляет нас на многие вещи смореть по-другому. В скором времени возникнут новые профессии. Например, в прошлом, когда первые автомобили сменили гужевые повозки, тысячи кузнецов и извозчиков лишились своей работы: никому не нужны были подковы и детали для карет, и уже не было необходимости управлять лошадьми.

Но в это же время появилась потребность в автомеханиках и водителях. Таким образом, специалисты предыдущей эпохи получили возможность переучиться и стать профессионалами в новом деле. Безусловно, это потребовало немалых усилий. Однако количество рабочих мест не изменилось, а, возможно, наоборот, увеличилось.

Важно внимательно следить за современными тенденциями, так как они могут подсказать, какая отрасль более перспективна. Вполне возможно, что в ближайшем будущем человечество обратит внимание на состояние экологии планеты.

В этом случае появится потребность в увеличении производства экологически чистой продукции, а также в росте выпуска оборудования и новых разработок по защите природы.

Дольше всех будут востребованы те профессии, которые требуют непосредственного участия человека, использования его интеллектуальных способностей и работы с развитием потенциала людей: это психологи, преподаватели, а также все творческие специальности.

Однажды общество дойдет до уровня, когда технологии смогут заменить все. Тогда встанет вопрос управления этими технологиями, поэтому технические специальности и позиции станут самыми востребованными.

На 1 этапе нужно будет чинить, обслуживать, программировать и улучшать имеющееся.

Совет

На 2 этапе, когда технологии дойдут до уровня, того что сами смогут себя обслуживать, нужны будут те, кто возьмет на себя контроль за технологиями и исполнением законов роботехники.

Все больше и больше продвинутых компаний разных индустрий заменяют человеческий ресурс автоматизацией и роботизацией.

При этом даже через десятки лет, на мой взгляд, останутся процессы, в которых будет нецелесообразно заменить человеческую силу, а именно процессы, где есть активное взаимодействие людей, к ним можно отнести: работу с клиентом лицо к лицу, обучение (тренинги), наставничество.

Вероятно, появится больше людей творческих и научных профессий (исследователей, писателей, дизайнеров, композиторов). Технологии и роботы не могут создать новый стиль, будь то одежда или музыкальное произведение, они лишь могут сделать аналоги.

В тех сферах, где будет полная роботизация, люди смогут быть операторами роботов, при этом они будут работать меньше, чем сейчас, привлекаясь на какие-то нестандартный кейсы.

Резюмирую: при позитивном сценарии, люди будут заниматься более интеллектуальными и творческими задачами, а не рутиной, при этом у них будет больше свободного времени на развитие и отдых.

Несколько раз в неделю я наблюдаю картину, как две девочки (две одновременно, Карл!) выдают мне ключи от шкафчика в фитнес-клубе. А еще одна – полотенце.

Хозяин ни разу не подумал о том, чтобы пересчитать зарплату этих работников в сравнении с установкой чего-то типа турникета? Ведь функция девочки – провести моей пластиковой картой по электронной системе, что я и сама прекрасно могу сделать при входе.

Обратите внимание

Стремительно набирают обороты цифровые способы разработки, производства и доставки продуктов и услуг. Меняются или умирают целые отрасли, закрываются производства, сокращаются рабочие места, человека заменяют роботы.Сначала стали не нужны операционистки в банке.

Потом диспетчеры в такси. Сейчас Amazon тестирует магазины без кассиров. И до девочек в фитнес-клубе дойдет очередь.Куда пойдут все эти люди? Где найдут себе применение?

Возможно, я выражусь неполиткорректно, но у них есть прекрасный шанс заменить гастарбайтеров. Или иди получай новую профессию, или иди, подметай улицы. Других вариантов я не вижу.

Технологии и искусственный интеллект не заменят все, как кино не заменило театр, а скайп – живое общение. Хотя изменения на рынке труда, конечно, неизбежны.

В свое время компьютеры вытеснили печатные машинки и почти полностью профессию стенографистки. При этом появилась профессия разработчика программ распознавания речи и «эникейщика», который работает с оборудованием, занятым в процессе распознавания.

То, что происходит с профессиями, когда приходят новые технологии, очевидно: часть из них технологии заменить не в состоянии (это работа, требующая постановки задачи, «инсайта», эмоций и эмпатии), часть умирают, но вместо них появятся новые, до этого не существовавшие профессии, которые будут направлять и обслуживать работу технологий.

Вот туда и надо направлять рабочую силу.

Материалы по теме: 

Amazon внедрил 15 тысяч роботов за год без сокращения штата

«Есть ли у тебя мечта?». Какие вопросы российские топ-менеджеры любят задавать на собеседовании

«Анбазарабл»: как работают, общаются и отмечают релизы в компании Parallels

Алена Владимирская начала бесплатно консультировать по поиску работы в «Ответах Mail.Ru»

Почему выгоднее учить своих «джуниоров», а не нанимать «звёзд»

Тренды уходящего года: как виртуальная реальность изменила HR

Нашли опечатку? Выделите текст и нажмите Ctrl + Enter

Источник: https://rb.ru/opinion/tehnologii-vse/

Ссылка на основную публикацию