Развитие дипломатических отношений доверят искусственному интеллекту

Юриспруденция и искусственный интеллект: наступает эпоха беспрецедентных вызовов

22 мая, в рамках деятельности Клуба-2035, прошла закрытая экспертная дискуссия клуба «Валдай» и АО «РВК» «Юриспруденция: что ждёт право в эпоху роботов и искусственного интеллекта?».

Участники обсудили тему, важность которой ещё не до конца осознаётся мировым юридическим сообществом, так как мы находимся в самом начале эпохи передачи людьми полномочий в самых разных областях системам под управлением искусственного интеллекта (ИИ).

Как отметил модератор дискуссии Андрей Сушенцов, программный директор клуба «Валдай», применительно к юридической сфере – это такие вопросы, как принятие решений роботами в области гражданского делопроизводства и применения силы при отсутствии этической прозрачности, существующей в мире людей.

Владислав Шершульский, директор по технологической политике Microsoft, посвятил своё выступление обзору проблем, возникающих в этом контексте на границе между юридической практикой и технологической реализацией. Также он обсудил юридическую базу для регулирования вопросов, связанных с искусственным интеллектом, которая уже создаётся в некоторых странах.

Обратите внимание

Шершульский высказал мнение, что в плане производства информации эпоха антропоцентризма подходит к концу.

К 2020 году почти три четверти информации будет создаваться электронными устройствами, прежде всего устройствами интернета вещей.

Постепенно они становятся экономическими субъектами, поэтому имеет смысл предоставлять им экономические полномочия, в частности – право производить платежи. В этом ключевую роль будет играть технология блокчейн.

Немалую озабоченность в развитых странах вызывает потенциальное влияние искусственного интеллекта на ситуацию на рынке труда, отметил Шершульский.

Уже сейчас появляются прототипы роботов-водителей, полицейских, музыкантов, врачей, юристов и брокеров, и в будущем этот список будет расширяться.

Встаёт вопрос о правах и обязанностях роботов, а также о том, могут ли информационные объекты обладать свободой воли/выбора.

Немаловажной является и проблема морали применительно к компьютерным системам.

Может ли информационный агент сознавать последствия и делать моральный выбор в сложных ситуациях? Как он решит для себя так называемую «проблему вагонетки»? Исследования показывают, что люди – утилитаристы, рассказал Шершульский: в ситуации тяжёлого морального выбора они готовы пожертвовать человеческой жизнью, исходя из своих представлений о ценности тех или иных членов общества. Как поступит машина? Вскоре информационные системы смогут принимать важные решения, касающиеся финансовых транзакций, управления автомобилями, медицинских процедур и применения оружия. Кто будет отвечать за последствия? Все эти вопросы требуют серьёзной дискуссии.

Говоря о правовом регулировании вопросов правосубъектности искусственного интеллекта, Шершульский выделил два основных подхода.

Важно

Согласно первому, основную роль играют индустрия и учёные, опора делается на существующее регулирование и принцип «минимального вмешательства» в развитие новых отраслей и сервисов, а также создание и поддержку саморегулирующихся организаций поставщиков и потребителей.

Второй же предполагает ведущую роль законодателей и государственных органов в создании специальных институтов по регулированию и поддержке развития искусственного интеллекта и робототехники, «превентивное регулирование» через систему рамочных нормативных актов и выработку стандартов.

В заключение Шершульский представил видение хорошего «ИИ-общества», основанное на воззрениях современного итальянского философа Лучиано Флориди.

Это развитое информационное общество, в котором выгоды от использования информационных технологий являются значительными, естественными и ожидаемыми во всех областях, разработки в области ИИ и робототехники являются одним из базовых приоритетов.

Цели, методы, мероприятия и результаты исследований, разработок и использования ИИ открыто и полно обсуждаются и согласовываются между гражданским обществом, производителями, учёными и государственными органами.

В ИИ-обществе существует тщательный общественный и профессиональный контроль над потенциально опасными областями, и налажено соответствующее международное сотрудничество. Наконец, инфосфера и биосфера развиваются в гармонии и поддерживают друг друга, а не конкурируют.

Олег Бяхов, ассоциированный партнёр IBM Institute for Business Value, сфокусировался в своём выступлении на том, как искусственный интеллект в ближайшее время войдёт в юридическую практику.

По его словам, это будет происходить по принципу “robots will take your work, not your jobs”, то есть роботы будут брать на себя рутинные операции, но не отнимать рабочие места у людей.

Совет

Речь идёт о роботизации таких процессов, как управление затратами на приобретение доступа к информации, поиск правильной внешней экспертизы для получения доказательной юридической базы и определение соответствия документов нормативным требованиям.

Иными словами, ИИ возьмет на себя то, что приносит юристам наименьшее профессиональное удовлетворение, позволяя им креативно заняться бесчисленными новыми вызовами, которые возникнут с приходом ИИ в юриспруденцию.

Одной из проблем, связанных с системами искусственного интеллекта, в том числе, в юридической практике, Бяхов назвал ограничение уровней доступа к знаниям. По его словам, проблему нежелания делиться практиками и знаниями решает контейнирование знаний внутри облачных сред.

В ходе последовавшей дискуссии Дмитрий Белоусов, руководитель направления анализа и прогнозирования макроэкономических процессов «Центра макроэкономического анализа и краткосрочного прогнозирования», указал на вызовы в сфере безопасности, связанные с применением искусственного интеллекта, не затронутые другими участниками дискуссии.

Он напомнил об инциденте 1988 года с крейсером Vincennes, боевая система которого приняла иранский пассажирский самолёт за боевой, и капитан корабля, на которого обрушился поток информации, принял решение о ракетном ударе, в результате которого погибло 290 авиапассажиров.

Новые технологии, по словам Белоуслова, также не гарантируют избежания подобных ошибок, а более того – создают новые вызовы.

Подводя итог дискуссии, Андрей Сушенцов отметил, что, несмотря на все достижения искусственного интеллекта и информатизации, международное сообщество находится в состоянии неопределённости.

Возможно, настанет момент, когда ИИ позволит оценивать совокупность фактов и последствия для международных отношений и будет влиять на принятие политических решений.

Вопрос в том, насколько бы будем мы довольны результатом.

Источник: http://ru.valdaiclub.com/events/posts/articles/yurisprudentsiya-i-iskusstvennyy-intellekt-nastupaet-epokha-bespretsedentnykh-vyzovov/

Краткая история становления и развития дипломатических отношений

Дипломатические или по-другому называемые межгосударственные отношения – это отношения, которые устанавливаются и осуществляется дипломатическими представителями от имени своего государства.

Конечно, в современном мире, взаимодействия с международными и межправительственными организациями также рассматриваются в качестве дипломатической деятельности.

Концепция территориального суверенитета возникла в давние времена, но традиция взаимодействия государств между собой, прежде всего, с целью развития взаимовыгодного сотрудничества и безопасности торговли между дружественными государствами предшествовала понятию территориального суверенитета.

Практика создания дипломатических миссий в целях ведения переговоров между различными государствами стара как сама история. Письменные источники подтверждают, что дипломатические отношения между греческими городами-государствами существовали даже для частных задач.

Обратите внимание

Например, в Илиаде Гомера описывается отправление посольства Менелая и Одиссея в Трою для освобождения Елены.

Древние римляне также заслуженно признаются выдающимися мастерами в сфере установления и ведении дипломатических отношений, но ни греки, ни римляне не стремились разработать систематический подход в деле дипломатических отношений.

Итальянские республики и, в частности, Венеция назначали своих постоянных представителей в столицах друг друга для ведения переговоров и сотрудничества в международных делах; но только в 13-м веке первые иностранные постоянные представительства стали принимать современный внешний вид. В 15-м веке, итальянские республики назначают постоянных представителей в Англии, Франции, Германии и Испании, а в конце того же века и эти страны начали держать постоянные дипломатические посольства при дворах друг друга. Тем не менее, до второй половины семнадцатого века постоянные дипломатические миссии не были признаны в качестве общепринятого института. В этой статье представлен краткий обзор истории становления и развития дипломатических отношений.

Краткая история становления и развития международных отношений

История свидетельствует о том, что дипломатические отношения во времена Древнеримской империи регулировались учреждением, известным как коллегия фициалов (чья практика породила право jus fetiale, отвечавшее за правильность и законность деяний, касающихся международных отношений).

По вопросу значимости коллегии фициалов существует две противоположных точки зрения. Некоторые исследователи считают, что эта коллегия представляла собой определённую форму дипломатической деятельности в Римской империи, включая задачи ведения переговоров от имени римского народа.

Согласно другим, коллегия просто выполняла функции по регулированию дел, связанных с внешними отношениями, что в современном понимании относится к деятельности Министерства Иностранных дел.

Независимо от статуса коллегии фициалав и ее роли в истории, фактом остается то, что Древний Рим был знаком с дипломатическими отношениями, хотя без устройства и применения системного подхода к этой деятельности.

Большинство историков считают основоположником профессиональной дипломатии Византийскую империю, и в частности потому, что в урегулирование конфликтов, возникавших при пересечении интересов, со многими странами велось дипломатическим, а не силовым путем.

Византийцами также были основаны постоянные представительства во многих государствах, существовавших в то время.

Ими также был учрежден официальный орган, который в наше время был бы известен как Министерство Иностранных дел, для ведения внешнегосударственных деловых отношений от имени своего правительства и отправки посольских миссий за рубеж.

Важно

Считается, что так называемое «искусство дипломатии» возникло именно в период Византийской империи. К 12-му веку Византийская империя была завоевана Османской империей, однако искусство дипломатии выжило, хотя и в несколько упрощенной форме.

В византийский период, были определены важнейшие качества и характеристики, которыми должны обладать дипломаты; они как значимые и влиятельные фигуры, должны быть широко образованными и проницательными людьми. Этот взгляд на качества и характеристики дипломата остается актуальным и в наше время.

Венецианцы, в последующем, переняли многие дипломатические техники, разработанные византийцами, и усовершенствовали их. Так венецианцы, установили систему архивирования записей межгосударственных отношений, и все их посольства за рубежом всегда держались в курсе важнейших событий как местных, так и зарубежных.

К 15-му веку, все главные государства Италии установил дипломатические отношения друг с другом, но эти миссии не действовали на постоянной основе.

16-й век в Европе ознаменован бурным ростом дипломатической активности, ставшей к тому времени очевидной необходимостью.

В сознании правящих классов сильнее крепло осознание той реальности, когда дружественные отношения между государствами могут быть достигнуты не военно-силовым, но дипломатическим путем.

Закрепляя и расширяя распространение дипломатического опыта, подчеркивая его важность в международных отношениях, издается ряд произведений различных авторов, из которых следует упомянуть о следующих:

  • Джентили Альберико «О посольском праве» – De Legationibus Libri Tres (1585);
  • Жан де Вилье Хотман «Посол» – L’Ambassadeur (1603)]
  • Гюго Гроций «О праве войны и мира» – De Jure Belli ac Pads (1625);
  • Корнелиус ван Бейнкерсхук «О правовом положении послов» – De Foro Legatorum (1721); and
  • Эмер де Ваттель «Право народов» – Droit des gens (1758).

Во Франции периода правления Людовика XIV возрастает признание важности создания и поддержания дружественных международных отношений; и действительно, в течение 17-го и 18-го веков в мире дипломатических отношений устанавливается доминирование Франции.

Так кардинал Ришелье был одним из тех, кто выступал за то, чтобы все международные отношения велись под контролем единого государственного органа — в конце концов, дипломатическая система Франции стал образцовой моделью для всей Европы.

В самом деле, французский язык стал считаться языком дипломатов, хотя позже его место занимает английский язык.

Совет

Независимо от времени, прошедшего с первых дней становления дипломатических отношений, изначально существуют три известных вопроса дипломатии: (а) видная персона дипломатического представителя; (б) его способность вести переговоры, основанная на прекрасном владении языками; и (в) важное значение конфиденциальности.

Одним из важнейших документов, принятых с целью упорядочить дипломатические отношений, является Приложение XVII к Заключительному акту Венского конгресса 1815 года.

Настоящим документом были определены функции послов или должностных лиц равного им ранга, министров и временных поверенных в делах.

Этот договор привел к созданию единой системы аккредитации дипломатов, прибывших от направляющих их государств, исключавшей предвзятость при назначении.

Реальный переход от старой к новой форме дипломатии происходит в начале 20-го века. Тем не менее, важнейший этап развития дипломатии относится к периоду 19-го века, который связывается в первую очередь с улучшениями в системе связи.

Так, 19-й век стал свидетелем устойчивости пост-наполеоновской Европы и пика колониальной системы, представлявшей собой раздел мира между пятью великими державами и их доминированием над более слабыми и менее развитыми государствами.

Тогда же было сформулировано положение, что международные соглашения должны быть основаны на принципе добросовестности, принципах достоинства и уважения к человеку.

На самом деле, эти факторы важны для устоявшейся формы дипломатических отношений между государствами. Таким образом, можно сделать вывод, что во время колониального периода дипломатическая деятельность строилась вокруг отношений между колониальными государствами и другими сильными не колониальными государствами. Но, дипломатия не была известна странам Азии, в частности Китаю и Индии.

Обратите внимание

В ходе 19-го века (1895 г.) Английским институтом международного права была предпринята первая попытка кодификации дипломатического права, принятая на основе Кембриджских положений, но в последующем она была заново пересмотрена в 1929 году.

В период 19-го века опять же, благодаря росту торговых операций между странами, усиливается необходимость установления и дальнейшего расширения посольских и консульских отношений между политически и экономически значимыми государствами.

Это не означает, что принципы дипломатии, разработанные такими авторами как Бейнкерсхук, Гроций или Ваттель к этому времени стали устаревать; претерпели изменения только некоторые практические аспекты дипломатии, например, обязанности отделов протокола в министерствах иностранных дел и консулов были регламентированы гораздо тщательнее. Можно утверждать, что в 19-м веке были четко определены основные принципы и правила межгосударственных дипломатических отношений, а в 20-м веке дипломатии переходит на новую, гораздо более совершенную ступень своего развития, в первую очередь, связанную с разработкой и принятием различных межгосударственных соглашений в этой области, кульминацией которых становится Венская Конвенция о дипломатических сношениях 1961 года.

Читайте также:  Алексей андреевич ляпунов

Суть и характер развития дипломатии в течении 20-го века можно разделить на два основных этапа, которые лучше рассматривать раздельно: (а) период, предшествующий основанию ООН; и (б) в период, последовавший после основания ООН. Период, предшествующий ООН, будет включать в себя как Первую мировую войну, так и основание Лиги Наций, прекратившей свое существование в 1946 году.

С такой точки зрения, можно сказать, что во время Первой мировой войны не происходит никакого очевидного развития дипломатических отношений, вплоть до момента подписания Мирного договора (иначе известного как Версальский договор) заключенного в 1919 году.

В первую очередь его можно охарактеризовать как договор «переходной дипломатии» от отношений из состояния войны к отношениям в состоянии мира.

Этот договор, закреплявший передел мира в пользу государств-победителей, рассматривал большое количество вопросов, связанных с военными, политическими и прочими задачами послевоенного мироустройства.

Стоит отметить, что главной целью учреждения Лиги наций была не попытка полностью предотвратить возникновение военных конфликтов, но намерение сделать эти конфликты более гуманными и цивилизованными.

Важно

Единственным положением в Уставе Лиги Наций, представляющим решение вопросов в неполитической сфере, был пункт (д) статьи 23, который гласил:

В период существования Лиги Наций межгосударственные и международные дипломатический отношения имели ограниченный характер в основном сосредотачиваясь на проблемах ведения войны. Таким образом, например, дипломатия в сфере экономических отношений или дипломатия в сфере международного развития не находила своего места в повестке дня.

Действительно, в некотором смысле, период деятельности Лиги Наций характеризуется достижением максимальных высот в развитии международной военной дипломатии. Хотя, Версальский договор делал попытку установить вечный мир, но Лига Наций так и не смогла предотвратить Вторую мировую войну.

Другими словами, работу дипломатии мира периода Лиги Наций можно считать полностью провалившейся.

С наступлением эпохи ООН начинают открываться новые перспективы для международной дипломатии. Ее нынешние цели и задачи существенно отличаются от периода Лиги Наций. ООН основана как организация, специально созданная для поддержания мира с помощью всеобщего социально-экономического развития.

Среди многих других получают свое внимание такие вопросы, как права человека, деколонизация, международное экономическое сотрудничество.

Дипломатическим сотрудникам в современных условиях требуется умение ориентироваться в сложных, многоплановых и динамически меняющихся интересах множества участников на мировой арене.

Насколько ООН успешна в реализации поставленных целей можно оценивать, если внимательно присмотреться к почтительному отношению ее членов к этой универсальной организации, отодвинув в сторону свойственную дипломатическим нравам преувеличение значимости этого форума.

Совет

Следует подчеркнуть, что современная дипломатия и ее методы претерпели значительные изменения по сравнению с 19-м и 20-м веками.

Современная дипломатия является комплексной, многомерный деятельностью, основанной на правовых нормах, отвергающей применение силы или угрозы силы. В этой дисциплине необходимо четкое понимание в хитросплетениях различных национальных региональных и международных интересов.

От современного дипломат с учётом конкретных условий и характера решаемых задач требуется владеть глубокими знаниями и детально разбираться в нескольких областях, а именно: географии, истории, экономических отношениях, международном праве и международных отношениях, технике ведения переговоров и методах предотвращения конфликтов.

К тому же, современный дипломат должен быть весьма проницательным, учтивым, терпимым человеком, обладающим широкими культурными взглядами.

Заключение

В период существования ООН были заключены две Венские конвенции, а именно: Венская конвенция о дипломатических сношениях 1961 года и Венская конвенции о консульских отношениях 1963.

В них не было добавлено ничего существенно нового в деятельности как дипломатических представительств, так и дипломатов или консулов; а просто кодифицирована практика, сложившаяся на протяжении веков к тому моменту в мире дипломатии и консульских отношений.

Эти два инструмента позволяют достаточно адекватно отвечать на новые вызовы, возникающие в текущих реалиях. В последующее развитие этих инструментов современная дипломатия дополняется методикой взаимодействиями в формате международных форумов.

Таким образом, дипломаты сегодня обязаны быть знакомы с регламентами и процедурами, установленными в различных международных организациях. Современная дипломатия ориентируется на создание условий для повсеместного установления прочного мира, а не только на его защиту и поддержание.

Источник: http://interlaws.ru/kratkaja-istorija-stanovlenija-i-razvitija-diplomaticheskih-otnoshenij/

Сценарии, к которым может привести развитие искусственного интелекта

Невролог и философ Сэм Харрис описывает сценарии, которые вполне могут произойти в связи с развитием искусственного интеллекта (ИИ). Одна из главных проблем – это как заставить вычислительные системы принимать не просто рассудительные решения, но и эмоциональные.

И в самом деле, очень трудно представить, как Искусственный Интеллект (ИИ) будет нас уничтожать, но всё же, есть люди, которые пытаются перенестись будущее в настоящее и предугадать дальнейшие возможные пути развития человечества. И вот о чём нам стоит задуматься перед тем как над этим же вопросом задумается ИИ.

Что выберет искусственный интеллект в тот момент, когда он стоит перед выбором?

Одна из главных проблем, с которой столкнется человек с развитием ИИ, это как заставить вычислительные системы принимать не просто рассудительные решения, но и эмоциональные.

Обратите внимание

Потому что ИИ может с легкость выбрать убийство всех людей, для того, чтобы спасти другие виды. Этот как если бы на вас напал бандит с ножом, а вы вытащили ваш пистолет.

И в этот момент, вместо того чтобы защитить хозяина, ваша верная собака нападет на вас просто потому что у вас в руках более опасное оружие…

А что будет если двери будут одинаковы? За дверью номер один …

Учитывая то, насколько ценными считаются данные разведки, что случится если с ними начнет работать ИИ? Что может за этим последовать? Полномасштабная ядерная война? Глобальная пандемия? Джастин Бибер станет президентом Соединенных Штатов? Дело в том, что ИИ может просто уничтожить цивилизацию, в том виде, в котором мы её знаем. Уже сегодня многие говорят, как сильно и быстро деградирует общество. А что будет если об этом подумает ИИ и решит, что проще будет уничтожить человечество, а не продолжать технологическое развитие, которое только ухудшает ситуацию?

А что за дверью номер два?

Единственной альтернативой является то, что мы год за годом продолжаем совершенствовать наши интеллектуальные машины.

В определенный момент, мы будем строить машины, которые умнее, чем мы, и как только у нас появятся машины, которые умнее нас, они начнут совершенствовать себя. И тогда мы рискуем, создать “интеллектуальный взрыв”, и что этот процесс может уничтожить всех нас.

Речь идет о том, что мы будем строить машины, которые гораздо более компетентны, чем мы, что малейшее расхождение между их целями и нашими собственными может привести к полному нашему уничтожению, как вида.

Насекомые XXI века

Просто подумайте о том, как мы относимся к муравьям. Мы не ненавидим их. Мы не сходим с нашего пути, чтобы нанести им вред.

Мы перешагиваем через этих маленьких работяг не обращая на них внимания, но всякий раз, когда их присутствие серьезно конфликтует с одной из наших целей, скажем, при строительстве здания, мы уничтожаем их без малейшего сожаления.

Речь идет о том, что мы в один прекрасный день построим машины, которые, независимо от того являются ли они сознательными или нет, могут начать относиться к нам как к муравьям.

Глубокое мышление, глубокое воздействие

Интеллект является результатом процесса обработки информации в физических системах. Мы уже создали узкий интеллект для наших машин, и многие из них выполняют определенные функции на уровне или даже лучше человека.

Интеллект является либо источником всего того, что мы ценим, или оружием, которое мы используем чтобы защитить все, что мы ценим. Это наш самый ценный ресурс. У нас есть проблемы, которые мы обязаны решить. Мы хотим победить СПИД, диабет и рак. Мы хотим построить по-настоящему рабочие экономические системы.

Мы хотим улучшить климат на планете. А что будет делать ИИ, если у него просто отсутствует такое понятие как глубокое мышление?

Где мы находимся?

Важно

Человечество ещё не добралось до пика интеллекта. Это очень важно понять. Это то, что делает наше положение настолько нестабильным, и что делает наши интуитивные риски проигрышными.

В подавляющем большинстве случаев, потенциал человеческого интеллекта простирается гораздо дальше, чем мы в настоящее время представляем себе.

А что если мы построим машины, которые будут умнее нас? Они же смогут гораздо лучше просчитывать будущее и лучше определять то место где они находятся, чтобы в итоге выбрать направление дальнейшего движения.

Скорость интеллекта

Представьте себе, что человечество построило Сверхразумный ИИ, который при этом не умнее среднестатистической группы ученых. Единственное отличие заключается в том, что его электронные схемы функционируют примерно в миллион раз быстрее, чем наши, биохимических.

В результате эта машина “думает” примерно в миллион раз быстрее, чем сознание, которое его построило. Таким образом, оставив ИИ работать в течение недели, мы обнаружим, что он выполнил 20000 лет интеллектуального труда в человеческом эквиваленте.

Что нам делать с такой скоростью обработки данных? Тормозить скорость работы ИИ до человеческого уровня?

Лучший вариант развития событий

На самом деле, как вас так и меня больше всего волнует то, как будут развиваться события в идеальной среде. Представим, что мы додумались и сконструировали Сверхразумный ИИ, который не имеет проблем с безопасностью. Это как если бы мы были создали оракула, который ведет себя точно так, как было задумано.

Что же мы получим? По сути, мы создадим идеальное трудосберегающее устройство. Итак, мы говорим о конце нудного человеческого существования. Класс!!! Также можно сказать, что создание подобной машины станет концом всего интеллектуального труда.

Многим может показаться, что это хорошо, но спросите себя, что произойдет в таком случае? Даже сейчас, при незначительном развитии ИИ, мы наблюдаем рост имущественного неравенства и безработицы, которой мы никогда ранее не наблюдали.

Совет

Мы не готовы делиться своим богатством с другими, и скорей всего миром будут править несколько триллионеров, в то время как оставшаяся часть человечества будет полностью зависеть от их воли, а точнее от воли подвластного им ИИ, который будет действовать сверхрационально не жалея никого.

Следующая гонка вооружений

Представим, что у каждой страны в мире есть ИИ, который просчитывает идеальный сценарий для победы в глобальной войне.

Неважно какая это война, наземная, в воздухе или вообще кибервойна, победный сценарий получат все.

По сути, ИИ создаст для каждой сверхдержавы стратегию победы, которая в итоге приведет к концу человечества, потому что это будет война Искусственных Интеллектов против человечества.

“Не волнуйтесь и не засоряйте вашу хорошенькую головку этими глупыми вопросами…”

По сути, ИИ создаст общество нарцисов-растаманов. Don`t worry, be happy. Именно это завуалировано говорит ИИ облегчая нам жизнь уже сегодня.

Уже сегодня мы чувствуем, как ИИ в его зачаточном виде делает нас глупее, а что будет через 50 или 100 лет, когда, как нам обещают уже будет ИИ превосходящий интеллект человека.

Если интеллект занимается лишь вопросом обработки информации, и мы продолжаем совершенствовать наши машины, то не думаете ли Вы что мы уже создали суперинтеллект? Мы уже сегодня замечаем, что ИИ небезопасен, например ИИ в навигаторах, который заставляет людей выезжать на встречную полосу и прыгать на автомобиле в озера. И я говорю о том, что у нас всего лишь 50 лет, чтобы встретиться лицом к лицу с главным врагом человека – сверхинтеллектом.

Технологии прямо в мозг

Машины в будущем не могут не разделять наши ценности, потому что они будут в буквальном смысле продолжением нас самих. Они будут вшиты на наш мозг, и мы, по сути, станем их лимбической системой.

Подумайте о том, что вы что-то вставляете себе в мозг, что может считывать информацию и обрабатывать её по неизвестным вам алгоритму. Вы иногда не доверяете своему мозгу, а тут микросхема. Но с приходом сверхразумного ИИ, встраивание чипов себе в мозг, будем самым безопасным и благоразумным способом идти вперед.

Но вопрос безопасности данных, который мы не можем решить даже сегодня, заставляет задуматься, что всё это как-то неправильно.

Мы должны рассмотреть эти сценарии и действовать

У человечества нет решения проблемы ИИ, мы можем предложить и просто рекомендовать. Человек должен изначально строить ИИ с учетом принципа “не навреди человечеству”.

Обратите внимание

Когда вы говорите о Сверхразумных ИИ, который может внести изменения в себя, кажется, что для того, чтобы приступить к его созданию, мы, как вид, должны решить все наши внутренние проблемы, иначе мы будем обречены. Мы должны признать, что мы находимся в процессе создания своего рода бога.

Читайте также:  Китайские коллекторы используют искусственный интеллект для работы с должниками

Представьте себе, что вы живете под пристальным взглядом Бога, которого вы физически ощущаете и что ходить на исповедь вам придется не в церковь, а к своему мобильному устройству. опубликовано econet.ru 

P.S. И помните, всего лишь изменяя свое сознание – мы вместе изменяем мир! © econet

Источник: https://econet.ru/articles/137562-stsenarii-k-kotorym-mozhet-privesti-razvitie-iskusstvennogo-intelekta

«Беспокоиться о чужом народе и государстве никто не будет»

Разговор со знающим человеком о том, насколько велики успехи в создании искусственного интеллекта. И насколько опасны.

Тимур Палташев — доктор технических наук (1987) и доктор наук (1994) в области компьютерной техники. Обладатель 24 американских патентов и более 10 заявок на патент. Работает в Силиконовой долине (Калифорния, США) почти 20 лет.

В настоящее время — в AMD Radeon Technology Group, ранее — в Vivante Corporation, S3 Graphics Inc. и S3 Inc.

Занимается и академической деятельностью, имеет многолетний опыт преподавания в аспирантуре ряда ведущих университетов России и США.

В последние недели все, что связано с перспективами разработок в сфере искусственного интеллекта (ИИ), вызывает самый живой интерес в мире.

Интерес понятен: после заявления российского президента (“тот, кто станет лидером в этой сфере, будет властелином мира”) и реакции на него главы космической компании SpaceX и основателя Tesla Илона Маска (“если государства начнут гонку за то, чтобы стать лидером на этом поприще, это приведет к большой войне”), проблема развития ИИ из просто научной стала еще и политической.

Есть ли для этого основания, “Огонек” выяснял у главы жюри хакатона VisionHack 2017 по компьютерному зрению для беспилотников, прошедшего на прошлой неделе в Москве, доктора технических наук и ветерана Силиконовой долины с 20-летним стажем Тимура Палташева.

— Что нового в мире искусственного интеллекта (ИИ)?

— Это с какой точки зрения смотреть: если по части внедрения новых технологий, то вся технологическая база ИИ была создана в 1970-1980-е годы — алгоритмы, математика. Тогда это было сложно претворить в жизнь из-за малой мощности компьютеров. Впрочем, в истории человечества такое случалось уже не раз.

Важно

Вспомните хотя бы Леонардо да Винчи, рисовавшего прообраз танка или вертолетного винта: реализовать эти расчеты в то время с теми материалами и типом энергии не представлялось возможным. С созданием нейронных сетей пришлось повременить куда как меньше — порядка 40 лет.

Помню, во времена моей учебы в аспирантуре одной из групп, работавшей над проблемой “компьютерного зрения” и создававшей конвольверы (приборы для цифровой обработки сигналов.— “О”) для распознавания изображения, приходилось возводить целые аппаратные блоки из микропроцессоров — компьютеры поодиночке работали крайне медленно.

Сейчас же на вооружении исследователей машины мощностью в десятки терафлопс (показатель способности производить операции над числами с плавающей запятой, 1 терафлопс = 1 трлн операций в секунду.— “О”). Последнее изделие компании, где я работаю, имеет показатель 26 терафлопс.

То есть построенная с его помощью нейронная сеть способна распознавать 20-30 кадров в секунду, а в 80-е годы на это уходили сутки. Сравните — скорость выросла в 86 400 раз.

— А вы говорите ничего нового…

— Я говорю об отсутствии качественного скачка в технологиях. Все, что сегодня делают разработчики ИИ,— это тренируют нейронные сети распознавать объекты: например, на автотранспорте — пешеходов, собак, кошек… Можно задать любой параметр. Мы только засекаем, сколько времени на это потребуется.

Проблема в том, что каждый вид местности — город, трасса, бездорожье и т.д. — заставляет проводить новое обучение сети. В итоге все это напоминает “слоеный пирог”, где на каждый слой в зависимости от обучения подаются нужные коэффициенты, чтобы машина распознала, что или кто перед ней.

Таким образом, если мы хотим, чтобы машина ездила свободно по всем типам местностей, нам придется оснастить ее большим блоком памяти, а это накладно.

— Почему нельзя сделать легче и дешевле?

— Кремниевые машины — современные компьютеры — вплотную подошли к своему физическому пределу. Пару лет назад IBM была первой, кто презентовал чип, изготовленный по 7-нанометровой технологии. На днях было анонсировано, что Samsung намерен выпустить 7-нанометровый чип. Следующей ступенькой может быть чип в 5 нанометров.

Если верить закону Мура (эмпирическое наблюдение одного из основателей Intel Гордона Мура, утверждавшего, что число транзисторов на кристалле интегральной схемы будет удваиваться каждые 24 месяца.— “О”), ждать 5-нанометрового чипа осталось недолго.

Но ниже этой отметки — уже атомный уровень, и кремниевому процессору его не преодолеть, хотя и уровень в 5 нанометров потребует колоссальных энергетических затрат, которые сделают производство такой машины экономически невыгодным.

Совет
Обратите внимание

Что уж говорить об атомном уровне! Созданные в качестве экспериментальных образцов модели квантовых компьютеров, во-первых, так и не были запущены в промышленное производство, а во-вторых, не являются универсальными и способны выполнять только определенные типы задач.

[/su_box]

— У вас нет опасений: ИИ решит, что люди ему больше не нужны?

— Когда будет совершен качественный скачок в компьютерных технологиях, сети станут в разы мощней, а ИИ получит помимо навыков еще и эмоции, он, наверное, задумается над таким вопросом. Проблема в том, что до реализации таких прогнозов фантастов человечество может и не дожить. И дело тут не в оптимизме или пессимизме ученых или политиков.

Лично я, например, реалист. Помните анекдот постсоветских времен: оптимист изучает английский, пессимист — китайский, а реалист — автомат Калашникова? Так вот сейчас риски, связанные с развитием ИИ, крайне опасны и способны завершиться полным крахом существующей системы и без ядерного апокалипсиса.

Я имею в виду социальные последствия массового внедрения ИИ.

— И каковы они?

— Власти ничего на эту тему не говорят и, думаю, даже не просчитывают их. А следовало бы, ведь внедрение ИИ в сферу автотранспорта не за горами — работы идут полным ходом. Наиболее прибыльный тут сегмент грузоперевозок.

Так вот, если по дорогам США начнут курсировать десятки роботизированных фур, управляемых ИИ, их начнут взрывать и отстреливать: американские дальнобойщики — одна из самых массовых профессий, настоящая “армия” в сотни тысяч человек, и сидеть сложа руки, наблюдая за тем, как их семьи остаются без средств к существованию, эти крепкие парни не будут, уж поверьте мне.

Конечно, организаторам грузоперевозок ИИ в этой сфере выгоден: машины будут нуждаться только в дозаправках и способны двигаться 24 часа в сутки, тогда как работа человека нормирована законом — 12 часов “за баранкой”, а за превышение — штраф. Но я сомневаюсь, что власти Штатов рискнут поставить ИИ на грузовой транспорт, как раз опасаясь социального взрыва.

Скорее всего, они остановятся на варианте “автопилотов”, позволяющих водителю в экстренном случае, когда он, например, задремал, не стать виновником аварии.

— А где ИИ могут внедрить в первую очередь?

— В сфере сельского хозяйства. Автоматизация там уже идет полным ходом. В Казахстане, например, комбайнер уже только контролирует, как машина выполняет задачу. При этом американский Jone Deere передвигается с помощью GPS-навигатора, а “россельмашевские” комбайны “зрячие” и “видят” камерами, распознавая объекты. Сельское хозяйство наиболее подвержено роботизации.

— Так это же хорошо?

— Смотря для кого. Для работников этой сферы, например, плохо.

Эксперты уже подсчитали, что 90 процентов сельхознаселения в случае массового внедрения ИИ останутся без работы, а еще более масштабные исследования показывают, что тотальная роботизация и освоение ИИ приведет к тому, что услуги и труды половины населения планеты окажутся невостребованными.

Хуже всего то, что если первыми жертвами внедрения ИИ станут грузчики, водители, сельхозрабочие и даже врачи-диагносты, то следующая волна развития ИИ выкинет на улицы офисный планктон. А это половина жителей той же Москвы.

— На Западе, похоже, об этих последствиях думают: там уже начинались эксперименты с выплатами гражданам просто по факту их гражданства…

— Деньгами проблему не решить. Плата за безделье — это промежуточное решение: человек без работы, без цели и не осознающий своей востребованности неизбежно деградирует — алкоголь, наркотики, нескончаемая депрессия.

Если таких людей будет миллионы, это уже станет угрозой любому государству и общественному спокойствию.

Обратите внимание

До следующей стадии развития ИИ — “личностной”, той самой, которой так опасаются фантасты, можно в такой ситуации и вовсе не дожить — социальный и политический хаос сметет все.

— И как быть?

— Уже сейчас принудительно ограничивать внедрение ИИ. Если этого не сделать, то Маск окажется прав в своих “пророчествах”. На данный момент полностью повернуть вспять невозможно — гонка началась, точка невозврата пройдена.

С одной стороны, это неплохо, потому что развивать технологии нужно: в мире огромным успехом пользуется технология интернет-вещей и интернет — искусственных объектов, включая роботизированные бытовые приборы, самоходные транспортные средства и промышленное оборудование с машинным интеллектом, который кардинально меняет жизнь обычных людей. Но с другой стороны, наверное, следует хорошо просчитывать каждый последующий шаг, потому что за одной из дверей может оказаться бездна. Но об этом мало кто думает. В Штатах сегодня царит настоящая истерика, я бы сказал, массовый психоз, как это было во времена “звездных войн” и СОИ — инвесторы наперегонки стремятся вложить в ИИ деньги. Это в традициях нации, когда что-то на федеральном уровне объявлено “проектом века” и “сверхперспективным”. И масштабным инвестициям в этом случае всегда сопутствует шпиономания и резкость в отношении других соискателей: недаром россиян и китайцев решено ни под каким видом в американский сектор ИИ не пускать.

— А каковы, кстати, шансы России в этом “забеге”?

— Были бы плохие, американцы бы не выставляли таких барьеров. Ведь в этом марафоне победят те, кто у кого больше “мозгов”. Все остальное в современном мире можно купить.

Я читал в СМИ про массовый исход “мозгов” из России, но, по собственным ощущениям, готов с этим поспорить: если в 1980-1990-е такой процесс действительно шел, то сейчас такого потока нет.

Думаю, причины в том, что возросли риски, связанные с потерей социальной среды, привычного уклада, риски безопасности — все это оказывается сегодня не менее весомым, чем долларовая зарплата. Так что “мозги” в России остаются, а значит, она включается в эту гонку на выживание на равных.

— На выживание?

— Безусловно. Ведь борьба идет не за то, чтобы с помощью ИИ облагодетельствовать все человечество. Цель как и была, так и осталась неизменной с древних времен — выживание.

В современном мире это означает ресурсы, финансы, возможность организовать “райскую жизнь” для своих граждан. Беспокоиться о чужом народе и государстве никто не будет. Разве что на словах.

В сфере действия ИИ значение будет иметь то, кто быстрее принимает решения, у кого больше информаций и знаний, кто видит дальше всех, у кого промышленность быстрее реагирует на вызовы. ИИ не сводится исключительно к беспилотникам — на земле, в воде и воздухе.

Это еще и “экспертные системы”, которые позволяют вытаскивать нужную информацию и решения в гигантском объеме информации. “Индустрия 4.0” в значительной степени будет базироваться на таких системах.

— Но все это перспективы далекого будущего?

— Что-то появится через 10 лет, а что-то есть уже сейчас. Развитие технологий идет такими темпами, что эксперты регулярно ошибаются в прогнозах по части того, когда то или иное ноу-хау появится, как правило, в сторону увеличения сроков, а изобретения появляются куда как раньше.

— Но квантовый компьютер так и не стал массовым явлением…

— Возможно, благодаря этому факту человечество еще живо. Если бы удалось спуститься на атомный уровень, я бы не поручился, что завтра наступит. Не исключено, что культовый “Терминатор — Судный день” воплотился бы в реальность. И не потому, что машины решили бы уничтожить человечество, а потому, что система непредсказуема, в какой-то момент может принять неправильное решение…

— ИИ сойдет с ума?

— Нечто в этом роде. Так что точно не стоит внедрять ИИ в сферы, где его непредсказуемость может плохо закончиться для всего человечества. Я имею в виду оборону и безопасность.

Кстати, американские военные сейчас не признают чипов “тоньше” 40 нанометров, а все потому, что такие суперчипы установлены в современные гаджеты, тогда как на армейском вооружении системы, которым по 20-30 лет. Но продолжится ли эта практика? Проблема в том, что и нынешнего уровня автоматики в сфере обороны достаточно, чтобы устроить Армагеддон.

Важно
Совет

Ведь в любую автоматизированную систему "зашит" алгоритм действий, и сбой любого рода чреват его запуском, на который последует ответ другой стороны. Остановить процесс, когда он уже запущен, можно разве что в фильмах, но не на деле.

[/su_box]

— Но ведь до сих пор “не выстрелило”?

— Все зависит от процента автоматизации: достаточно его чуточку усилить, чтобы кошмар стал явью. Собственно, Маск в том числе и об этом.

Читайте также:  Взгляд на архитектуру и требования к нейроимитатору для решения современных индустриальных задач

Беседовала Светлана Сухова

Источник: https://www.kommersant.ru/doc/3408174

Что нельзя доверить искусственному интеллекту

“Беспокоиться о чужом народе и государстве никто не будет” 

Разговор со знающим человеком о том, насколько велики успехи в создании искусственного интеллекта.

Тимур Палташев — доктор технических наук (1987) и доктор наук (1994) в области компьютерной техники. Обладатель 24 американских патентов и более 10 заявок на патент. Работает в Силиконовой долине (Калифорния, США) почти 20 лет.

В настоящее время — в AMD Radeon Technology Group, ранее — в Vivante Corporation, S3 Graphics Inc. и S3 Inc.

Занимается и академической деятельностью, имеет многолетний опыт преподавания в аспирантуре ряда ведущих университетов России и США.

В последние недели все, что связано с перспективами разработок в сфере искусственного интеллекта (ИИ), вызывает самый живой интерес в мире.

Интерес понятен: после заявления российского президента (“тот, кто станет лидером в этой сфере, будет властелином мира”) и реакции на него главы космической компании SpaceX и основателя Tesla Илона Маска (“если государства начнут гонку за то, чтобы стать лидером на этом поприще, это приведет к большой войне”), проблема развития ИИ из просто научной стала еще и политической.

Есть ли для этого основания, “Огонек” выяснял у главы жюри хакатона VisionHack 2017 по компьютерному зрению для беспилотников, прошедшего на прошлой неделе в Москве, доктора технических наук и ветерана Силиконовой долины с 20-летним стажем Тимура Палташева.

“Огонек”:  — Что нового в мире искусственного интеллекта (ИИ)?

Тимур Палташев:  — Это с какой точки зрения смотреть: если по части внедрения новых технологий, то вся технологическая база ИИ была создана в 1970-1980-е годы — алгоритмы, математика. Тогда это было сложно претворить в жизнь из-за малой мощности компьютеров. Впрочем, в истории человечества такое случалось уже не раз.

Совет

Вспомните хотя бы Леонардо да Винчи, рисовавшего прообраз танка или вертолетного винта: реализовать эти расчеты в то время с теми материалами и типом энергии не представлялось возможным. С созданием нейронных сетей пришлось повременить куда как меньше — порядка 40 лет.

Помню, во времена моей учебы в аспирантуре одной из групп, работавшей над проблемой “компьютерного зрения” и создававшей конвольверы (приборы для цифровой обработки сигналов.— “О”) для распознавания изображения, приходилось возводить целые аппаратные блоки из микропроцессоров — компьютеры поодиночке работали крайне медленно.

Сейчас же на вооружении исследователей машины мощностью в десятки терафлопс (показатель способности производить операции над числами с плавающей запятой, 1 терафлопс = 1 трлн операций в секунду.— “О”). Последнее изделие компании, где я работаю, имеет показатель 26 терафлопс.

То есть построенная с его помощью нейронная сеть способна распознавать 20-30 кадров в секунду, а в 80-е годы на это уходили сутки. Сравните — скорость выросла в 86 400 раз.

— А вы говорите ничего нового…

— Я говорю об отсутствии качественного скачка в технологиях. Все, что сегодня делают разработчики ИИ,— это тренируют нейронные сети распознавать объекты: например, на автотранспорте — пешеходов, собак, кошек… Можно задать любой параметр. Мы только засекаем, сколько времени на это потребуется.

Проблема в том, что каждый вид местности — город, трасса, бездорожье и т.д. — заставляет проводить новое обучение сети. В итоге все это напоминает “слоеный пирог”, где на каждый слой в зависимости от обучения подаются нужные коэффициенты, чтобы машина распознала, что или кто перед ней.

Таким образом, если мы хотим, чтобы машина ездила свободно по всем типам местностей, нам придется оснастить ее большим блоком памяти, а это накладно.

— Почему нельзя сделать легче и дешевле?

— Кремниевые машины — современные компьютеры — вплотную подошли к своему физическому пределу. Пару лет назад IBM была первой, кто презентовал чип, изготовленный по 7-нанометровой технологии. На днях было анонсировано, что Samsung намерен выпустить 7-нанометровый чип. Следующей ступенькой может быть чип в 5 нанометров.

Если верить закону Мура (эмпирическое наблюдение одного из основателей Intel Гордона Мура, утверждавшего, что число транзисторов на кристалле интегральной схемы будет удваиваться каждые 24 месяца.— “О”), ждать 5-нанометрового чипа осталось недолго.

Но ниже этой отметки — уже атомный уровень, и кремниевому процессору его не преодолеть, хотя и уровень в 5 нанометров потребует колоссальных энергетических затрат, которые сделают производство такой машины экономически невыгодным.

Совет
Обратите внимание

Что уж говорить об атомном уровне! Созданные в качестве экспериментальных образцов модели квантовых компьютеров, во-первых, так и не были запущены в промышленное производство, а во-вторых, не являются универсальными и способны выполнять только определенные типы задач.

[/su_box]

— У вас нет опасений: ИИ решит, что люди ему больше не нужны?

— Когда будет совершен качественный скачок в компьютерных технологиях, сети станут в разы мощней, а ИИ получит помимо навыков еще и эмоции, он, наверное, задумается над таким вопросом. Проблема в том, что до реализации таких прогнозов фантастов человечество может и не дожить. И дело тут не в оптимизме или пессимизме ученых или политиков.

Лично я, например, реалист. Помните анекдот постсоветских времен: оптимист изучает английский, пессимист — китайский, а реалист — автомат Калашникова? Так вот сейчас риски, связанные с развитием ИИ, крайне опасны и способны завершиться полным крахом существующей системы и без ядерного апокалипсиса.

Я имею в виду социальные последствия массового внедрения ИИ.

— И каковы они?

— Власти ничего на эту тему не говорят и, думаю, даже не просчитывают их. А следовало бы, ведь внедрение ИИ в сферу автотранспорта не за горами — работы идут полным ходом. Наиболее прибыльный тут сегмент грузоперевозок.

Так вот, если по дорогам США начнут курсировать десятки роботизированных фур, управляемых ИИ, их начнут взрывать и отстреливать: американские дальнобойщики — одна из самых массовых профессий, настоящая “армия” в сотни тысяч человек, и сидеть сложа руки, наблюдая за тем, как их семьи остаются без средств к существованию, эти крепкие парни не будут, уж поверьте мне.

Конечно, организаторам грузоперевозок ИИ в этой сфере выгоден: машины будут нуждаться только в дозаправках и способны двигаться 24 часа в сутки, тогда как работа человека нормирована законом — 12 часов “за баранкой”, а за превышение — штраф. Но я сомневаюсь, что власти Штатов рискнут поставить ИИ на грузовой транспорт, как раз опасаясь социального взрыва.

Скорее всего, они остановятся на варианте “автопилотов”, позволяющих водителю в экстренном случае, когда он, например, задремал, не стать виновником аварии.

— А где ИИ могут внедрить в первую очередь?

— В сфере сельского хозяйства. Автоматизация там уже идет полным ходом. В Казахстане, например, комбайнер уже только контролирует, как машина выполняет задачу. При этом американский Jone Deere передвигается с помощью GPS-навигатора, а “россельмашевские” комбайны “зрячие” и “видят” камерами, распознавая объекты. Сельское хозяйство наиболее подвержено роботизации.

— Так это же хорошо?

— Смотря для кого. Для работников этой сферы, например, плохо.

Эксперты уже подсчитали, что 90 процентов сельхознаселения в случае массового внедрения ИИ останутся без работы, а еще более масштабные исследования показывают, что тотальная роботизация и освоение ИИ приведет к тому, что услуги и труды половины населения планеты окажутся невостребованными.

Хуже всего то, что если первыми жертвами внедрения ИИ станут грузчики, водители, сельхозрабочие и даже врачи-диагносты, то следующая волна развития ИИ выкинет на улицы офисный планктон. А это половина жителей той же Москвы.

— На Западе, похоже, об этих последствиях думают: там уже начинались эксперименты с выплатами гражданам просто по факту их гражданства…

— Деньгами проблему не решить. Плата за безделье — это промежуточное решение: человек без работы, без цели и не осознающий своей востребованности неизбежно деградирует — алкоголь, наркотики, нескончаемая депрессия.

Если таких людей будет миллионы, это уже станет угрозой любому государству и общественному спокойствию.

Важно

До следующей стадии развития ИИ — “личностной”, той самой, которой так опасаются фантасты, можно в такой ситуации и вовсе не дожить — социальный и политический хаос сметет все.

— И как быть?

— Уже сейчас принудительно ограничивать внедрение ИИ. Если этого не сделать, то Маск окажется прав в своих “пророчествах”. На данный момент полностью повернуть вспять невозможно — гонка началась, точка невозврата пройдена.

С одной стороны, это неплохо, потому что развивать технологии нужно: в мире огромным успехом пользуется технология интернет-вещей и интернет — искусственных объектов, включая роботизированные бытовые приборы, самоходные транспортные средства и промышленное оборудование с машинным интеллектом, который кардинально меняет жизнь обычных людей. Но с другой стороны, наверное, следует хорошо просчитывать каждый последующий шаг, потому что за одной из дверей может оказаться бездна. Но об этом мало кто думает. В Штатах сегодня царит настоящая истерика, я бы сказал, массовый психоз, как это было во времена “звездных войн” и СОИ — инвесторы наперегонки стремятся вложить в ИИ деньги. Это в традициях нации, когда что-то на федеральном уровне объявлено “проектом века” и “сверхперспективным”. И масштабным инвестициям в этом случае всегда сопутствует шпиономания и резкость в отношении других соискателей: недаром россиян и китайцев решено ни под каким видом в американский сектор ИИ не пускать.

— А каковы, кстати, шансы России в этом “забеге”?

— Были бы плохие, американцы бы не выставляли таких барьеров. Ведь в этом марафоне победят те, кто у кого больше “мозгов”. Все остальное в современном мире можно купить.

Я читал в СМИ про массовый исход “мозгов” из России, но, по собственным ощущениям, готов с этим поспорить: если в 1980-1990-е такой процесс действительно шел, то сейчас такого потока нет.

Думаю, причины в том, что возросли риски, связанные с потерей социальной среды, привычного уклада, риски безопасности — все это оказывается сегодня не менее весомым, чем долларовая зарплата. Так что “мозги” в России остаются, а значит, она включается в эту гонку на выживание на равных.

— На выживание?

— Безусловно. Ведь борьба идет не за то, чтобы с помощью ИИ облагодетельствовать все человечество. Цель как и была, так и осталась неизменной с древних времен — выживание.

В современном мире это означает ресурсы, финансы, возможность организовать “райскую жизнь” для своих граждан. Беспокоиться о чужом народе и государстве никто не будет. Разве что на словах.

В сфере действия ИИ значение будет иметь то, кто быстрее принимает решения, у кого больше информаций и знаний, кто видит дальше всех, у кого промышленность быстрее реагирует на вызовы. ИИ не сводится исключительно к беспилотникам — на земле, в воде и воздухе.

Это еще и “экспертные системы”, которые позволяют вытаскивать нужную информацию и решения в гигантском объеме информации. “Индустрия 4.0” в значительной степени будет базироваться на таких системах.

— Но все это перспективы далекого будущего?

— Что-то появится через 10 лет, а что-то есть уже сейчас. Развитие технологий идет такими темпами, что эксперты регулярно ошибаются в прогнозах по части того, когда то или иное ноу-хау появится, как правило, в сторону увеличения сроков, а изобретения появляются куда как раньше.

— Но квантовый компьютер так и не стал массовым явлением…

— Возможно, благодаря этому факту человечество еще живо. Если бы удалось спуститься на атомный уровень, я бы не поручился, что завтра наступит. Не исключено, что культовый “Терминатор — Судный день” воплотился бы в реальность. И не потому, что машины решили бы уничтожить человечество, а потому, что система непредсказуема, в какой-то момент может принять неправильное решение..

— ИИ сойдет с ума?

— Нечто в этом роде. Так что точно не стоит внедрять ИИ в сферы, где его непредсказуемость может плохо закончиться для всего человечества. Я имею в виду оборону и безопасность.

Кстати, американские военные сейчас не признают чипов “тоньше” 40 нанометров, а все потому, что такие суперчипы установлены в современные гаджеты, тогда как на армейском вооружении системы, которым по 20-30 лет. Но продолжится ли эта практика? Проблема в том, что и нынешнего уровня автоматики в сфере обороны достаточно, чтобы устроить Армагеддон.

Важно
Совет

Ведь в любую автоматизированную систему "зашит" алгоритм действий, и сбой любого рода чреват его запуском, на который последует ответ другой стороны. Остановить процесс, когда он уже запущен, можно разве что в фильмах, но не на деле.

[/su_box]

— Но ведь до сих пор “не выстрелило”?

— Все зависит от процента автоматизации: достаточно его чуточку усилить, чтобы кошмар стал явью. Собственно, Маск в том числе и об этом.

Источник: https://en.exrus.eu/object-id59d6638abf0645556e464e6c

Ссылка на основную публикацию
Adblock
detector