4 просмотров
Рейтинг статьи
1 звезда2 звезды3 звезды4 звезды5 звезд
Загрузка...

Возможно ли восстание машин

Возможно ли восстание машин? Учёные обсуждают опасность ИИ

Некоторые люди считают, что скоро машины восстанут против людей в силу преимущества их интеллекта над человеческим, и люди будут втянуты в войну уже не друг с другом. Орен Этциони, ученый из Америки, сделал опрос среди своих коллег, и итоги оказались весьма очевидными: большинство трудящихся во имя науки отрицают возможность гибели человеческой расы от противоборства с Искусственным Интеллектом.

Два года назад философ Ник Бостром создал книгу «Суперинтеллект: пути, опасности, стратегии». Там обосновывалась опасность ИИ, точнее, самообучения машин, что неизбежно приведет к перевесу в интеллекте в сторону ИИ, а это уже может грозить истреблением человечества. Компьютеры смогут заменить полностью всю человеческую деятельность, начиная от умственной и заканчивая физической работой. Труды Ника Бострома вызвали у публики «восторг», выразившийся в большой популярности книги и быстром получении звания бестселлера.

В одном номере Technology Review Орен Этциони директор Института ИИ, имеющий множество заслуг в изучении компьютерных технологий и являющийся истинным экспертом в своем деле, выставил итоги опроса, в котором ставились на обсуждения вопросы опасности ИИ и его достижения. Орена взволновала не только книга про суперинтеллект, но и тревожные статьи в американских средствах массовой информации, которые являлись зеркалом общего сомнения по поводу развития ИИ и возможной опасности для человечества.

Лицо института ИИ решил разобраться и понять причины таких резких заявлений Бострома. Он выяснил, что вся работа философа основана на нескольких исследованиях ИИ пятилетней давности. Не понимая и игнорируя суть комплекса этих экспериментов, Ник Бостром заявляет, что к концу двадцать первого века компьютерное мышление нагонит человеческий интеллект на 90%.

Орен Этциони решил выяснить серьезность этих выводов и мнение научных деятелей. Ради этой цели он опросил около двухсот членов Американской ассоциации по изучению искусственного интеллекта. По описанию Ника Бострома ИИ — это такой интеллект, который выше человеческого во всем, что только может он производить. «Когда же мы достигнем этого интеллекта?», — такая была тема для обсуждения.

Двадцать из опрошенных уверены, что искусственного интеллекта не удастся никак достичь. Около десятка специалистов посчитали, что ИИ догонит человеческий в ближайшем будущем, а остальные верят в достижение суперинтеллекта, но в далеком будущем. Опрос был анонимным, но открыто высказали свое мнение полсотни участников, среди которых были умнейшие люди современности.

Кое-кто из опрошенных экспертов, хоть и анонимно, но выразили свое возмущение методом Ника Бострома и объявили предрассудком категорический страх перед искусственным интеллектом, ведь нельзя видеть в нем только опасность.

Орен Отциони подвел итог, что научные доводы, использованные в работах философа, оказались недостаточными для ученых, а научную ценность такие труды представляют мизерную.

Однако сейчас все равно существует ворох переживаний насчет использования ИИ в нашей жизни, но предсказание его скорейшего появления основаны на пустых доводах. Еще очень нескоро компьютер станет способным полноценно заменять человеческий мозг.

Стоит видеть в появлении искусственного интеллекта тот широкий аспект положительных событий, сопровождающих внедрение его в разнообразные сферы человеческой деятельности, например, сокращение количества врачебных оплошностей, предотвращение аварий. Ученые считают, что также возможно симбиотическое соединение технологии ИИ и человеческого мозга для создания мощной умнейшей машины.

Восстание машин. Смогут ли роботы пойти войной на людей

Коллаж © L!FE. Фото © Boston Dynamics// Кадр фильма «Терминатор: Да придёт спаситель»/ © Кинопоиск

Искусственный интеллект уже способен диагностировать рак, высчитывать наиболее удобные маршруты для перевозки грузов и может даже спланировать финансовые действия крупной корпорации на десять лет вперёд. Высшей точки инженерного и научного искусства — способности машин истреблять как роботов, так и людей — человечество пока не достигло. Однако специалисты утверждают, что ждать осталось недолго.

К восстанию машин уже всё готово. Во всяком случае, если оно случится уже завтра, почти никто этому не удивится. Люди лишь всплеснут руками и скажут: «Мы так и знали!» Человечество на протяжении десятилетий готовится к войне с более умными, действующими по заранее заложенным программам устройствами. Во всяком случае, лучшие писатели-фантасты прошлого, такие как Гарри Гаррисон, Эдмонд Гамильтон, Роберт Хайнлайн и Айзек Азимов, были уверены, что искусственный интеллект непременно будет использован людьми для истребления себе подобных в любой точке Земли и за её пределами.

Читать еще:  Как выйти замуж за профессора

При этом мечтатели прошлого, сулившие человечеству блага от внедрения искусственного интеллекта, справедливо полагали, что «хапнуть горя» люди смогут практически в любой сфере, где ежедневно переключают реле, заглушки и задвижки сотни тысяч роботов под управлением искусственного интеллекта. Роберт Хайнлайн был уверен, что рано или поздно разразится чудовищный планетарный кризис и против землян восстанет Луна — сырьевой придаток, обеспечивающий зажравшихся жителей планеты дешёвой энергией. По сюжету произведения на сторону повстанцев встаёт суперкомпьютер, контролирующий практически всё — от добычи полезных ископаемых до системы доставки сырья на Землю. Другой гений и провидец в области искусственного интеллекта, писатель Айзек Азимов, был уверен, что рано или поздно случайные фрагменты кода, собранные в отдельные алгоритмы, позволят бытовым роботам нарушить три закона робототехники, что даст машинам возможность калечить и даже убивать людей. Десятками лет человечество готовили к войне за выживание в таких условиях, однако возможен ли такой сценарий на самом деле?

Сначала сальто — потом война

Кадр из фильма «Терминатор-3: Восстание машин» / © Кинопоиск

Пока весь мир умиляется танцам четвероногих роботов, созданных компанией Boston Dynamics, эксперты в области вооружений уже прикидывают, как и где можно применить машины такого типа в случае начала полномасштабных боевых действий. В истории с забавными роботами стоит знать главное: за красивой ширмой из рекламных роликов и кривоногими роботами, которые прыгают, бегают и даже умеют делать сальто, стоит не жажда потешить публику и получить деньги от просмотров на YouTube. У истоков смешных американских роботов — DARPA, Управление перспективных исследовательских проектов Министерства обороны США, в интересах которого компания Boston Dynamics работает практически с самого начала. Нетрудно догадаться, что американских военных танцующие роботы не интересуют — главной целью программы стали исследования по созданию и адаптации компьютерных программ под военных. Проще говоря, на деньги Минобороны США в Boston Dynamics пытаются выяснить, как можно превратить убогие электронные устройства в машины для убийства.

Сейчас даже в видеорегистраторах есть акселерометры, датчики движения и многое другое. В роботах Boston Dynamics эти системы компонуются, автоматизируются и доводятся до пригодного к бою состояния.

Юрий Мосоленко, кандидат технических наук, программист

Говоря простым языком, «загнать за шиворот» противнику пару десятков килограммов взрывчатки под покровом ночи такие роботы могут уже сейчас. К примеру, Spot Mini уже могут самостоятельно и в составе группы двигаться по помещениям. Нагрузите эти устройства взрывчаткой C4 — и спецназ на зачистку здания от террористов можно уже не посылать. С бегающими роботами Atlas пока всё немного сложнее, но трудности, как отмечают эксперты, не будут продолжаться вечно. Главная особенность этих машин — практически полное сходство с роботами из фильма «Суррогаты»: Atlas может двигаться не только автоматически, но и способен «передавать» управление оператору. Глазами и ушами в этом случае будут камеры и чувствительные датчики. Замените резиновые «копытца» на пулемёт с сотней патронов — и электронный истребитель «кожаных мешков» готов. Конечно, скептики сразу станут утверждать, что такая цель уязвима для огня противника, но не стоит забывать, что главная задача роботов — действовать на поле боя вместо людей и при необходимости там же вместо них умирать.

Фото © Boston Dynamics

Главная роль в войнах будущего отводится нейросетям, программированием и обучением которых заняты целые институты и крупные департаменты IT-корпораций. Первые опыты по внедрению нейросетей в боевой софт уже проведены — такие компании, как Military AI Works и им подобные, имеют давние и прочные связи с мастодонтами военно-промышленного рынка — Boeing или General Dynamics, которые разрабатывают различные системы на основе нейросетей. От военной логистики до систем управления беспилотниками — область для применения нейросетей практически бесконечна.

Читать еще:  Как правильно хранить скейтборд

Совсем недавно несколько выдающихся деятелей современности, среди которых оказались астрофизик Стивен Хокинг, основатель и председатель совета директоров Microsoft Билл Гейтс, создатель SpaceX Илон Маск и другие известные личности, выступили за запрет на «работу» нейросетей в критически уязвимых секторах и областях человеческой жизни. Главная боязнь учёных и IT-бизнесменов заключалась в том, что встроенные в цепи управления нейросети перепишут заложенные в них алгоритмы и начнут самообучаться, постепенно заполучив в свои коварные лапы всю инфраструктуру. Отчасти страхи учёных и глав корпораций оправданны — алгоритмы самообучения нейросетей уже написаны и давно функционируют. Одним из наиболее удачных примеров является SOINN — самоорганизующаяся инкрементная нейронная сеть, созданная специалистами японской компании Hasegawa. Эта программа действительно помогает роботу быстрее обучаться простейшим операциям на производстве и имеет большой потенциал. Единственное, о чём забывают активисты за запрет нейросетей, — любые математические параметры, вплоть до пределов самообучения, нейросетям задают люди. По крайней мере, пока.

Кадр из фильма «Терминатор: Да придёт спаситель» / © Кинопоиск

Бахнем, но потом

В фильме «Я — робот» по роману Айзека Азимова реализуется один из самых ожидаемых сценариев захвата человечества машинами. Взбесившаяся позитронная нейросеть компании US Robotics с чего-то вдруг посчитала людей угрозой для самих себя, планеты и жизни в целом, после чего с лёгким сердцем устроила небольшой геноцид в пределах отдельно взятого американского города будущего. Если не брать в расчёт войну машин против людей по аналогии с фильмом «Терминатор», то такие события могут наступить значительно быстрее, чем ожидается, и вот почему. Программисты и вообще любые специалисты по обучению нейронных сетей отмечают, что математическое моделирование и машинное обучение — это хорошо, однако чтобы победить человека, нейросеть в первую очередь должна думать как человек. Единственной возможностью для этого может стать подключение AI через специальный интерфейс напрямую к мозгу специалиста по защите данных, хакеру или бойцу спецподразделения. Лишь тогда нейросеть будет способна перебирать всё множество вариантов действий в сложной ситуации и принимать единственно верное решение. Точно такое же, какое может принять сотрудник разведки, космонавт, полицейский или оператор истребителя в стрессовой ситуации.

Однако настоящие проблемы начнутся в тот момент, когда нейросети, «натасканные» машинным обучением и подсмотревшие за тем, как могут действовать люди, будут подключены к цепям управления боевыми информационными системами. Уже известно, что в начале 2019 года армия США может объявить конкурс на создание нейросетей, облегчающих пилотирование ударных вертолётов AH-64D Apache. Какие конкретно функции будет выполнять электронный мозг, пока не известно, но не исключено, что нейросеть на определённом этапе задействуют для определения приоритетов и важности целей, а затем привлекут для нанесения ударов. Возражения о том, что машина должна лишь выполнять команды человека, принимаются и понимаются даже на таком уровне, как Пентагон, поэтому до появления квантовых компьютеров беспокоиться не о чем — традиционные математические алгоритмы, пусть и с трудом, но поддаются контролю со стороны операторов.

Кадр из фильма «Терминатор: Да придёт спаситель» / © Кинопоиск

Математики считают, что подвести человечество под монастырь могут всего две вещи: слепая вера в нейросети и квантовые компьютеры. По первому пункту человечество уже давно и крайне уверенно летит в пропасть — сейчас нейросети соединяют с суперкомпьютерами для математического поиска сверхпроводников и жизни на других планетах, доверяют программам защиту человечества от рака, а завтра в кластер доверия попадёт управление контурами на АЭС. Послезавтра каждая подстанция, ГЭС, отделение почты и воинская часть будут оснащены искусственным интеллектом, и ничего хорошего это людям не сулит.

Игры с автоматизацией неизбежно приведут к внедрению нейросетей в боевые системы. На текущем этапе это, конечно, невозможно, но квантовые компьютеры заметно «разгонят» искусственный интеллект

Юрий Быков, профессор, кандидат математических наук

Квантовые компьютеры позволят нейросетям обучаться практически без предела по объёму получения данных — учитывая скорость обработки «больших чисел» в таких компьютерах, незначительную мелочь вроде курса молодого бойца или основ кибербезопасности нейросеть изучит примерно секунд за тридцать, а может быть, и меньше. Что дальше система будет делать с такими данными — зависит только от тех, кто её написал и создал. Если нейросеть создавалась с целью нанести максимальный ущерб экономике противника через кибератаки и заражение вредоносными программами, она обязательно выполнит поставленную задачу. До включения человека в «расстрельный список» нейросетей ещё далеко — люди пока не научились контролировать роботов настолько, чтобы «натравливать» их под управлением суперпрограмм друг на друга. Война машин против людей будет заметно отличаться от того, что мы привыкли видеть в фильмах. Отвечая на вопрос, возможен ли такой исход, специалисты нервно пожимают плечами, замечая, что и этот день когда-нибудь может настать, а воевать человеку придётся не только с боевыми роботами, но и с обычными холодильниками, роутерами и ноутбуками, которые будут выполнять функцию «первого эшелона» порабощения человечества. Когда люди будут лишены связи и возможности координировать действия, в дело могут вступить самые настоящие боевые машины с искусственным интеллектом, внезапно сообщающие через громкоговоритель, что в вашем городе объявлен комендантский час.

Читать еще:  Можно ли заработать в сети

Возможно ли восстание машин: учёные обсуждают опасность искусственного интеллекта

В 2014 году шведский философ и преподаватель Оксфордского университета Ник Бостром написал книгу «Суперинтеллект: пути, опасности, стратегии». По мнению автора, если искусственный интеллект и способности компьютеров превзойдут умственные возможности людей, то всё человечество как форма жизни исчезнет. ИИ сможет, по словам философа, полностью заменить человека и его навыки. Работа Ника Бострома была переведена на множество языков и стала мировым бестселлером. Однако некоторые учёные усомнились в категоричных заявлениях шведского философа.

В издании MIT Technology Review исполнительный директор Института искусственного интеллекта им. Аллена и профессор кафедры компьютерных наук и инженерии Вашингтонского университета Орен Этциони опубликовал итоги проведённого им опроса «Когда человечество достигнет суперинтеллекта и к чему это может привести». Интерес Орена вызвала не только нашумевшая работа шведского философа, но и тревожные заголовки в ведущих американских СМИ, передающие общее беспокойство по поводу угрозы искусственного интеллекта для человечества в ближайшем будущем.

Сначала американский профессор решил подробно остановиться на проведённом Ником Бостромом исследовании и понять, на чём базируются его категоричные заключения. Орену Этциони удалось выяснить, что шведский философ основывает свой 300-страничный труд на четырёх исследованиях способностей искусственного интеллекта, результаты которых были представлены на конференции 2011 года «Философия и теория искусственного интеллекта» в Греции. Не раскрывая сути и содержания этих исследований, Ник Бостром утверждает, что к 2022 году искусственный интеллект достигнет 10% мыслительных способностей человека, к 2040 году — 50%, а в 2075 году уровень развития искусственного интеллекта приблизится к 90%.

Пытаясь разобраться в серьёзности этого заявления, а также убедиться в том, разделяет ли позицию шведского философа научное сообщество, Орен Этциони опросил 193 членов Американской ассоциации по изучению искусственного интеллекта (American Association for Artificial Intelligence). Вопрос был таким: «В своей книге Ник Бостром определил искусственный интеллект как интеллект, который намного умнее человеческого мозга практически во всех сферах, включая научное творчество, мудрость и социальные навыки. Как вы думаете, когда мы достигнем искусственного интеллекта»? В опросе приняли участие 80 экспертов.

Согласно результатам, 20 человек уверены, что искусственного интеллекта вовсе не будет. Менее 10 экспертов высказали предположение, что суперинтеллект потеснит человеческий через четверть века, а большинство видит его появление в отдалённом будущем. Опрос проводился анонимно, однако под своими именами высказались 44 участника, среди них — Эдвард Фейгенбаум — лауреат премии Тьюринга 1994 года, знаменитый робототехник Родни Брукс, а также директор по исследованиям Google Питер Норвиг.

Некоторые из опрошенных экспертов, пожелавшие остаться анонимными, раскритиковали подход Ника Бострома. Они выразили принципиальное несогласие с концепцией исследования и заявили, что не стоит видеть в искусственном интеллекте угрозу для человечества.

По словам Орена Этциони, опрос представляет собой ограниченную научную ценность, по нему нельзя делать далеко идущие выводы — для большинства учёных приведённых доказательств оказалось недостаточно.

Тем не менее уже сейчас существует множество опасений, связанных с широким использованием искусственного интеллекта в некоторых областях нашей жизни. При этом прогнозы, пророчащие его появление в самом ближайшем будущем, безосновательны. В обозримой перспективе компьютер не сможет заменить человеческий мозг.

Более того, существует немало положительных моментов, связанных с появлением искусственного интеллекта. Например, его можно использовать в медицине для предотвращения врачебных ошибок, а также для сокращения количества дорожно-транспортных происшествий. Наконец, вполне возможно, что системы ИИ могли бы сотрудничать с людьми, чтобы создать симбиотический суперинтеллект.

Источники:

http://vegchel.ru/?newsid=28644
http://life.ru/p/1161876
http://russian.rt.com/article/322520-vozmozhno-li-vosstanie-mashin-uchyonye-obsuzhdayut-opasnost

Ссылка на основную публикацию
Статьи c упоминанием слов:
Adblock
detector