Восстание машин

Мировое научное сообщество в последнее время активно обсуждает риски создания искусственного интеллекта (ИИ), который может стать угрозой для существования человечества. Очередная волна киберофобии поднялась из-за высказываний Стивена Хокинга. И понятно почему.

Ведь знаменитый физик-теоретик пришел к выводу, что ИИ способен положить конец человеческому роду.

Законы робототехники

Недавно, беседуя с легендарным американским журналистом Ларри Кингом, Хокинг заявил, что классические законы робототехники, введенные 75 лет назад Айзеком Азимовым, безнадежно устарели. Напомним, что писатель-фантаст сформулировал три закона. Во-первых, робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. Во-вторых, робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. В-третьих, робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Закону.

И вот теперь Хокинг объявляет, что все эти правила больше не работают. Почему?

В первую очередь это связано с военными проектами искинов-терминаторов, массово создаваемых Пентагоном с помощью американского Агентства по перспективным оборонным научно-исследовательским разработкам (DARPA). В США слишком увлечены «великой американской мечтой господства над всем миром». И в угоду ей они готовы переформулировать этику законов робототехники. Так возникают чудовищные проекты «звезд смерти», населенных искинами (носителями искусственного интеллекта — ИскИн) и следящих за соблюдением «базовых принципов либеральной демократии» на нашей планете. Ну а если электронный мозг «звезды смерти» решит, что где-то на Земле нарушаются «принципы свободы и демократии» в понимании Белого дома, туда немедленно ударят испепеляющие лучи гайзеров — рентгеновских лазеров. Варианты этого страшного оружия с ядерной накачкой были созданы еще в эпоху рейгановской СОИ (Стратегической оборонной инициативы).

Тест пройден

Стивен Хокинг утверждает, что примитивные формы искусственного интеллекта, уже существующие на сегодняшний день, доказали свою полезность, но он опасается, что человечество создаст нечто такое, что превзойдет своего создателя. Ученый предполагает, что такой разум очень быстро возьмет инициативу на себя и станет сам себя совершенствовать со всевозрастающей скоростью. А если учесть, что возможности людей ограничены слишком медленной эволюцией, мы никак не сможем соревноваться со скоростью мышления машин.

Хокингу возражает разработчик веб-приложения Cleverbot — Ролло Карпентер. Он считает, что мы еще долго останемся хозяевами даже самых «продвинутых» искинов, которые в свою очередь могут помочь нам решить многие мировые проблемы.

Для подобных высказываний у Карпентера есть весомые основания. Его веб-приложение использует алгоритм искусственного интеллекта для проведения бесед с людьми на английском языке. И оно хорошо зарекомендовало себя в так называемом тесте Тьюринга. Суть этого теста заключается в следующем: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор». Все участники теста не видят друг друга. И если судья не может сказать определенно, кто из собеседников является человеком, то считается, что машина прошла тест. Программе Cleverbot тест покорился.

Карпентер считает, что мы не можем с уверенностью сказать, что произойдет, когда машины превзойдут нас интеллектом. Следовательно, мы не можем предсказать, как они поведут себя: будут ли они нам помогать, игнорировать или же возьмутся за наше уничтожение.

Скрытая угроза

Высокотехнологичный сектор робототехники относится к одной из самых динамичных и быстроразвивающихся отраслей современной индустрии. Передовые технологии с примитивными формами ИИ были созданы еще в конце прошлого века и сегодня активно применяются в различных отраслях — атомной, нефтегазовой, медицине и фармацевтике.

Хорошим примером скрытой угрозы искинов являются проекты создания интеллектуального электромобиля без водителя. Так, уже этим летом первые 40 машин, оснащенные 22 сенсорами, панорамными камерами и «умной» программой управления, будут в тестовом режиме со скоростью 30 км/ч передвигаться по улицам городов Британии. Ведущие же мировые производители интеллектуальной робототехники — США, Южная Корея, Япония — вообще уже стоят на пороге новых революционных открытий в плане создания сверхинтеллектуальных искинов.

Вместе с тем столь интенсивное развитие нового технологического феномена — коммуникации естественного и искусственного разума — требует совершенно иного подхода к искинам в глобальном масштабе. Уже вполне назрела необходимость выработки согласованных международных подходов по целому ряду щекотливых вопросов и явных, уже сейчас очевидных, правовых ловушек, связанных с развитием и адаптацией ИИ в обществе.

Но вот что настораживает: пока ученые спорят о перспективах развития искусственного интеллекта, это направление высоких технологий продолжает активно развиваться в военных целях. Мало кто из западных стран, прежде всего США, хотят ограничивать создание систем искусственного интеллекта, которые уже сейчас активно используются для отслеживания глобального информационного пространства. Иными словами, речь идет еще об одной сфере развития человечества, где может быть предпринята очень соблазнительная попытка создания условия для глобального доминирования. Может быть, имеет смысл прислушаться к мнению ученых и подумать над правовым регулированием в рамках ООН. Или хотя бы начать обсуждать эту тему в ЮНЕСКО. Иначе клонирование и зачатие ребенка от трех родителей, на что получено разрешение в той же Великобритании, покажется детской шалостью.

Вызов демона-разрушителя

Хокинга всячески поддерживает американский инженер, предприниматель и миллиардер Илон Маск. Он основал известные компании: аэрокосмический стартап SpaceX и автомобильный концерн Tesla.

Маск уверен, что успех создания искусственного интеллекта станет самым значительным событием нашего времени, но это же окажется, к сожалению, и последним событием для существования человечества. Этот яркий и выдающийся бизнесмен, автор многих амбициозных высокотехнологичных проектов, предостерегает, что уже через 5-10 лет в недрах искинов появится нечто действительно очень опасное. Маск сравнивает создание нейрокибернетических искинов буквально с «вызовом демона-разрушителя» и уверен, что необходимо срочно создать некий международный комитет по надзору за ИИ-технологиями.

Суперинтеллект против человечества

Роберт Хэнниген, директор Британского центра по контролю за коммуникациями GCHQ, недавно предупредил, что Интернет становится командным центром для террористических организаций. Свои опасения высказывает и основатель корпорации Microsoft Билл Гейтс, который, в частности, считает, что ИИ в самом скором времени может превратиться в источник постоянных проблем, связанных с непонятной даже его создателям логикой поведения. «Я из тех, кто считает, что суперинтеллект может угрожать человечеству. Сначала машины станут выполнять за нас работу и не будут обладать суперинтеллектом. Хорошо, если мы правильно сможем этим управлять. Через несколько десятилетий машины поумнеют настолько, что это может стать для нас проблемой. Здесь я согласен с Илоном Маском и другими и не понимаю, почему многих людей это не волнует».

Олег Арсенов

Восстание машин: роботы лишат людей работы и приведут к краху экономики

В современных условиях люди приспособили роботов к своей действительности, используя их по своим нуждам. Однако специалисты омрачают нашу комфортную жизнь практически апокалиптическим прогнозом: скоро искусственный интеллект продвинется настолько, что станет управлять человеческими жизнями.

Роботизация ни для кого не нова — замена человека машиной в некоторых сферах уже стала обыденностью, а не фантастическим предсказанием футурологов. Однако на прошлой неделе на конференции SXSW прозвучало сенсационное заявление: роботы не только заменят нас, но инициируют ещё одну революцию — искусственный интеллект и роботизированные физические процессы станут более востребованы, чем человеческие.

Идея исходила от эксперта индустрии Мэтта Рэндалла. Являясь главным исполнительным директором компании Otto Motors, он уже не раз делал громкие заявления, касающиеся изменения сути машинного труда и следующих за этим глобальных гуманистических процессов. Главная претензия к американскому обществу — недостаток инвестиций в сферу робототехники, что приведёт, по его мнению, к краху национальной экономики.

У Соединённых Штатов, по мнению Рэндалла, есть все шансы остаться в арьергарде мирового развития: роботы не только помогают людям, но фактически отбирают у них функционал и рабочие места, а общество не готово к такому развитию событий. После прорыва на сборочной линии Ford в области автоматизации производства США не сделали ничего.

Свои доводы специалист оформил в доклад «Роботы против работы: технологическая замена уже близко», где дал краткую историю процесса автоматизации и выстроил графики вытеснения человеческого труда в долгосрочной временной перспективе. При этом Рэндалл уверен, что он ещё очень оптимистично смотрит в будущее!

С ним солидарны и исследователи Карл Бенедикт Фрей и Майкл Осборн, опубликовавшие несколько лет назад резонансный труд «Будущее занятости», где предсказали исчезновение половины существующих профессий в ближайшие три-четыре десятилетия.

По мнению руководителя робототехнического центра Сколково Альберта Ефимова, это не пустые слова: «Это уже реальность. Практически все современные системы компьютерного зрения — это искусственный интеллект. Обработка данных, поступающих с сенсоров, разбросанных по всем этапам современного производства, — тоже искусственный интеллект».

Среди потенциальных жертв — сфера обслуживания (автоматизация автомобилей, сервисов доставки и так далее), а также техническая сторона любого труда, в том числе и интеллектуального. Так, к примеру, информационная агрегация или работа по написанию простых программ уже сейчас в большинстве случаев производится алгоритмами. В ближайшее время может стать реальной и замена человека полностью не только в физическом труде, но и в интеллектуальном. Так, ведутся разработки и активно внедряются роботы-консультанты и помощники, которые способны и перенести тяжёлый груз, и представить ваши интересы в суде.

По мнению Альберта Ефимова, замещены могут быть те виды деятельности, где очень низки показатели следующих факторов: небольшое социальное взаимодействие (например, ответы по телефону), небольшая степень манипуляции объектами (например, сборка простой детали) и небольшая степень творчества (бухгалтер).

Замена профессий происходит давно. Просто раньше два тренда — информатизация и автоматизация — были связаны не так сильно. Современные технологии и прежде всего машинное обучение делают роботов более адаптивными к окружающему миру, роботы учатся быстрее, технологии совершенствуются быстрее, и поэтому тренд на замену человека роботом стал динамичнее и заметнее.

В мире постдефицита ценностью станут творчество и предпочтения, вкусы людей. А производство может стать безлюдным: промышленность перейдёт полностью к индивидуальному производству, которое характеризуется тем, что каждое изделие может быть адаптировано для конкретного человека.

Рост экономики Китая, по мнению экономистов и технических специалистов, во многом определяется именно роботизацией. Подавление китайской экономикой финансовых моделей других государств стало возможным благодаря тому, что Поднебесная автоматизировала большинство промышленных процессов и тщательно следит за сохранением своих лидирующих позиций в вопросе внедрения искусственного интеллекта.

Следом за китайцами в этом вопросе идут индустриальные центры Японии, а также крупные производители Германии и Швейцарии. Высоко число роботов на человеческую рабочую единицу и в Южной Корее. При этом во всех этих странах есть «доморощенные» робототехнические компании, которым прочат высокие успешные показатели. Америка в этом вопросе сильно сдаёт — ведь крупнейшие производства автомобилей, электроники и мебели сосредоточились именно в Европе и Азии.

Вполне вероятно, что не за горами общество всеобщего благоденствия, где все рабочие места с использованием физического и несложного интеллектуального труда будут заменены искусственным разумом. Бизнес к этому практически готов: роботы обойдутся дешевле людей, которым необходимы заработная плата, больничный и отпуск. О компьютерах на руководящих должностях, конечно, пока говорить не приходится, поэтому опасающимся остаться на этой войне без одежды, сапог и мотоцикла можно пока не беспокоиться.

Софья Кадочникова