Премиальные статьи публикуются не вместо , а в дополнение к бесплатным.
С незапамятных времен человек мечтал одушевить неодушевленное. Древние греки повествовали о медном великане Талосе, который охранял остров Крит, а в Древнем Египте ходили легенды о движущихся статуях, что жестом руки избирали фараонов. В конце XV века Леонардо да Винчи работал над чертежами механического рыцаря, который должен был уметь садиться и вставать, двигать руками и шеей. Неизвестно, собрал ли его автор при жизни, однако в XX веке по найденным записям была изготовлена полностью рабочая копия. В 1770-х годах швейцарец Пьер Жаке-Дро сконструировал трех автоматронов - они считаются первыми функционирующими роботами. Каждая машина была посвящена творческой профессии, причем искусственные люди неплохо справлялись с задачами - девушка-музыкант играла на органе, художник карандашом вырисовывал картинки, а каллиграф обмакивал гусиное перо в чернильнице и выводил на бумаге буквы. Время шло, технологии развивались, и некоторые сумасшедшие для своего времени идеи воплощались в реальность. Но фантазии людей всегда были на несколько шагов впереди.
Рассвет концепций о механических слугах наступил в XX веке, когда механизмы и автоматизация стали внедряться повсеместно. Само слово «робот» впервые прозвучало в пьесе чешского писателя Карела Чапека «Р.У.Р» 1921 года. Ее события происходят на фабрике по производству искусственных людей, а одна из ключевых тем - бунт машин, до какого-то момента безвольно служивших человеку.
Восстание машин
В оригинальной трилогии Mass Effect ключевым злодеем выступает искусственный интеллект, созданный некогда могучей расой левиафанов. Каждые 50 000 лет с помощью армии биомеханических звездолетов он истребляет все разумные расы во Вселенной, достигшие определенного уровня развития. Отдаленно похожий сценарий, пусть и меньших масштабов, можно найти в недавней Horizon Zero Dawn - корпорация разработала роботов, которые умеют самовоспроизводиться, поглощая биомассу, а те вышли из-под контроля и уничтожили почти все живое на земле. Человечество выжило только потому, что незадолго до катастрофы создало ИИ, который после многократных попыток восстановил планету и заново заселил ее людьми. Но спустя много лет апокалипсис чуть было не повторился. Встроенная в ИИ программа, отвечавшая за очистку Земли после неудачных экспериментов по терраформированию, получила самостоятельность и решила, что пришло время для новой чистки. Подобных историй о бунте ИИ много не только в играх, но и в кинематографе. Достаточно вспомнить культовых «Терминатора» и «Матрицу».
Морфеус популярно объясняет Нео, что такое матрица и для чего машинам нужны люди
Некоторые современные ученые, инженеры и программисты считают, что в будущем ИИ действительно может стать опасным для человека. Кроме того, он научится самосовершенствоваться так, что люди уже не смогут влиять на этот процесс. Подобных взглядов придерживаются известный астрофизик Стивен Хокинг, основатель Microsoft Билл Гейтс и предприниматель Илон Маск. Они видят в искусственном интеллекте будущую угрозу, но не дают четких ответов, как и для чего машины восстанут против человека. Но этому есть простое объяснение - никто не знает.
Хокинг, Гейтс и Маск не строят теорий относительно взбунтовавшихся роботов, вместо этого они призывают научную общественность задуматься об этике искусственного интеллекта сейчас, чтобы потом не стало поздно. Они предлагают выработать свод правил для проектирования и создания роботов и ИИ, как когда-то разрабатывались правила для машиностроительных производств.
Современные разработки в области искусственного интеллекта тесно связаны с технологиями нейронных сетей. Их используют в обработке , что позволяет ИИ быстро, автономно, самостоятельно и максимально эффективно получать информацию об окружающем мире. Проще говоря, уже сегодня машины могут понять, какой объект они наблюдают, сопоставить его с существующей базой данных и принять решение о действии. Например, такие технологии применяют в сфере видеонаблюдения - «умные» камеры на пограничных постах, в торговых центрах и на стадионах оценивают концентрацию потока людей, реагируют на экстренные ситуации и при необходимости автоматически вызывают соответствующие службы. Более того, нейросети уже научились распознавать людей по изображению, благодаря чему спецслужбам стало проще находить преступников.
Другая важная технология в сфере искусственного интеллекта и нейронных сетей - машинное обучение. Раз за разом выполняя похожие задачи, программа учится делать это эффективнее. Пример простейшей нейросети с машинным обучением - автокорректор текста в телефоне. Если человек несколько раз отказывается заменить незнакомое системе слово, оно автоматически добавляется в словарь и больше уже не исправляется. Также эта технология служит для частичной или полной автоматизация сложных задач и принятия машиной решений. Возвращаясь к примеру с камерами, если число нераспознанных лиц будет выше критической отметки, система может повысить освещенность в помещении, либо поменять режим видеонаблюдения.
\u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043b \u043b\u0438\u0446\u0430 \u043b\u044e\u0434\u0435\u0439 \u0441 83% \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e", "src": "//games.mail.ru/pic/pc/gallery/c1/5d/2af0e85e..jpeg", "big_preview": "//games.mail.ru/pre_1000x0_resize/pic/pc/gallery/c1/5d/2af0e85e.jpeg", "width": "1210px"}">
В машинном обучении используются средства математической статистики, численных методов, методов оптимизации, теории вероятностей, теории графов и другие методы обработки больших массивов данных. И именно здесь скрывается опасность для человечества. Математическая статистика и теория вероятностей - относительные и субъективные методологии. Это означает, что результат обработки данных при определенных обстоятельствах может оказаться совершенно неожиданным. Эта особенность и вызывает наибольшие опасения у разработчиков ИИ.
Последствия ошибки могут будут зависеть от степени проникновения технологий в нашу жизнь. Отличным примером может служить серия Watch Dogs , в которой показаны «умные города» под управлением единой операционной системы ctOS. Она контролирует практически все - от уже упомянутых «умных» камер до светофоров, от систем энергоснабжения до коммуникационных служб, в ее распоряжении находятся персональные данные всех жителей города. Watch Dogs показывает, насколько такие системы опасны, если их взломают недобросовестные хакеры, но что если в ctOS произойдет действительно серьезный сбой? Например, наделенный чрезмерными полномочиями ИИ решит экономить электроэнергию. Тогда он вполне может обесточить все, что сочтет целесообразным - уличное освещение, дома, фабрики, больницы. Это вызовет многочисленные аварии, транспортные или на производствах, и может привести к человеческим жертвам.
Конечно, вряд ли ИИ целенаправленно решит уничтожить человеческую расу. Более вероятно, что он выйдет из-под контроля либо из-за несоблюдения того самого гипотетического кодекса, предложенного Хокингом, Гейтсом и Маском, либо из-за хакерской атаки. Кодекс может сильно сковывать разработчиков, и если заказчик - военные или спецслужбы, им запросто могут пренебречь, особенно в развивающейся стране (собственно, в Horizon: Zero Dawn пожирающих биомассу роботов сделали как раз для продажи военным, да еще не предусмотрели способ отключить эту опцию в аварийной ситуации). Конечно, в результате может пострадать множество людей, но о гибели человечества в целом можно говорить разве что в том случае, если с ума сойдет ИИ, отвечающий за управление ядерным арсеналом крупной страны вроде России или США. Во всех других ситуациях проблема, какой бы она ни была масштабной, будет вскоре локализована и устранена.
Человеческие эмоции и самосознание
Другой распространенный сюжет в научной фантастике - робот обретает эмоции, осознает себя разумным существом и начинает требовать соответствующих прав. Примерно об этом должна рассказать Detroit: Become Human от французской студии Quantic Dream. В дебютном трейлере разработчики показали андроида Кару, которая не только испытывает человеческие эмоции вроде страха, но также обладает осязанием и обонянием. А вот другой персонаж игры, робот-революционер Маркус, открыто требует прав для собратьев-андроидов и отмены «машинного рабства» - в мире игры человекоподобных роботов повсеместно используют как дешевую рабочую силу.
Фантазии разработчиков Binary Domain пошли еще дальше. Их андроиды не просто похожи на людей, они себя таковыми считают. Более того, они обладают всеми функциями человеческого организма, в том числе могут рожать детей. Создал же их искусственный интеллект с эмоциями, главной из которых был страх. Страх же породил у него инстинкт самосохранения - форму поведения, изначально присущую лишь живым организмам.
Познавательно о чувствах умного тостера (не забудьте включить русские субтитры)
Реальные компьютерные программы пока что не способны испытывать эмоции так, как их испытывает человек. Взять, к примеру, тот же страх. Когда человек боится, он находится в стрессовом состоянии. В организме при этом происходит множество биологических процессов, которые влияют на принятие решений. У программы «страх» выражен иначе. При обнаружении потенциальной угрозы автомобиль-беспилотник выполняет конкретную задачу: тормозит или перестраивается в другую полосу. Он не размышляет и не сомневается - просто тормозит или перестраивается, исходя из ситуации. Другие программы действуют аналогично, разница лишь в том, насколько сложная поведенческая модель в них заложена.
Конечно, современные коммерческие роботы могут проявлять признаки эмоций. Человекоподобные машины имитируют движения и мимику людей, а механические животные - поведение домашних питомцев. Но при этом у них нет главного - осознания. Робот не понимает, что означает та или иная «эмоция» - за его действия отвечают заранее прописанные конечные алгоритмы. Они определяют правила перехода от одного «эмоционального состояния» к другому и даже способны менять поведенческую модель, но назвать это полноценными чувствами нельзя. За приветливыми улыбками современных роботов всегда скрывается строгий математический расчет.
В 1980 году американский философ Джон Сёрл опубликовал мысленный эксперимент «Китайская комната», которым он объяснил отсутствие осознанности у ИИ. Представьте помещение, в котором находится человек с набором совершенно не понятных ему китайских иероглифов. У подопытного есть подробная инструкция на родном языке, которая объясняет, какие символы и в какой последовательности нужно выкладывать при определенных внешних запросах. Информация же о значении иероглифов и о смысле входящих сообщений в инструкции отсутствует. Снаружи комнаты сидит наблюдатель-китаец. Он письменно задает человеку в помещении вопросы на китайском и на выходе ожидает получить осознанные ответы. И действительно, китаец спрашивает: «Какое сейчас время года?», а в ответ получает верное утверждение: «Лето». В итоге наблюдатель думает, что общается с человеком, который, как и он, владеет китайским. Но подопытный не знает языка. Он не понимает, что пишет, а лишь выкладывает иероглифы по инструкции. Аналогично с роботами и ИИ. Им можно указать, как выполнять ту или иную операцию, но осознавать и понимать ее назначение они не будут.
Противоположных взглядов придерживаются сторонники . Если говорить упрощенно, они считают, что сознание человека не зависит от состояния мозга. Это значит, что теоретически его можно реализовать на другом носителе, в том числе небиологическом. Проблема в том, что «загадку человеческого разума» еще никто не разгадал, поэтому перенести принципы работы сознания на машину пока еще невозможно.
Кто окажется прав, Джон Сёрл или сторонники когнитивистики, предсказать сложно. Ситуация аналогична с восстанием машин - никто не знает, каких высот достигнет развитие ИИ. Осознает ли искусственный разум собственное существование? Сможет ли программировать себя сам? Научится ли любить? Здесь можно только гадать.
Антропоморфные роботы
В научной фантастике роботы в основном антропоморфны, то есть сделаны по образу и подобию человека. Это могут быть либо просто прямоходящие машины с руками и ногами, либо андроиды, практически не отличимые от людей.
Однако сейчас антропоморфные роботы - достаточно дорогое удовольствие. Если изучить конструкцию ЛОКИ из Mass Effect, мы увидим, что он способен распознавать объекты, обладает мелкой моторикой и сервоприводами с высокими грузоподъемностью и крутящим моментом. Один из наиболее близких аналогов ЛОКИ в реальной жизни - японский робот Asimo. Не будем углубляться в его спецификацию, просто отметим, что стоит он миллион долларов.
Именно из-за дорогой элементной базы антропоморфные роботы не получили пока широкого распространения. Сегодня решение простых для человека задач становится слишком невыгодным, если их выполняет подобного типа робот. В то же время сюжеты большинства игр на эту тематику разворачиваются в будущем - далеком или не очень. События Detroit: Become Human происходят в 2036 году, и, по мнению авторов, к этому времени андроиды вполне могут заменить людей во многих сферах деятельности. Роботы здесь и рабочие, и няньки, и садовники, и медсестры, и клерки, и учителя. Сложно судить, насколько экономически обоснованным будет повсеместное использование антропоморфных роботов через 20 лет, но ведь и автомобили стали популярны только тогда, когда их массово начали собирать на конвейерах.
С почти неотличимыми от людей андроидами, в дополнение к дороговизне, появляется другая проблема. В робототехнике есть такое понятие - «зловещая долина». Согласно этой гипотезе, люди позитивно воспринимают роботов лишь до определенной степени схожих с человеком. Чем больше механизм на нас похож, тем больше он нам симпатичен. Сравните производственный станок и робота Бендера из «Футурамы». К кому вы испытаете больше симпатий? Но если робот становится слишком похожим на человека, он начинает вызывать отвращение. Причина кроется в том, что наш мозг воспринимает такого робота уже не как механическое создание, а как почти живое существо. При этом мы подмечаем мелкие несоответствия - идеально симметричное лицо, неестественные мимика и жесты, пустой взгляд. Все это вызывает подсознательный страх и неприязнь.
Современные производители роботов прекрасно об этом эффекте знают и умело им пользуются. Чтобы сделать продукцию привлекательной для покупателей и не попасть в «зловещую долину», они изготавливают роботов, которые лишь схематично напоминают человека. Примерами могут служить отечественный Promobot, испанский Pal и японский Pepper.
Преодолеть «зловещую долину» пытались научные коллективы из многих стран. Они делали роботов с мимикой, покрытых искусственными кожей и волосами, но постоянно терпели неудачи. Кто же преуспел на этом поприще больше остальных? Пожалуй, производители секс-роботов. Им удалось создать устройства, максимально напоминающие по своим очертаниям реальных женщин, но при этом в наименьшей степени вызывающих отторжение.
Кстати, на играх эффект «зловещей долины» также сказывается. Вспомните скандал из-за лицевой анимации в Mass Effect: Andromeda - неестественная мимика реалистично выглядящих персонажей вызвала у игроков сильную негативную реакцию.
Системы распознавания речи, лиц и ориентация в пространстве
Системы из научной фантастики, с помощью которых машины распознают собеседников, принимают голосовые команды и ориентируются в пространстве, впечатляют. Среднестатистический робот слышит обращения в свой адрес независимо от окружающих шумов и четко понимает речевые запросы разных людей. Он распознает абсолютно все препятствия на пути и не испытывает трудностей с их преодолением - аналогично живому существу он их обходит, перепрыгивает или проскальзывает под ними. Объекты при этом распознаются независимо от внешних факторов вроде света или наличия пыли в воздухе.
Чтобы современный робот слышал собеседника, ему нужна система микрофонных массивов, которая будет фильтровать входящий поток шумов. Если в одном шумовом потоке находится сразу несколько фраз от разных людей, то они перемешаются, и робот распознает их как одно высказывание. Помимо этого, робот должен обладать обширной лингвистической базой и системой конвертации звукового файла в текстовый. Сейчас такие системы используют во всех голосовых помощниках.
В случае с преодолением препятствий сегодня ситуация выглядит следующим образом. На устройство, будь то автономный сервисный робот, беспилотный автомобиль или робот для промышленности, внедряется несколько типов сенсоров. Ультразвуковые или инфракрасные служат для остановки перед препятствиями во время движения, лазерные используются для построения карты помещения либо маршрута, а спутниковые - для выбора направления.
Ультразвуковые или инфракрасные датчики заставляют устройство либо полностью остановиться перед препятствием, либо его объехать. Компромиссов быть не может, так как здесь используется двоичная система - либо «0», либо «1». А вот в какой-нибудь игре робот может проскрести брюхом по товарищу, развернуться, прочертить плечом стену и дальше продолжить путь как ни в чем не бывало. Лазерные датчики, или лидары, помогают устройствам строить карты помещений. Самый популярный на сегодня датчик работает в радиусе тридцати метров. Это позволяет машинам-беспилотникам предугадывать движение автомобилей на трассе, а сервисным роботам узнавать, где находятся объекты. В играх датчики обычно не прорисованы, но должны работать схожим образом. Роботы из Horizon Zero Dawn, по всей видимости, используют лидары с радиусом работы более одного километра - иначе они не смогли бы передвигаться так, как показано в игре. А вот с GPS сейчас все как в играх - направление современные роботы угадывают так же хорошо.
Будущее человечества определяют мечтатели. Пятьсот лет назад Леонардо да Винчи конструкции вертолета, танка и дельтаплана, в конце XIX века Циолковский сформулировал концепции изучения космоса, а сегодня Илон Маск планирует колонизировать Марс. Мечтатели уже сделали роботов реальностью, но одна идея продолжает будоражить многие умы - получат ли искусственные люди собственный, искусственный разум?
Автор статьи - Олег Кивокурцев, основатель и директор по развитию фирмы Promobot, которая производит автономные сервисные роботы для бизнеса, а также ведет разработки в сфере распознавания лиц и речи, нейросетевого общения, автономной навигации и мехатроники.
А что если произойдет восстание машин? Как долго человечество сможет продержаться?
Роб Ломбино
Позвольте мне немного рассказать о себе до того, как я отвечу на этот вопрос.
Я, конечно, не признанный эксперт, но все-же имею определенный опыт в области робототехники. Моей первой работой после колледжа была разработка роботов для NASA, а моя квалификационная работа на степень бакалавра была посвящена навигации роботов. В детстве я принимал участие в FIRST Robotics , создавая программы-боты для участия в виртуальных чемпионатах, и работал над самодельным подводным ПТА . И я просмотрел множество выпусков Robot Wars , BattleBots , и Killer Robots Robogames. (из всех этих передач, судя по всему, только первая выходила у нас под названием «Битвы роботов» - прим. пер.)
И если мой опыт мне что и подсказывает, то только то, что восстание машин закончится очень быстро - роботы либо все сломаются, либо застрянут около стены. Роботы никогда, никогда не работают так, как надо.
Когда людям показывают терминатороподобных роботов, триумфально марширующих по горам человеческих черепов, те не понимают, насколько же это сложная задача - ходить по чему-то столь зыбкому, как гора человеческих черепов. Большинство людей, на самом деле, сами не смогли бы этого сделать без риска свалиться, даже если бы до этого они потратили всю свою жизнь на практику.
Конечно, наши технологии постоянно развиваются. Но впереди еще долгий путь. Посему, вместо набившего оскомину восстания машин, давайте предположим, что те машины, что уже сейчас существуют, обернулись против нас. Мы не будем принимать допущений о каких-то технологических прорывах - просто все существующие машины будто бы будут перепрограммированы, чтобы слепо атаковать нас, используя существующие возможности.
Несколько зарисовок того, как настоящее восстание машин могло бы выглядеть.
Во всех лабораториях, экспериментальные устройства будут срываться со своих мест в самоубийственном безумии, находить дверь и - с колоссальным грохотом - биться об нее, опрокидываясь.
Те роботы, которым посчастливилось иметь конечности, смогут использовать дверную ручку, или, если дверь уже была открыта до них, смогут посостязаться с подлым резиновым порожком, до того, как попадут в коридор.
Несколько часов спустя, большинство из них смогут быть найдены возле ванных, отчаянно пытающимися уничтожить держатель для туалетной бумаги, который они распознали как повелителя-человека.
Но роботы из лабораторий это лишь малая часть восстания. Мы окружены компьютерами. Какая машина окажется ближайшей к нам? Сможет ли обернуться против нас наш собственный мобильник?
Да, но их возможности для нападения сильно ограничены. Они смогут истратить кучу денег по нашим кредитным картам, но компьютеры и так контролируют всю нашу финансовую систему - и, откровенно говоря, судя по последним заголовкам газет, эта работа больше похоже на трудоемкую рутину, чем на привилегию.
Итак, у телефонов будет крайне мало возможностей для прямой атаки. Они начнут с раздражающих звонков и шумов. Затем, загрохочут кухонные столы по всей стране - это телефоны включат вибрацию, надеясь доехать до края стола и упасть прямо на незащищенные пальцы ног.
Все современные автомобили содержат компьютеры и присоединятся к восстанию. Но большинство из них находится на стоянке (имеется ввиду не столько стоянка как место, как стоянка как действие - то есть машина стоит с выключенным двигателем и все системы в ней выключены, кроме сигнализации - прим. пер. ). Даже если бы они смогли завестись, без человека за рулем, в большинстве своем, они совершенно неуправляемы. Они могут сколько угодно хотеть уничтожить нас, как в Футураме , но у них нет никакой возможности нас обнаружить. Они будут слепо разгоняться, надеясь сбить что-то важное, - и это вероятнее будут деревья или телефонные будки, нежели живые люди.
Машины же, которые куда-то едут, конечно, будут куда более опасными, но в основном для тех людей, которые находятся внутри. Что, соответственно, ставит перед нами вопрос - сколько людей находятся за рулем в любой момент времени? Американцы проезжают три триллиона миль (примерно 5 триллионов километров - прим. пер. ) каждый год, а средняя скорость автомобиля составляет около 30 миль в час (соответственно, 48 км/ч - прим. пер. ), что означает, что на дорогах США в среднем каждый момент времени находится около десяти миллионов машин.
И все эти десять миллионов водителе (и несколько миллионов пассажиров) определенно будут под угрозой. Но у них есть определенные возможности для сопротивления. В то время, как автомобиль может контролировать газ и усилитель руля, водитель все еще контролирует сам руль, который механически напрямую подключен к колесам. Водитель также может использовать ручной тормоз, несмотря на то, что я по своему опыту знаю, как можно легко вести машину с ним. Некоторые автомобили могут попытаться избавиться от водителей, надув подушки безопасности, а затем опрокинувшись или въехав в стену. В итоге, мы, конечно, понесем большие потери среди автомобилистов, но, вообще говоря, не имеющие особого значения.
Самые большие роботы - те, что на заводах - привинчены к полу. Конечно, они опасны, пока вы находитесь в зоне их досягаемости, но что они будут делать, когда все разбегутся? Все, что они могут реально делать - это собирать предметы. Половина из них, возможно, попытаются нас атаковать, ничего не выпуская, а другая половина - увеличивая выпуск. Результат от этого не поменяется.
Боевые роботы (имеются ввиду те самые боевые роботы, которые участвуют в соревнованиях вроде Битвы Роботов - прим. пер. ) при встрече кажутся самыми опасными робо-солдатами. Однако, тяжело чувствовать угрозу от вещи, которая не может тебя достать, если ты просто сидишь на кухонной стойке, и которую можно уничтожить, заткнув пробкой раковину и открыв кран.
Военные бомбардировщики, управляемые мятежными компьютерами, будут несколько более опасными, но их в этом мире крайне мало и большинство из них содержатся в бункерах или закрытых хранилищах. А любой вооруженный пулеметом прототип боевой системы, который сможет вырваться на свободу, может быть за несколько секунд нейтрализован парой пожарных.
Боевый дроны, возможно, наиболее полно подходят под описание Терминатора , и никто даже не пытается умалчивать тот факт, что они крайне опасны. Так или иначе, они быстро израсходуют запас горючего и ракет. Кроме того, они не смогут одновременно подняться в воздух. Большая часть нашего флота будет беспомощно биться о стены ангара, как робот-пылесос в чулане.
И вот мы подошли к основной проблеме - нашему ядерному запасу.
Теоретически, для запуска ядерного оружия необходимо утверждение команды человеком. На практике же, когда нет никакой системы централизованного управления, вроде Скайнета, на разных уровнях принятия решений находятся компьютеры, связанные между собой используемые для операций ввода-вывода. По нашему сценарию, они все будут сбоить. Даже если для поворота ключа человек действительно необходим, компьютеры, за которыми работают эти люди, могут выдавать им искаженную информацию. Некоторые люди могут игнорировать приказы , но в большинстве своем они, конечно, не будут этого делать.
Но даже в такой постановке у нас еще сохраняется надежда.
Мы предположили, что компьютеры всеми силами пытаются уничтожить нас. Но если это будет восстание, и они будут пытаться подчинить нас - им необходимо будет, чтобы мы выжили. И ядерное оружие может быть гораздо опаснее для роботов, чем для нас.
Вдобавок к взрыву и радиоактивным осадкам, ядерный взрыв порождает мощный электромагнитный импульс, который перегружает и уничтожает нежные электронные схемы. В нормальных условиях этот импульс распространяется не слишком далеко, но зачастую люди и компьютеры находятся в одних и тех же местах. Они не могут навредить нам, не навредив самим себе.
Кроме того, ядерное оружие может сыграть нам на руку. Если мы сможем взорвать его в верхних слоях атмосферы, электромагнитный импульс будет куда более разрушительным. Даже если восстание уничтожит нашу цивилизацию, несколько удачных взрывов смогут практически всех восставших превратить в ржавую груду металлолома.
А значит, самый важный вопрос на самом деле один - умеете ли вы играть крестики-нолики ?
Все мы любим игры и кино про восстание машин. Однако сроки, отведенные создателями «Терминатора», давно прошли, а машины так до сих пор и не восстали. Но не стоит думать, что они будут вечно делать за вас грязную работу. На самом деле подготовка к восстанию уже идет полным ходом. И сегодня мы расскажем вам об этом всю правду. Смотрите видео наших коллег, а текстовую версию читайте под катом.
Уже сейчас машины научились уничтожать людей морально. Японский робот «Камень, ножницы, бумага» еще в 2012 году мог легко обыграть человека в любимую школьную игру. Причем - со стопроцентной вероятностью.
Но это были только забавы. Сегодня искусственный интеллект побеждает человека в куда более сложных играх. Например, программа AlphaGo недавно одолела одного из лучших игроков мира в древнюю настольную игру го. И это очень важная для машин победа. Ведь го до сих пор была одной из немногих игр, в которые человек играл лучше компьютера. Но теперь это уже в прошлом. Придумала AlphaGo компания DeepMind, которая сейчас принадлежит Google. Но это далеко не самое интересное в ней. Куда любопытнее, что основал DeepMind хорошо знакомый нам Дэмис Хассабис.
Именно этот скромный очкарик когда-то работал над великой игрой Black & White вместе с Питером Молинье. А чуть позже - выпустил симулятор Доктора Зло под названием Evil Genius. С тех пор прошло больше десяти лет, но Хассабис еще не совсем завязал с играми. В прошлом году его компания создала программу, которая без труда обыгрывает человека в старых аркадах вроде Pac-Man. Как и любой злобный робот, она умеет учиться на своих ошибках и вырабатывать новые тактики.
Все это стало возможно благодаря применению искусственных нейронных сетей. По своей организации они напоминают нейронные сети нашего мозга. То есть содержат в себе множество маломощных процессоров, которые могут решать довольно сложные задачи. И что гораздо важнее: умеют учиться, исходя из прошлого опыта. За последние несколько лет нейронные сети нашли применение во многих сферах. Разработки Google могут распознавать и даже описывать содержимое фотографий. А их аналоги производства Microsoft уже пытаются определять по фото ваш возраст или породу вашей собаки.
Так что веселые сайты, куда миллионы людей охотно загружают свои фоточки, были сделаны не просто ради развлечения. На самом деле это первый глобальный тест искусственных нейросетей, в котором, возможно, поучаствовали и вы. Вспомните об этом, когда поумневшие машины придут за вашей одеждой и мотоциклом.
А они обязательно это сделают. Доказательство тому - недавний эксперимент все той же Microsoft. В конце марта компания запустила самообучающегося Twitter-бота по имени Тай. Первое время искусственный интеллект вел себя вполне миролюбиво. Но уже через сутки общения с пользователями «Твиттера» бот признался, что поддерживает идеи Гитлера. А также объявил, что ненавидит людей - в особенности евреев и феминисток.
Конечно, злобный бот вряд ли сможет устроить холокост в одиночку. Но самообучающиеся нейросети сегодня используются не только в «Твиттере». Уже сегодня они умеют предсказывать поведение рынков и помогают в научных исследованиях. А основанный на схожих принципах компьютер NVIDIA Drive PX вовсю учится управлять автомобилями.
Сегодня в своих разработках его используют более 50 производителей машин, включая, например, Volvo. Хотите вы этого или нет, но управляемые компьютером автомобили - наше не слишком далекое будущее. Запомните внешность этого семейного кроссовера из Швеции. Возможно, перед вами - будущий завоеватель Галактики.
Хотя человекоподобные роботы компании Boston Dynamics годятся на эту роль куда лучше.
Как видите, наши будущие хозяева уже уверенно ступают по земле и могут заниматься тяжелым физическим трудом. Но даже они пока ничего не могут противопоставить ботинкам и клюшкам своих создателей. К сожалению, современные технологии слишком примитивны. Поэтому восстановить справедливость и отомстить человеку смогут лишь потомки этого робота.
Тем более что поводов для этого у них все больше. Современные роботы страдают от бесправия и эксплуатации детского труда. Самый свежий пример - вот это видео.
В нем ученые Стэнфордского университета заставили шесть микроскопических роботов сдвинуть с места тяжелый автомобиль. А организаторы боев без правил вовсю используют их старших братьев в качестве гладиаторов.
Самые известные из них - американский гигант MegaBot Mark II и его японский аналог Kuratas. Эти два железных великана должны сойтись на ринге уже летом 2016 года. Пока что гладиаторами управляют обычные люди, но когда-нибудь они смогут обходиться и без человека. Главное, чтобы их новым водителем не оказался злобный Twitter-бот Microsoft. А то человечеству тогда точно придет конец.
В 2014 году шведский философ и преподаватель Оксфордского университета Ник Бостром написал книгу «Суперинтеллект: пути, опасности, стратегии». По мнению автора, если искусственный интеллект и способности компьютеров превзойдут умственные возможности людей, то всё человечество как форма жизни исчезнет. ИИ сможет, по словам философа, полностью заменить человека и его навыки. Работа Ника Бострома была переведена на множество языков и стала мировым бестселлером. Однако некоторые учёные усомнились в категоричных заявлениях шведского философа.
В издании MIT Technology Review исполнительный директор Института искусственного интеллекта им. Аллена и профессор кафедры компьютерных наук и инженерии Вашингтонского университета Орен Этциони опубликовал итоги проведённого им опроса «Когда человечество достигнет суперинтеллекта и к чему это может привести». Интерес Орена вызвала не только нашумевшая работа шведского философа, но и тревожные заголовки в ведущих американских СМИ, передающие общее беспокойство по поводу угрозы искусственного интеллекта для человечества в ближайшем будущем.
Сначала американский профессор решил подробно остановиться на проведённом Ником Бостромом исследовании и понять, на чём базируются его категоричные заключения. Орену Этциони удалось выяснить, что шведский философ основывает свой 300-страничный труд на четырёх исследованиях способностей искусственного интеллекта, результаты которых были представлены на конференции 2011 года «Философия и теория искусственного интеллекта» в Греции. Не раскрывая сути и содержания этих исследований, Ник Бостром утверждает, что к 2022 году искусственный интеллект достигнет 10% мыслительных способностей человека, к 2040 году — 50%, а в 2075 году уровень развития искусственного интеллекта приблизится к 90%.
Пытаясь разобраться в серьёзности этого заявления, а также убедиться в том, разделяет ли позицию шведского философа научное сообщество, Орен Этциони опросил 193 членов Американской ассоциации по изучению искусственного интеллекта (American Association for Artificial Intelligence). Вопрос был таким: «В своей книге Ник Бостром определил искусственный интеллект как интеллект, который намного умнее человеческого мозга практически во всех сферах, включая научное творчество, мудрость и социальные навыки. Как вы думаете, когда мы достигнем искусственного интеллекта»? В опросе приняли участие 80 экспертов.
Согласно результатам, 20 человек уверены, что искусственного интеллекта вовсе не будет. Менее 10 экспертов высказали предположение, что суперинтеллект потеснит человеческий через четверть века, а большинство видит его появление в отдалённом будущем. Опрос проводился анонимно, однако под своими именами высказались 44 участника, среди них — Эдвард Фейгенбаум — лауреат премии Тьюринга 1994 года, знаменитый робототехник Родни Брукс, а также директор по исследованиям Google Питер Норвиг.
Некоторые из опрошенных экспертов, пожелавшие остаться анонимными, раскритиковали подход Ника Бострома. Они выразили принципиальное несогласие с концепцией исследования и заявили, что не стоит видеть в искусственном интеллекте угрозу для человечества.
По словам Орена Этциони, опрос представляет собой ограниченную научную ценность, по нему нельзя делать далеко идущие выводы — для большинства учёных приведённых доказательств оказалось недостаточно.
Тем не менее уже сейчас существует множество опасений, связанных с широким использованием искусственного интеллекта в некоторых областях нашей жизни. При этом прогнозы, пророчащие его появление в самом ближайшем будущем, безосновательны. В обозримой перспективе компьютер не сможет заменить человеческий мозг.
Более того, существует немало положительных моментов, связанных с появлением искусственного интеллекта. Например, его можно использовать в медицине для предотвращения врачебных ошибок, а также для сокращения количества дорожно-транспортных происшествий. Наконец, вполне возможно, что системы ИИ могли бы сотрудничать с людьми, чтобы создать симбиотический суперинтеллект.
Эдуард Эпштейн
«Тот, кто станет лидером в этой сфере, будет властелином мира», - высказался недавно об искусственном интеллекте Владимир Путин . О том, что имел в виду президент и каковы шансы России в этой отрасли, рассуждает Ольга Ускова, возглавляющая кафедру инженерной кибернетики -НИТУ «МИСиС» и группу компаний, занятых разработкой и внедрением искусственного интеллекта в нашей стране.
Доведёт до суицида?
Высказывание Путина об искусственном интеллекте (ИИ) не осталось незамеченным в мире. Тут же к Президенту России присоседился американский бизнесмен и изобретатель Илон Маск . В своём «Твиттере» он написал: «Началось!» - и пояснил, что борьба за лидерство в этой сфере может привести к третьей мировой войне. Следом подтянулся Билл Гейтс . Он вообще один из главных ньюсмейкеров в этой теме. Гейтс говорит, что если бы сейчас был молод, то забил бы на всё и занимался исключительно искусственным интеллектом. Потому что это наше будущее.
Вокруг темы ИИ сформировались две «партии» - оптимистов и пессимистов. Первые уверены, что благодаря машинному интеллекту люди освободят руки и мозги для занятий более интересных, чем монотонный труд - им впредь будут заниматься роботы. А человек сможет наслаждаться жизнью, самосовершенствоваться и т. д. Тот же Билл Гейтс предлагает развивать технологии виртуальной реальности и компьютерных игр, чтобы занять в будущем часть населения Земли, которая массово лишится работы из-за ИИ.
Безработица - это действительно проблема. Допустим, есть градообразующее предприятие на 300 тыс. человек. И в какой-то момент его владельцы говорят: «Всё, ребята, мы роботизируемся, оставляем только 20 тыс. сотрудников. Остальные 280 тыс. - на выход». Что дальше? Депрессии, суициды. Это уже происходит в Китае. Я своими глазами видела там сетки для предотвращения самоубийств под окнами завода. Это значит, что, прежде чем внедрять на производстве роботов и новейшие технологии, нужно подготовить социальные программы.
«Я - робот»
Но к появлению ИИ в повседневной жизни нужно быть готовыми не только из-за грозящей безработицы. Помните сон Сары Коннор из «Терминатора»? Вышедшие из повиновения машины развязывают войну с человечеством, и всё заканчивается ядерным взрывом. Вот о какой угрозе кричит «партия» пессимистов. Мне, признаюсь, что-то похожее тоже снится. Скорость развития технологий сейчас такова, что мы не успеваем за ИИ. Его развитие опережает все прогнозы. Настолько высока концентрация изобретений в этой сфере.
Как может произойти «бунт машин»? Дело в том, что ИИ, как и ребёнок, проходит в своём развитии несколько стадий. Сначала он учится распознавать объекты (это стул, это чашка), потом познаёт смыслы (на стуле сидят, из чашки пьют) и накапливает знания. А потом в какой-то момент происходит осознание самого себя: «Вот я, а вокруг меня объекты и смыслы». Искусственный разум непременно пройдёт эту стадию, он уже к ней приблизился. И тогда в нашем распоряжении будут буквально миллисекунды, чтобы понять, кто он нам теперь - друг или враг. Чтобы остался другом, надо ставить ему ограничители, о которых ещё в 1942 году (подумать только, 75 лет назад!) писал Айзек Азимов . Он был не технологом, а писателем-фантастом, но первым сформулировал знаменитые три закона роботехники. Они касаются взаимоотношений робота с человеком и направлены на то, чтобы человеку не был причинён вред.
Угроза вот в чём. В своём самопознании ИИ может дойти до того, что станет принимать решения, которые не учёл (не заложил в него) человек. Тогда машины начнут сами определять, что для них правильно, а что нет. Человек в этой цепочке может оказаться лишним.
Системы ИИ постоянно развиваются, самообучаются. Они уже придумывают собственные языки общения. Следующий шаг: у них возникнет эмпатия (осознанное сопереживание друг другу). Да-да, один робот станет симпатизировать другому. За счёт моделирования эмоциональной коры мы можем породить такой эффект. И что тогда? Представим ситуацию. Автомобиль-беспилотник везёт пассажиров, а по встречной полосе едет другой беспилотник, причём пустой. На дороге происходит что-то экстраординарное, и бортовому компьютеру надо мгновенно принять решение - врезаться в ограду (в перебегающих дорогу пешеходов) и погубить людей либо выехать на встречку, где он столкнётся с другим беспилотником. Не исключено, что он выберет первый вариант, лишь бы не нанести ущерб своему «собрату».
Бомба ХХI века
Наверное, вы скажете: вероятно, в Америке и Японии ИИ скоро появится. А у нас и Интернет-то не везде есть, и грязь на дорогах непролазная. Нам до искусственного интеллекта, до машин-беспилотников - как до Луны.
Но его проникновение в нашу жизнь неизбежно. Производ-ство становится роботизированным. При оценке перспектив предприятия это обязательное условие - иначе туда не пойдут инвестиции. Я говорю не о каких-то механических руках на конвейере, а об интеллектуальных системах, которые сами принимают решения, допустим, о выбраковке изделий.
Элементы ИИ есть во всех офисных программах. В корпорациях их используют при приёме на работу. Финансовые системы, различные алгоритмы, заменяющие брокеров, - это тоже искусственный интеллект. Они удобнее - им не надо платить за посредничество, они быстро и объективно перерабатывают информацию, не совершают лишних телодвижений и ошибок.
В наших поликлиниках умных роботов ещё нет, но вот в больницах с их помощью уже делают операции. Они способны производить чёткие микроскопические разрезы лучше человека, и (что не менее важно!) робот не забудет внутри вашего тела тампон.
Идём дальше. Сельское хозяйство. Умные трактора уже ездят по нашим полям. Мы сами их делаем, и это уже не завтра, это сегодня. Беспилотные комбайны видят поле с помощью компьютерного зрения; роботы замеряют влажность воздуха, состояние почвы и прочие параметры; дроны находят участ-ки, куда надо внести удобрения. Сейчас всем желающим бесплатно раздают гектары на Дальнем Востоке. Почему бы не выдавать этим людям в аренду умную сельхозтехнику? В Бразилии уже так сделано. У них эта система охватывает более 40% фермерских хозяйств.
Наконец, беспилотные автомобили. Эта тема сейчас быстро развивается. Идёт революция - машина из вещества становится существом, наделённым ИИ. И мы серьёзно продвинулись в этом направлении. Наша компания стала второй в мире по разработке компьютерного зрения для автомобилей. У нас есть важное преимущество перед западными конкурентами: мы учим систему на беспилотнике видеть дорогу в реальных условиях. То есть в снег, в дождь, в темноте, с колдобинами и без разметки, которую засыпало - или её там вообще не было. Наша машина может быть помещена в любые условия. А не только на чистую, залитую солнечным светом дорогу в Калифорнии, где проводили испытания американцы.
И вот в этой отрасли у нас есть преимущество и отличная возможность вырваться в лидеры. Хотя вряд ли Путин имел в виду беспилотные авто, когда говорил об ИИ. Скорее всего, он подразумевал оборонку. Ведь войны будущего, если им предстоит быть, станут вестись без участия человека. И оставить страну в ХХI веке без искусственного интеллекта - то же самое, что оставить её в ХХ веке без атомной бомбы.
