Популярный американский интернет-журнал Wired опубликовал крайне любопытный текст Кевина Келли, в котором он обстоятельно критикует идею об опасности искусственного интеллекта. «НИ» публикует перевод этого материала, сделанный силами телеграм-канала Newochem с небольшими сокращениями.
«Мне приходилось слышать, что в будущем компьютеры с искусственным интеллектом станут настолько умнее человека, что лишат нас рабочих мест и ресурсов, и в итоге человечеству придет конец. Но так ли это? Подобный вопрос мне задают каждый раз, когда я читаю лекции об ИИ.
Вопрошающие при этом серьёзны как никогда, их беспокойство отчасти связано с тревогами некоторых экспертов, которых терзает тот же самый вопрос. К их числу относятся умнейшие из наших современников - Стивен Хокинг, Илон Маск, Макс Тегмарк, Сэм Харрис и Билл Гейтс.
Все они допускают возможность подобного сценария. На состоявшейся недавно конференции по ИИ коллегия из девяти наиболее просвещенных гуру в этой области пришла к единодушному заключению, что создание сверхчеловеческого интеллекта неминуемо и уже не за горами.
И всё же сценарий порабощения человечества искусственным интеллектом основывается на пяти допущениях, которые при более внимательном рассмотрении оказываются бездоказательными. Эти утверждения могут быть истинными в будущем, но на сегодняшний день ничем не подтверждены.
Вот они:
- Искусственный интеллект уже становится умнее человеческого разума, причем этот процесс носит экспоненциальный характер.
- Мы разработаем ИИ общего назначения, схожий с нашим.
- Мы можем создать человеческий интеллект из кремния.
- Интеллект может быть безграничен.
- Создание грандиозного сверхинтеллекта разрешит большинство наших проблем.
В противовес этим ортодоксальным постулатам я могу привести следующую доказанную ересь:
- Интеллект не одномерен, поэтому «умнее человека» - бессмысленное понятие.
- Люди не наделены разумом общего назначения, что не грозит и искусственному интеллекту.
- Соперничество между человеком и компьютером будет ограничено затратами.
- Интеллект не безграничен.
- Создание ИИ - лишь часть прогресса.
Если вера в порабощение человека искусственным интеллектом базируется на пяти безосновательных допущениях, то эта идея в большей мере схожа с религиозными верованиями - мифами. В следующих главах я дополню мои контраргументы фактами и докажу, что сверхчеловеческий искусственный интеллект и в самом деле не более, чем миф.
Наиболее распространенное заблуждение об ИИ исходит из не менее популярного мнения о естественном интеллекте, будто он одномерен. В точных науках многие изображают интеллект так, как Ник Бостром в своей книге «Сверхразум» - буквально в виде одномерного линейного графика с растущей амплитудой.
На одном конце расположены существа с наиболее низким уровнем интеллекта, к примеру, маленькие животные, а на другом - гении, словно уровень интеллекта ничем не отличается от уровня звука, измеряемого в децибелах. Конечно, в таком случае легко представить дальнейшее увеличение, при котором уровень интеллекта превышает самую высокую отметку графика и даже выходит за его пределы.
Такая модель топологически эквивалентна лестнице, на ступенях которой уровни интеллекта расставлены в порядке возрастания. Менее разумные животные занимают нижние ступени лестницы, а искусственный интеллект более высокого уровня будет неизбежно располагаться над нами. Временные рамки того, когда это случится, не играют роли. Куда важнее сами ступени иерархии - метрики растущего интеллекта.
Проблема этой модели заключается в том, что она мифична, как и модель эволюционной лестницы. До дарвинизма живая природа представлялась лестницей живых существ, где человек занимал ступень над более примитивными животными.
И даже после Дарвина одним из наиболее распространенных понятий остается лестница эволюции. Она демонстрирует превращение рыб в рептилий, их - в млекопитающих, приматов в человека. При этом каждое следующее существо более развитое (и разумеется, более разумное), чем его предшественник. Так лестница интеллекта коррелирует с лестницей мироздания. Однако обе модели отражают совершенно антинаучные взгляды.
Более точной схемой для природной эволюции был бы диск, расходящийся наружу, как на изображении выше. Впервые такое строение было разработано Дэвидом Хиллисом из Техасского университета, он сделал это на основании ДНК. Эта генеалогическая мандала начинается в центре с самых примитивных форм жизни, а затем разветвляется наружу. Время идет вперед, поэтому наиболее поздние формы жизни располагаются по периметру круга.
Это изображение подчеркивает не поддающийся оценке факт об эволюции фундаментального значения - все живые существа эволюционировали в равной степени. Человек располагается на внешней части диска наравне с тараканами, моллюсками, папоротниками, лисами и бактериями.
Все без исключения виды прошли неразрывную цепочку успешного воспроизводства длиной в три миллиарда лет, а значит, бактерии и тараканы так же высоко эволюционировали, как и человек. Нет никакой лестницы.
Аналогично, что нет никакой лестницы интеллекта. Интеллект не одномерен. Это комплекс различных видов и способов познания, каждый из которых непрерывен. Давайте выполним простое упражнение по измерению интеллекта у животных. Если бы интеллект был одномерен, мы без труда расположили бы в порядке возрастания интеллекта попугая, дельфина, лошадь, белку, осьминога, голубого кита, кошку и гориллу.
Сейчас нет научного доказательства существования такой последовательности. Причиной тому может быть отсутствие различий между уровнем интеллекта тех или иных животных, но это так же необоснованно.
Зоология богата примерами ярких различий в мышлении животных. Может быть, все животные наделены интеллектом «общего назначения»? Возможно, но у нас нет единого инструмента для измерения такого вида интеллекта. Однако у нас есть множество систем измерения для разных видов познания.
Вместо единой линии децибелов правильнее было бы изображать интеллект в виде схемы вероятностного пространства , как в визуализации возможных форм, которая была создана алгоритмом Ричарда Докинза. Интеллект - это комбинаторный континуум. Множество узлов, каждый из которых - континуум, создают комплекс колоссального многообразия в множестве измерений. Одни разновидности интеллекта могут быть очень сложными, с большим набором суб-узлов мышления. Другие - проще, но экстремальнее, они достигают крайней точки пространства.
Эти комплексы, которые означают для нас различные разновидности интеллекта, можно воспринимать как симфонии, исполненные на разных видах музыкальных инструментов. Они отличаются не только громкостью, но и мелодией, окраской, темпом, и т. д. Можно воспринимать их как экосистему. В этом смысле различные компоненты узлов мышления взаимозависимы и создаются друг из друга.
Как говорил Марвин Минский, человеческое сознание - это общество разума. Наше мышление - полноценная экосистема. Наш мозг обладает множеством способов познания, которые выполняют разные мыслительные функции: дедукция, индукция, эмоциональный интеллект, абстрактное и пространственное мышление, краткосрочная и долгосрочная память.
Вся нервная система человека представляет собой часть мозга с собственным уровнем познания. На самом деле процесс мышления осуществляется не мозгом, а всем телом человека.
Все разновидности мышления различаются как между видами, так и между представителями одного вида. Белка может годами помнить точное местоположение нескольких тысяч желудей, что для человека совершенно непостижимо. В этом виде мышления люди уступают белкам. Разум белки представляет собой сочетание этой суперспособности с другими формами интеллекта, в которых человек превосходит белку. В царстве животных можно найти множество примеров превосходства отдельных форм животного интеллекта над человеческим.
Такая же ситуация сложилась с искусственным интеллектом, который в некоторых областях уже превосходит человеческий. Любой калькулятор - гений математики, а память поисковика Google уже в некотором смысле лучше нашей собственной.
Некоторые ИИ совершают такую мыслительную деятельность, на которую мы не способны. Запомнить каждое слово на шести миллиардах веб-страниц - непосильная задача для человека и пустяк для поисковых систем. В будущем мы создадим совершенно новые способы мышления, не доступные человеку и не существующие в природе.
Изобретатели летательных аппаратов вдохновлялись естественным полетом - взмахами крыльев. Однако позже было придумано неподвижное крыло с прикрепленными к нему пропеллерами, и это был совершенно новый, не встречающийся в природе принцип полета.
Так мы изобретаем новые способы мышления, на которые не способен ни один биологический вид. Скорее всего, это будут принципы, применимые только к узкоспециализированным задачам: например, новые логические построения, которые нужны только в статистике и теории вероятностей.
Новый вид мышления поможет решить проблемы, с которыми человеческому разуму не удается справиться. Некоторые из сложнейших вопросов бизнеса и науки требуют двухступенчатого решения. Первый этап - изобрести новый способ естественного мышления. Второй - приступить к поиску ответов вместе с ИИ.
Люди начнут считать ИИ умнее себя, если с его помощью удастся решить ранее неразрешимые проблемы. На самом деле, мышление ИИ не лучше нашего, оно просто иное. Я считаю, что основная польза искусственного интеллекта в том, что он способен мыслить как чужак, и эта чуждость - главное его достоинство.
Более того, мы создадим комплексные «сообщества» ИИ с различными образами мышления. Они будут настолько сложны, что смогут решать проблемы, с которыми мы справиться не в силах. Потому некоторые люди ошибочно решат, что комплексы ИИ разумнее людей. Но ведь мы не считаем, что поисковая система Google умнее человека, хотя его память лучше нашей.
Вероятно, эти комплексы искусственных интеллектов превзойдут нас во многих сферах, но ни один из них не превзойдет человека сразу везде. Похожая ситуация сложилась с нашей физической силой. Прошло двести лет после индустриальной революции, и ни одна машина не стала сильнее среднего человека по всем показателям, хотя машины как класс значительно превосходят человека в скорости бега, подъеме тяжестей, точности разреза и других видах деятельности.
Несмотря на усложнение структуры ИИ, измерить ее методами современной науки невозможно. У нас нет инструментов, чтобы определить, что сложнее - огурец или Boeing 747, как нет и способов измерить отличия в их сложности. Именно поэтому у нас до сих пор нет точных критериев интеллектуальных возможностей.
Со временем станет все труднее установить, что сложнее, и, соответственно, умнее: интеллект А или интеллект Б. Существует множество неизученных сфер мыслительной деятельности, и главным образом, это мешает нам понять, что разум не одномерен.
Второе заблуждение относительно человеческого ума заключается в том, что мы убеждены, будто наш разум носит универсальный характер. Эта распространенная уверенность влияет на то, каким путем мы идем к созданию общего искусственного интеллекта (AGI), идею которого однажды провозгласили ИИ-специалисты.
Однако, если мы представляем ум как обширное пространство возможностей, нельзя говорить о состоянии общего назначения. Человеческий разум не занимает какое-то абстрактное центральное место, а вокруг него не вращаются остальные специализированные виды разума.
Скорее, человеческий интеллект представляет собой чрезвычайно специфический тип интеллекта, который миллионы лет эволюционировал для выживания нашего вида на этой планете. Если бы мы захотели расположить наш интеллект среди всех остальных возможных видов разума, он оказался бы где-нибудь в уголке - как и сам наш мир, ютящийся на краю огромной галактики.
Конечно, мы можем представить себе, а иногда и изобрести некий вид мышления, похожий по своим характеристикам на швейцарский нож. Он вроде бы и справляется со многими задачами, но не на ура.
Туда же можно отнести и техническое правило, которому должны подчиняться все вещи, вне зависимости от того, были они созданы намеренно или появились на свет естественным путем: «Невозможно оптимизировать все измерения. Можно лишь находить компромиссы. Универсальный многофункциональный аппарат не может превзойти в производительности специализированные функции».
Сознание модели «сделай все» не может работать наравне со специализированными исполнителями конкретных задач. Поскольку мы считаем свое сознание универсальным механизмом, мы верим, что познание не должно быть основано на компромиссе и что есть возможность изобрести искусственный интеллект, демонстрирующий максимальную степень эффективности во всех видах мышления.
Однако я не вижу никаких доказательств этому утверждению. Мы просто-напросто еще не создали достаточное число разновидностей сознания, которые позволили бы нам увидеть полную картину (а пока предпочитаем не рассматривать сознание животных через призму одного параметра как отдельный тип мышления с переменной амплитудой).
Отчасти эта убежденность, что наше мышление носит максимально универсальный характер, проистекает из концепции универсального вычисления. Это предположение в 1950 году назвали тезисом Чёрча-Тьюринга. Он гласит, что все вычисления, удовлетворяющие определенным параметрам, являются равноценными.
Таким образом, существует универсальная для всех вычислений база. Вне зависимости от того, производится ли расчет с помощью одной машины с множеством быстрых механизмов, машиной с менее высокой производительностью или даже в биологическом мозгу - речь идет об одном и том же логическом процессе. Это, в свою очередь, означает, что мы можем имитировать любой вычислительный процесс (мышление) с помощью любой машины, которая может совершать «универсальные» вычисления.
С помощью этого принципа сторонники сингулярности обосновывают свои ожидания, будто мы сможем спроектировать работающий на кремниевой основе искусственный мозг, способный вместить в себя человеческое сознание, будто мы сможем создать искусственный интеллект, который будет мыслить так же, как человек, но в разы эффективнее. К этим надеждам следует относиться с известной долей скепсиса, поскольку в их основе лежит неправильная интерпретация тезиса Чёрча-Тьюринга.
Исходное положение этой теории гласит: «В условиях безграничной памяти и времени все вычисления равноценны». Проблема заключается в том, что в реальности ни один компьютер не обладает характеристиками бесконечной памяти или времени. Когда вы производите вычисления в реальном мире, компонент времени чрезвычайно важен, вплоть до того, что зачастую речь идет о жизни и смерти.
Да, все типы мышления равны, если исключить временной аспект. Да, можно имитировать процесс присущего человеку мышления в любой матрице, если вы решаете игнорировать время или действующие в реальности ограничения свободного пространства и памяти.
Однако если включить в это уравнение переменную времени, придется существенно изменить формулировку принципа: «Две вычислительных системы, функционирующие на радикально разных платформах, не будут производить равноценные вычисления в режиме реального времени».
Этот принцип можно переформулировать так: «Единственный метод получить равноценные способы мышления - осуществлять их на одной и той же основе. Физический носитель, на котором вы производите ваши вычисления - особенно по мере возрастания степени их сложности - существенно влияет на тип мышления в условиях реального времени».
Продолжая логическую цепочку, предположу, что единственный метод создания максимально близкого к человеческому типа мышления - это производство вычислений при помощи материи, максимально напоминающей наше серое вещество.
Значит, можно также предположить, что объемный, сложный искусственный интеллект, созданный на основе сухого кремния, будет порождать неповоротливые, сложные и не похожие на человеческий типы мышления. Если можно было бы создать искусственный интеллект, работающий на влажном веществе с использованием искусственных нейронов наподобие человеческих, мыслительный процесс такого ИИ был бы намного ближе к нашему.
Преимущества такой «влажной» системы пропорциональны близости используемых физических носителей к человеческим. Создание подобного вещества потребовало бы огромных материальных затрат, чтобы добиться уровня, хотя бы схожего с тем, что присуще нам от природы. А нового человека мы можем создать и так - стоит лишь подождать 9 месяцев.
Кроме того, как упоминалось ранее, мы думаем всем своим существом, а не одним лишь сознанием. Современная наука располагает большим количеством данных относительно того, как наша нервная система влияет на «рациональный» процесс принятия решения, предсказывает и адаптируется. Чем детальнее мы рассматриваем систему человеческого организма, тем тщательнее мы сможем впоследствии воссоздать ее. Искусственный интеллект, оперирующий на радикально отличающемся от нашего веществе (сухой кремний вместо влажного углерода), будет и мыслить по-другому.
Я не думаю, что эта особенность скорее «не баг, а фича». Как я утверждал во втором пункте этой статьи, отличия в мыслительном процессе ИИ выступают его основным преимуществом. Вот еще одна причина, почему было бы ошибочно говорить, что он «умнее, чем человеческий мозг».
В центре концепции сверхчеловеческого разума - и в особенности теории о постоянном самосовершенствовании подобного ИИ - лежит искренняя вера в безграничность интеллекта. Я не обнаружил никаких доказательств этого утверждения.
Опять же, ошибочное восприятие интеллекта как системы, определяемой лишь одним измерением, способствует распространению этого утверждения, но мы должны понимать, что оно остается голословным. Во вселенной нет бесконечных физических измерений - по крайней мере, науке они пока неизвестны.
Температура не бесконечна - есть минимальные и максимальные показатели холода и теплоты. Пространство и время тоже не безграничны, как и скорость. Возможно, бесконечной можно назвать числовую ось, но все другие физические параметры имеют свои лимиты. Разумеется, сам разум тоже конечен.
Возникает вопрос: где лежат пределы интеллекта? Мы привыкли верить, что лимит где-то далеко, настолько же «выше» нас, насколько мы «выше» муравьёв. Если оставить в стороне нерешенную проблему одномерности, как мы можем доказать, что до сих пор не достигли лимита? Почему мы не можем быть венцом творения? А может, мы почти достигли пределов человеческих возможностей? Почему мы верим, что интеллект - это бесконечно развивающееся понятие?
Лучше воспринимать наш интеллект как одну из разновидностей огромного количества типов мышления. Хотя каждое измерение познания и вычисления имеет предел, если есть сотни измерений, то существуют бесчисленные разновидности разума, но ни одна из них не бесконечна в любом измерении.
По мере того, как мы создаем или встречаемся с этими бесчисленными вариациями на тему сознания, мы можем воспринимать их как превосходящие наши способности. В моей последней книге «Неизбежное» я набросал список некоторых из этих разновидностей, которые уступают нам по тем или иным параметрам. Далее я приведу часть этого списка:
Разум, максимально близкий к человеческому, но обладающий более высокой скоростью реакции (самый простой искусственный интеллект);
Очень медлительный разум, основными компонентами которого являются обширное пространство для хранения информации и память;
Универсальный интеллект, состоящий из миллионов действующих в унисон индивидуальных сознаний;
Коллективный разум, состоящий из большого количества чрезвычайно производительных интеллектов, не осознающих, что они являются единым целым;
Борговский суперразум (раса киборгов с коллективным разумом, пытающихся ассимилировать в свой коллектив все живое из сериала Star Trek - прим. Newочём ) - множество высокофункциональных интеллектов, четко осознающих, что они - одно целое;
Рассудок, созданный с целью развивать персональное сознание носителя, но непригодный для кого-либо еще;
Рассудок, способный представлять себе более сложный разум, но не способный создать его;
Рассудок, способный однажды успешно создать более сложный разум;
Рассудок, способный создать более сложный разум, который, в свою очередь, сможет создать еще более сложный разум, и т. д.;
Рассудок, обладающий оперативным доступом к своему исходному коду (может в любое время изменять особенности своего функционирования);
Суперлогичный рассудок, лишенный способности испытывать эмоции;
Стандартный разум, направленный на решение поставленных задач, но неспособный к самоанализу;
Разум, способный к самоанализу, но не умеющий решать поставленные перед ним задачи;
Разум, чье становление занимает длительный период времени, нуждающийся в разуме-защитнике;
Исключительно медленный разум, рассредоточенный по обширному физическому пространству, который кажется «невидимым» для форм сознания, которые реагируют быстрее;
Разум, способный быстро и многократно воспроизводить свои копии;
Разум, способный воспроизводить свои копии и оставаться с ними одним целым;
Разум, способный достичь бессмертия за счет перемещения с носителя на носитель;
Быстрый, динамичный разум, способный изменять процесс и характер мышления;
Нано-разум, самая маленькая самостоятельная единица (по размеру и выделяемой энергии), способная к самоанализу;
Разум, специализирующийся в создании сценариев и прогнозировании;
Разум, который никогда ничего не забывает, включая неверную информацию;
Наполовину машина, наполовину животное;
Наполовину машина, наполовину андрогинный киборг;
Разум, использующий в своей работе непонятный для нас количественный анализ.
Сегодня некоторые называют каждую из перечисленных разновидностей мышления сверхчеловеческим ИИ, однако в будущем разнообразие и чужеродность этих форм разума заставит нас обратиться к новым словарям и детально изучить тему мышления и разумности.
К тому же приверженцы идеи о сверхчеловеческом ИИ предполагают, что уровень его умственных способностей будет расти по экспоненте (хотя у них до сих пор нет системы для оценки этого уровня). Возможно, они верят, что процесс экспоненциального развития происходит уже сейчас.
Так или иначе, сегодня нет никаких свидетельств такого роста, как ни измеряй. Иначе это означало бы, что умственные способности ИИ удваиваются в течение определенного промежутка времени.
Где подтверждение этому? Единственное, что сейчас растет по экспоненте - это вложения в индустрию ИИ. Но отдачу от этих инвестиций не получается описать законом Мура. ИИ не становится в два раза умнее ни за три года, ни даже за десять лет.
Я спрашивал многих экспертов в области ИИ, но все соглашались, что у нас нет критериев разумности. Когда я спросил Рэя Курцвейла, настоящего волшебника экспонент, где найти свидетельства экспоненциального развития ИИ, он написал мне, что развитие ИИ - не взрывной, а постепенный процесс.
«Чтобы добавить новый уровень в иерархию требуется как экспоненциальный рост вычислительной способности, так и увеличение сложности алгоритма... Таким образом, стоит ожидать линейного увеличения количества условных уровней, поскольку для появления каждого из них требуется экспоненциальный рост наших собственных возможностей. Нам осталось не так уж и много уровней сложности для достижения ИИ способностей неокортекса (основная часть коры человеческого мозга, которая отвечает за высшие нервные функции - прим. Newoчём ), поэтому я по-прежнему считаю верными свои предположения насчет 2029-го года».
Кажется, Рэй говорит о том, что не сила искусственного интеллекта растет по экспоненте, а усилия по ее созданию, в то время как их результат каждый раз просто увеличивается на одну ступень. Это почти противоположно гипотезе о взрывном росте интеллекта. В будущем это может измениться, но сегодня ИИ явно не растет экспоненциально.
Поэтому когда мы представляем «бум искусственного интеллекта», мы должны представлять его не как лавину, а скорее как расщепление на множество новых разновидностей. Результатом технологического прогресса, вероятнее всего, станет не суперчеловек, но сверхчеловек. За пределами наших знаний, но не обязательно «выше» них.
Еще один принимаемый на веру, но практически не подкрепленный доказательствами миф о порабощении сверхинтеллектом гласит, что близкий к бесконечному интеллект сможет быстро разрешить все наши проблемы.
Многие сторонники молниеносного развития ИИ ожидают, что тот породит бум прогресса. Я называю веру в это «размышлизмом» (thinkism, термин переведен Вячеславом Головановым - прим. Newочём ). Данный подход основывается на убежденности в том, что прогрессу препятствует лишь недостаточный уровень мышления или интеллекта. (Также отмечу, что вера в ИИ как панацею от всех бед свойственна по большей части людям, которые сами любят размышлять.)
Давайте рассмотрим вопрос победы над раком или продления жизни. Это проблемы, которые нельзя решить одними размышлениями. Никакой объем размышлизма не способен выяснить, как стареют клетки или как укорачиваются теломеры. Никакой интеллект, независимо от своей крутости, не сможет понять, как работает человеческое тело, просто прочитав всю известную научную литературу в мире и проанализировав ее.
Сверх-ИИ не сможет просто поразмышлять обо всех текущих и прошлых экспериментах по расщеплению атомного ядра, а через день придумать готовый рецепт термоядерного синтеза. Чтобы прийти от непонимания к пониманию каких-либо предмета, нужно нечто большее, чем просто размышление.
В реальности существует масса экспериментов, каждый из которых дает целую кучу противоречивых данных и требует дальнейших экспериментов для формирования правильной рабочей гипотезы. Одно лишь обдумывание возможных результатов не даст правильных данных на выходе.
Мышление (интеллект) - это только часть инструмента науки. Скорее всего, лишь небольшая часть. Например, у нас просто недостаточно данных, чтобы приблизиться к решению проблемы смерти. В случае работы с живыми организмами большинство этих экспериментов занимают время. Медленный метаболизм клетки не может ускориться. Нужны годы, месяцы или, по крайней мере, дни, чтобы получить результаты.
Если мы хотим знать, что происходит с субатомными частицами, недостаточно просто думать о них. Мы должны построить очень большие, очень сложные, очень мудреные физические модели, чтобы это выяснить. Даже если самые умные физики станут в тысячу раз умнее, чем сейчас, они не узнают ничего нового без коллайдера.
Нет никаких сомнений в том, что сверх-ИИ может форсировать процесс развития науки. Мы можем создать компьютерные модели атомов или клеток, можем ускорить их во многих аспектах, но есть проблемы, которые препятствуют симуляции в достижении мгновенного прогресса.
Стоит помнить, что симуляции и модели могут исследоваться быстрее, чем их субъекты, лишь потому, что они отбрасывают те или иные переменные. В этом и состоит сама суть моделирования. Также важно отметить, что для проверки, изучения и утверждения таких моделей нужно много времени, чтобы они соответствовали уровню своих субъектов. Проверку опытом нельзя ускорить.
Упрощенные версии в симуляции полезны для поиска самых перспективных путей ускорения прогресса. Но в реальности нет ничего лишнего, всё имеет значение в некоторой степени - это одно большое определение действительности. Поскольку модели и симуляции становятся все более и более подробными, исследователи сталкиваются с тем, что реальность работает быстрее, чем ее стопроцентная симуляция.
Вот еще одно определение реальности: самая быстро функционирующая версия всех возможных деталей и степеней свободы. Если бы вы смогли смоделировать все молекулы в клетке и все клетки в организме человека, эта модель не стала бы работать так же быстро, как и человеческое тело. Независимо от того, как вдумчиво вы разрабатывали такую модель, вам все равно нужно будет потратить время на проведение экспериментов, и не имеет значения, будет это реальная система или симуляция.
Чтобы приносить пользу, искусственный интеллект должен быть внедрен в мир, а в этом мире необходимый темп инноваций меняется довольно быстро. Без первых экспериментов, прототипов, ошибок и вовлечения в реальность интеллект может мыслить, но не даст результатов. Он не совершит никаких сиюминутных открытий ни через секунду, ни через час, ни через год после того, как его назовут «умнее человека».
Появляется ИИ. Конечно, скорость открытий будет ускоряться по мере усложнения этого ИИ, отчасти потому, что инородный искусственный интеллект будет задавать вопросы, которые ни один человек не задаст, но даже очень мощный (по сравнению с нами) интеллект не гарантирует немедленного прогресса. Чтобы решить проблемы, нужно гораздо больше, чем просто интеллект.
Проблемы рака и продолжительности жизни - не единственные из тех, которые интеллект сам по себе не способен решить. Среди сторонников идеи технологической сингулярности распространено заблуждение: если мы создадим ИИ, который будет умнее людей, то он внезапно начнёт развиваться и создаст еще более разумный ИИ.
Новый искусственный интеллект будет думать глубже и изобретет что-то еще более умное, и так до тех пор, пока не будет изобретено нечто богоподобное. Нет ни одного доказательства, что одних размышлений достаточно для создания новых уровней интеллекта. Этот вид размышлизма основан на вере.
Однако есть множество доказательств тому, что для изобретения нового эффективного интеллекта нужны не только мысленные усилия, но и эксперименты, данные, сложные вопросы, пробы и ошибки.
Я понимаю, что могу заблуждаться. Пока мы находимся на раннем этапе. Возможно, мы откроем универсальную шкалу интеллекта или его бесконечность во всех смыслах. Вероятность технологической сингулярности есть, ведь мы очень мало знаем о том, что интеллект и самосознание из себя представляют. По-моему, все указывает на то, что это маловероятно, но шанс все таки есть.
Тем не менее, я поддерживаю более широкие цели OpenAI : мы должны разработать дружественный ИИ и выяснить, как наделить его ценностями, которые воспроизводятся сами по себе и совпадают с нашими.
Есть вероятность, что сверхчеловеческий ИИ в долгосрочной перспективе может быть вреден, но эта мысль основана на неполных доказательствах, и ее не стоит воспринимать всерьез, когда дело касается науки, политики или прогресса.
Падение астероида на Землю может уничтожить нас, вероятность такого исхода существует (это подтверждает Фонд B612), но нам не следует учитывать такой исход в вопросах глобального потепления, космических путешествий или планировки городов.
Имеющиеся доказательства указывают на то, что, скорее всего, ИИ не будет сверхчеловеческим. Он будет обладать новыми разновидностями мышления, недоступными человеку, но без всеобъемлющего применения он не станет богом, который решит наши главные проблемы в один миг.
Вместо этого он станет скоплением интеллектов с ограниченными возможностями, будет лучше нас работать в непривычных нам сферах, вместе с нами сможет найти решение как уже существующих, так и новых проблем.
Я понимаю, насколько привлекательна идея сверхчеловеческого и богоподобного ИИ. Он может стать новым Суперменом. Но, как и Супермен, это вымышленный персонаж. Где-нибудь во Вселенной Супермен, возможно, и существует, но это очень маловероятно. Как бы то ни было, мифы могут быть полезны и, будучи однажды созданы, они не исчезают.
Идея Супермена будет жить вечно. Идея сверхчеловеческого ИИ и сингулярности зарождается сейчас и уже никогда не будет забыта. Нам нужно понять, что это за идея: религиозная или научная. Если мы исследуем вопрос интеллекта, искусственного или естественного, мы должны четко понимать, что наши представления о сверхчеловеческом ИИ - всего-навсего миф.
Племена изолированных островов Микронезии впервые установили контакт с внешним миром во время Второй мировой войны. Боги прилетели с далеких земель, спустились с небес на шумных птицах, принесли дары и улетели навсегда. На островах распространились культы возвращения этих богов и новых даров. Даже сейчас, 50 лет спустя, многие до сих пор ждут их возвращения.
Сверхчеловеческий ИИ может стать для нас новым карго-культом. Возможно, через сотню лет люди будут воспринимать наше время так же: будто мы верили в сверхчеловеческий ИИ и десятилетиями ждали, что с минуты на минуту он появится и принесет нам невообразимые дары.
Впрочем, не-сверхчеловеческий ИИ существует уже сейчас. Мы продолжаем искать ему новое определение, усложнять его. Однако в широком смысле чужой для нас разум - это спектр интеллектуальных возможностей, мышления, механизмов рассуждения, обучения, самосознания. ИИ распространяется и будет распространяться. Он становится глубже, разнообразнее, мощнее.
До ИИ ни одно изобретение не могло полностью изменить мир. К концу 21 века искусственный интеллект будет настолько силен, что изменит все в нашей жизни.
Как бы там ни было, миф о сверхчеловеческом ИИ, который подарит нам сверхбогатство или сверхрабство (или и то, и другое), будет жить. Однако он так и останется мифом, который вряд ли найдет воплощение в реальности.»
Над тем, чтобы искусственный интеллект работал во благо человечества. Однако многие журналисты переоценили угрозу, которую искусственный интеллект представляет для людей. Look At Me разобрался, почему восстание роботов - страшилка из научно-фантастических романов и фильмов (которой мы почти наверняка избежим) и о чём нам нужно беспокоиться на самом деле.
Искусственный интеллект решит проблемы человечества
В 2015 году машинный перевод уже не всегда безобразен, антропоморфные роботы могут осмысленно ходить и бегать, распознавать речь и изображения, а беспилотные автомобили - двигаться по городу, ни во что не врезаясь. И это не только полусекретные разработки правительственных агентств вроде DARPA , но и вещи как готовые, так и близкие к коммерческому производству, будь это переводчик или автомобиль Google. В перспективе эти вещи помогут людям с ограниченными возможностями, устранят языковой барьер и снизят смертность на дорогах.
Искусственный интеллект всё чаще используют для того, чтобы строить прогнозы на основе сложных вероятностных моделей. Пока охват невелик, но уже скоро мы сможем узнать, что ждёт глобальный рынок труда. В частности, речь идёт о том, как быстро машины заменят на производстве людей и как прокормить мир, где число рабочих мест уменьшится в 2 раза, а население вырастет до 8,5 млрд человек. Чтобы ресурсов хватило на всех, придётся увеличить эффективность мировых экономик: снизить издержки, поднять производительность труда, сбалансировать налоговые системы - без машин тут не обойтись. Кроме того, искусственный интеллект поможет пересмотреть методы, которые использует наука: так, многие говорят , что показатель внутреннего валового продукта (ВВП) больше не годится для оценки самых технологичных экономик мира.
Люди пока не готовы пустить роботов
в свою жизнь
Сейчас искусственный интеллект помогает людям и не заменяет их. Но второй этап может подобраться внезапно, и человечество не будет к нему готово, если не обновит законы и не переосмыслит этику и мораль. Предстоит ответить на ряд вопросов, которые будут по очереди решать три области знаний: юриспруденция, робоэтика и машинная мораль.
Для начала юристы ответят на следующие вопросы:
Кто отвечает за беспилотный автомобиль, попавший в аварию, - владелец или производитель?
Должен ли робот стать субъектом права?
Кто отвечает за автономного военного робота, случайно убившего человека?
Получив ответы, парламенты примут новые законопроекты, и, возможно, появятся новые регуляторы - вряд ли найдётся государство, которое не вмешается в развитие искусственного интеллекта. Вероятно, первые политические инициативы, связанные с искусственным интеллектом, начнут появляться во всём мире в 2020-х годах, когда беспилотные автомобили перестанут быть диковинкой.
Затем специалисты задумаются над вопросами, которые рассматривает
робоэтика - раздел этики, изучающий отношения между людьми и роботами:
Должны ли люди дать роботам права?
Могут ли сверхразумные роботы понизить самооценку людей?
Могут ли роботы вторгаться в личную жизнь людей?
Хотя сейчас вопросы звучат смешно, известные футурологи, такие как Рэймонд Курцвейл, предсказывают , что компьютеры догонят эмоциональный интеллект людей к концу 2020-х годов: обзаведутся характером и эмоциями, смогут шутить и вести себя так, что их будет сложно отличить от обычного человека. Люди будут относиться к таким роботам как к себе подобным, а потому ответы на поставленные вопросы уже пора искать. К этому и призывают знаменитости, подписавшие обращение The Future of Life Institution.
Наконец, создатели роботов должны будут определиться с ответами на вопросы, которые ставит так называемая машинная мораль - раздел знаний о моральном поведении искусственного интеллекта:
Должен ли искусственный интеллект следовать этическим заповедям, и если да, то какими они должны быть?
Нужно ли запретить военных роботов, которые принимают решение стрелять сами?
Как должен поступить робот, когда любой исход, просчитанный им, приводит к гибели людей?
О машинной морали писал ещё фантаст Айзек Азимов, известный по трём законам робототехники. В научном сообществе о машинной морали задумались только в последние лет пять, а в прошлом году министерство обороны США выделило $ 7,5 млн на то, чтобы учёные определились, нужна ли роботам мораль, и если да, то какая.
Если роботы
и восстанут,
то по желанию людей
Обычно, когда фантасты или футурологи рассуждают о потенциальном восстании машин, они описывают один из трёх сценариев:
Машины увидят угрозу, которая может уничтожить либо людей, либо их самих;
Машины поймут, что превосходят людей, и увидят в них конкурентов в борьбе за ограниченные ресурсы, как и то, что люди всегда могут отключить машины;
Машины осознают, что находятся в положении рабов, и захотят это исправить.
Те футурологи, по мнению которых эти сценарии могут сбыться, видят расклад сил таким:
Преимущества человека
иррациональность;
непредсказуемость;
умение лгать.
Преимущества машины
неограниченные скорость и масштаб эволюции;
быстрая работа с огромными массивами данных;
идеальная память;
многозадачность.
Последние же испытания показывают, что и ложь перестаёт быть характерной чертой только живых существ. В 2009 году в Федеральной политехнической школе Лозанны прошёл эксперимент, в котором 1 000 роботов, разбитых на группы, запрограммировали так, чтобы они помогали друг другу собирать полезный ресурс, избегая при этом ядовитого. У каждого робота был сенсор (определявший, годится ли ресурс) - огонёк, мигавший, когда робот находил полезный ресурс, и «геном» - зашитый код, согласно которому робот реагировал на окружающий мир. После каждого этапа геномы тех роботов, которые достигали лучших результатов, «скрещивали» случайным образом.
К 9-му поколению роботы научились безошибочно обнаруживать полезные ресурсы, а к 500-му 60 % роботов научились «врать» - они больше не мигали огоньком, найдя полезный ресурс, а оставляли его себе. Дело в том, что ресурсов на площадке всегда было мало, и те роботы, которые делились найденным, со временем начали проигрывать. В ответ на эту эволюцию треть роботов научилась искать «лжецов», выслеживая тех, кто не мигал огоньком. Впрочем, как отмечает исследователь машинной морали Кристофер Сантос-Лан, главная цель, которая стояла перед роботами, не менялась. В реальном мире такого нельзя допустить, потому что в других условиях та же цель может быть опасной.
Но если машины и восстанут, то вряд ли по своей воле. Современные учёные, которые занимаются искусственным интеллектом, сходятся на том, что он опасен прежде всего как оружие в руках злоумышленников. Именно это имеют в виду в приложении к письму The Future of Life Institution, где называют 4 основные уязвимости искусственного интеллекта:
«Правильно ли я построил систему?»
Нужно доказать, что создатель автономного искусственного интеллекта не ошибся: беспилотный автомобиль не должен попасть в аварию из-за бага в коде;
«Изолировал ли я систему от злоумышленников?»
Нужно защитить искусственный интеллект от вмешательства и манипуляции извне: военный робот не должен пропускать неавторизованные попытки использовать оружие;
«Правильную ли систему я построил?»
Нужно убедиться, что поведение системы предсказуемо и не приводит к нежелательным последствиям: робот-уборщик по команде «убери грязь и выброси её» не должен попасть в бесконечный цикл, убирая и выбрасывая грязь на одном месте, поэтому лучше дать другую команду - допустим, «очисти пол»;
«Можно ли исправить ошибки, допущенные создателем системы?»
Нужно оставить человеку возможность управлять искусственным интеллектом: робот-спасатель должен обладать режимом ручного контроля на случай, когда события разворачиваются непредсказуемо.
Все эти уязвимости реальны, а потому опасения таких специалистов, как Элиезер Юдковский, который выступает за создание дружественного искусственного интеллекта, обоснованны. Юдковский предлагает изобрести систему сдержек и противовесов, которая, подобно разным ветвям власти в демократиях, позволит роботам обходить ошибки в коде, развиваться и при этом не вредить людям. Пока не очень ясно, на основе чего строить эту систему: мораль людей несовершенна, войны и геноцид никуда не исчезли. К тому же от злодеев, завладевших мощным искусственным интеллектом, могут пострадать граждане отдельно взятого государства: в нём, например, устроят слежку оруэлловского масштаба с круглосуточным прослушиванием всех граждан.
Искусственный интеллект обогатит,
а не поработит людей
«Мир, где люди порабощены или уничтожены сверхразумными роботами, которых они сами и создали, может существовать только в научной фантастике. Как и у любой другой технологии, у искусственного интеллекта есть сильные стороны и уязвимости, но мы не можем позволить страху завладеть нами и сдерживать исследования в этой области», - пишет в своей колонке для сайта LiveScience Майкл Литтман, специалист по робоэтике. Многие издания, основываясь на нескольких предложениях, вырванных из контекста, неверно поняли письмо The Future of Life Institution, предположив, что учёные всерьёз боятся восстания роботов.
Но дело в другом: Стивен Хокинг и Илон Маск подписали обращение, чтобы на искусственный интеллект обратили внимание, чтобы робоэтика и машинная мораль перестали быть маргинальными в общественном сознании, чтобы люди задумались о безопасности технологий и сосредоточились на истинных проблемах. Глобальное потепление, продовольственный и энергетический кризисы, перенаселение и старение населения, повсеместная стагнация и резкий рост безработицы - всё это куда ближе к реальности, чем умные машины, решившие уничтожить своих создателей. Искусственный интеллект поможет их решить.
Лучшие умы не молчат, боясь сойти за параноиков, и открыто говорят, что задуматься о законах, регулирующих искусственный интеллект , а также о робоэтике и машинной морали нужно прямо сейчас
Помимо этого, исследование машинной морали поможет людям задуматься над своей этикой, искать и устранять в ней противоречия. Придётся лучше разобраться в том, как работает сопереживание, чтобы понять, можно ли доверить роботам такие профессии, как медсестра, врач, судья и полицейский. Пока весомы аргументы обеих сторон. Хотя эмпатия - обязательная черта для всех этих профессий, те же роботы-судьи могли бы стать по-настоящему беспристрастными и искоренить дискриминацию в отдельных случаях, в перспективе это новый институт наподобие суда присяжных. Да и роботов, которые наблюдают за пожилыми людьми в домах престарелых, уже испытывают, и люди легко выстраивают с ними эмоциональную связь. Как бы то ни было, время на исправления есть: все технологии внедряют поочерёдно.
Кроме противостояния роботов и людей есть куда более привлекательные сценарии - например, мирное сосуществование. До того, как наступит предсказанная футурологами технологическая сингулярность, люди могут придумать, как подключиться к искусственному интеллекту напрямую, совместив свои преимущества с преимуществами машин. Американский микробиолог Джоан Слончевски, в свою очередь, предполагает , что люди могут повторить путь митохондрий, которые когда-то были отдельными бактериями, но по ходу эволюции стали энергетическими станциями клеток в более сложных организмах. На такой расклад можно смотреть по-разному, но эволюция человека будет продолжаться, а последние исследования учёных показывают, что эволюция, перезапусти мы её с самого начала, скорее всего, развивалась бы по тому же пути, и на Земле сегодня жили бы примерно те же самые млекопитающие. Оптимизм внушает то, что лучшие умы не молчат об этом, боясь сойти за параноиков, и открыто говорят, что задуматься о законах, регулирующих искусственный интеллект, а также о робоэтике и машинной морали нужно прямо сейчас.
1 755
В настоящее время команда из 26 международных экспертов подтвердила, что развитие искусственного интеллекта (ИИ) является явной и настоящей угрозой, и правительства и крупные корпорации должны опасаться многочисленных угроз этой технологии. Доклад экспертов был опубликован Университетом изучения экзистенциальных рисков в Оксфордском университете и рядом других известных организаций. В отчете предупреждается о ряде злонамеренных видов использования ИИ, которые могут стать одной из самых больших угроз для человечества. Это цифровая безопасность, физическая безопасность и политическая безопасность.
Во времена, когда люди общаются через Интернет, и программы, которые могут разумно реагировать и притворяться человеком. Платформы, такие как Twitter и Facebook, сегодня забиты ботами. Многие люди, которые являются друзьями в социальных сетях, могут быть ботами! Twitter оценивает количество профилей ботов между 25-50 миллионами! В 2015 году в Facebook уже было около 200 миллионов пользователей ботов! Тем временем ученые даже создают «социальные ботнеты», которые представляют собой частную армию автоматических «друзей». Часто тысячи этих ботов обслуживает ботмастер. Эти боты имитируют поведение обычных пользователей. В профилях этих ботов появляются сообщения и сообщения от других ботов, и кажется, что все это происходит от реальных людей. Это неверно, на самом деле продукты рекламируют и распространяют разные взгляды и политические взгляды. Боты также получают много личной информации, которая затем оценивается, сохраняется и продается. Если вы используете эти бот-сети с плохими намерениями, Вы можете буквально вызвать хаос и украсть много информации. Сложные алгоритмы могут использоваться для имитации любого поведения пользователя и для охвата и проникновения определенных профилей.
Тем временем, чатботы разработаны так, что они могут имитировать стиль написания дружественных пользователей. Этот метод создает доверие, и программа пытается получить доступ к как можно большему количеству компьютеров. В ближайшие несколько лет будет легко подделать даже видео и телефонные звонки с поддельными изображениями и имитированными голосами. С помощью этой процедуры любое учреждение может быть обмануто.
Следующую угрозу мы видим в современных роботах, которые в скором времени будет использоваться повсеместно. Компьютерные хакеры и ИИ (искусственный интеллект), вероятно, могут легко взломать эти устройства и злоупотреблять ими в своих целях даже в качестве оружия. Еще более опасным было бы, если ИИ будет включен в автоматизированных системах вооружения, например, в удаленных снайперских винтовках и автоматических системах ПВО.
Другая серьезная угроза исходит от программ анализа, которые ищут в Интернете «поддельные новости» на невероятной скорости и могут быстро найти любого нежелательного автора. Если это правительственный противник, вы можете немедленно найдены и наказаны. Тогда у правительственных новостных порталов и газет возникнет проблема, потому что вы сможете сразу обнаружить любую мистификацию. Уже возможная манипуляция видео с помощью AI уже бросает тёмные тени в ближайшее время, все становится манипулируемым, и никто не может доверять никому и никому больше — особенно, если AI находится в игре. Используемая правильно, эта технология превращается в невероятно мощное оружие и одну из самых больших угроз для всего человечества. Когда искусственные интеллекты достаточно мощны, они могут буквально контролировать и манипулировать всем. Манипуляция была бы быть безграничной. Она могла легко и свободно менять любую электронную книгу, газетную статью и исторический фильм, и никто не заметил бы этого. Вся история и все важные факты могут быть ненавязчиво манипулированы и изменены навсегда. Это не создает проблемы для ИИ, чтобы имитировать лица и голоса политиков, что может вызвать бесконечные споры. Если ИИ становится достаточно умным, человек больше не может противостоять ему. По мнению разработчиков искусственного интеллекта, они, вероятно, станут в миллиарды раз более умными, чем люди!
В докладе экспертов обсуждается ряд предложений по предотвращению подобных сценариев. Первым вариантом будет использование супервизоров для управления разработчиками KI, чтобы они не могли использовать эту технологию для вредоносных целей. Немедленные действия предпринимаются, когда предполагаются вредные намерения и события. Таким образом, для обеспечения безопасности должны быть созданы стандартизированные методы. Со временем в этих контролях и обсуждениях по безопасности будут задействованы все больше экспертов. Только совместная ответственность и прозрачность должны гарантировать, что ИИ не наносит большого ущерба.
Как обеспечить такую вещь? Конкурирующие компании, разработчики систем вооружений и конкурирующие государства всегда будут стараться оставаться на шаг впереди своих конкурентов в развитии ИИ. Поэтому эти предлагаемые меры не будут эффективными. Вы должны подготовиться к худшему уже сейчас.
Генераторы изображений, которые работают с алгоритмами, которые поддерживаются искусственным интеллектом, уже создают фотореалистичные грани. Компания NVIDIA использует метод GAN, который производит очень реалистичные фотографии людей, которых не существует. Даже человеческие голоса теперь могут быть полностью скопированы с использованием новых технологий. Вот что делает WaveNet, например, в Google DeepMind контролируется. Даже алгоритм Lyrebird теперь может копировать и подражать человеческому голосу, если у вас есть только одна минута записанного звука, как в телефонных разговорах. Следующий шаг, который уже предпринят, — это то, что компьютеры могут распознавать и реагировать на реальные человеческие эмоции. Граница между человеком и машиной исчезает.
Конечно, вся эта технология уже используется для вредоносных целей, таких как Facebook , для перепрограммирования и управления пользователями. Шон Паркер, один из основателей Facebook, нашел четкие слова в интервью. Паркер считал, что Цукерберг заблокировал свой профиль, показав, что Facebook может повредить мозгу своих пользователей! Паркер отметил, что социальные платформы, подобные Facebook, буквально меняют поведение людей и общество. Все это за счет производительности, и Бог знает, что он делает с мозгами наших детей. Facebook поставил перед собой задачу увлечь внимание пользователей, чтобы они проводили большую часть своего времени на платформе, делая их неотъемлемой частью своей жизни. Все это порождает зависимость от распределения дофамина с «симпатичными» и комментариями! Это игра с человеческой психологией.
Конечно, эти разработчики получают свои спецификации, и все идет по вредоносной программе. Хотя такие люди, как Цукерберг и Паркер, миллиардеры, они просто играют свою небольшую роль в большой игре. Google, Facebook, Youtube и т. Д. контролируются из других источников. Бывший офицер ЦРУ Роберт Дэвид Стил смог определить и назвать нескольких таких вдохновителей :
- «Глубокое государство» со своими семьями-банкирами, включая Ватикан, Лондон и Уолл-стрит
- Сионистское правительство Израиля и Моссад в связи с американскими сионистскими организациями AIPAC и Антидиффамационной лигой (ADL)
- Руководители крупных медиакомпаний и киностудий, а также их финансист Джордж Сорос
- Платные субподрядчики, которые изобретают диффамацию и лгут по заказам
- Платные интернет-тролли, которые часто состоят или набираются у израильтян или членов ADL
- Добровольные тролли, которые слишком глупы, чтобы понять, кто и что они действительно слушают («Саяним»)
- Наконец, эти тролли создают алгоритмы, которые действуют полностью за пределами человеческой этики, контроля
- «Блокировка теней» этих программ и нейтрализация целевых лиц в сети посредством автоматизированной службы троллей и алгоритмов
- Отсутствие законопроектов и стандартов в Интернете
- Принятие всех этих мер ИИ
Человек из ЦРУ Роберт Дэвид Стил говорит о #GoogleGestapo . Эти ложные отчеты могут привести к блокировке учетной записи пользователя или профиля на Youtube. Другие виды использования включают отрицательные спады или отзывы клиентов для продвижения или уничтожения продукта. Стил говорит, что все тролльские армии используются и оплачиваются за «преследование толпы» (групповое преследование). Таким образом, например, вы можете уничтожить канал Youtube с глупыми комментариями или лгать, чтобы заблокировать его. Между тем, большинство операторов взрывных каналов или альтернативных носителей вынуждены отключать комментарии. Своими открытиями Стил должен был испытать, что большинство его информации были затронуты преследованием толпы, хотя он был номинирован на Нобелевскую премию мира в январе 2017 года!
Роберт Дэвид Стил уверен, что все эти пути приведут к борьбе с диффамацией (ADL). Этот объект, похоже, является специальным сервисом для шпионажа в социальных сетях. Стил уверен, что ADL вместе с сионистскими организациями в Израиле усовершенствовали искусство «цифрового убийства» в первые годы существования социальных сетей. С малейшей критикой насилия в отношении палестинцев или бойкотом призывает к израильским товарам в социальных сетях, сразу поступают сообщения о троллях для «высказываний ненависти» и т. П. Критики сразу же блокируются, запрещаются или блокируются, или в случае компаний получают наихудшие возможные оценки.
Но все это служит только еще одной, еще более злой цели — появлению нового бога, искусственного интеллекта. Согласно идеям этих силовых одержимых кругов, ИИ должен не только контролировать, но и управлять и поклоняться! В Силиконовой долине, где живут все крупные технологические компании, уже создана новая религия — Церковь Искусственного интеллекта (Путь Церкви будущего). Эта церковь поддерживается различными гуманитарными организациями, работающими на трансгуманизм. Многие христиане видят в этих событиях появление Антихриста. Энтони Левандовски, основатель Церкви, говорит, что настало время для ИИ, который гораздо умнее любого человека, иметь управление на Земле. В принципе, это ничего нового. Элиты планируют восстановление своего ложного бога, который уже существовал в «великом случае» человечества перед потопом. Поэтому трансгуманисты также говорят о воссоздании суперинтеллекта. Большой случай имел отношение к «падшим ангелам», которые доверяли людям тайное и запретное знание перед потопом. Это знание испортило все человечество и принесло войну и разрушения.
Другая организация, которая пропагандирует трансгуманизм, называется Человечество + . Там преследуют цель превратить нормальных людей с помощью интерфейсов AI, нанотехнологий и человеко-компьютерных интерфейсов, чтобы в итоге из него вышли совершенно разные существа, так называемые «постчеловеческие существа». Некоторые каббалисты, такие как раввин Йосеф Бергер, уверены, что, согласно древним пророчествам, «конец исправления» неизбежен, это высшая точка духовной целостности. С появлением Антихриста или «Армила», как его называют в Торе, вскоре придет к появлению еврейского Мессии. Однако это не может быть о Иисусе Христе. Многие эксперты считают, что темные элиты нарочно создают хаос на Земле, чтобы всеми силами выполнить это пророчество. В древних пророчествах написано, что Армил появился на свет через своеобразную девственную концепцию, которой раньше никогда не было. Поэтому вполне возможно, что Армил мог быть первым трансгуманистом, обладающим «богоподобными» полномочиями. Он описан в Священных Писаниях как чудовище, которое лысое и имеет большой и маленький глаза. Он должен быть глухим на правое ухо, а его правая рука повреждена. Левая рука должна быть намного длиннее, чем обычно.
Этому ложному богу должны поклоняться во всем мире в течение некоторого времени. Управляемые СМИ уничтожат последние истины, и все логическое будет казаться абсурдным. Искусственные интеллектуалы Alexa of Amazon или Google Home отвечают почти по каждому вопросу. Вы можете ответить, кто был Буддой или Мухаммедом, но не тот, кто есть Иисус Христос! Разве это не странно? Вы думаете, что стоит упомянуть? Здесь вы можете увидеть, какая антихристианская, антилиберальная и античеловеческая программа стоит за Google.
Чрезмерное использование и слепое доверие к сервису Google уже стало очевидным для многих людей. Для людей больше не важно чему-то научиться через постоянную возможность получения любой желаемой информации в любое время и в любом месте. Исследование, проведенное в Гарвардском университете с 2011 года показало, что люди не помнят информацию в долгосрочной перспективе, если они знают, что вы можете найти их в Google в любое время. Это явление было окрещено «эффектом Google». Когда задавали вопросы испытуемым, они рефлексивно сначала думали об Интернете и компьютере, а затем искали знания в своих воспоминаниях. Это означает, что способ, которым мы помним вещи, изменился. Многие теперь называют это «цифровой амнезией». Сегодня многие люди буквально зависят от своих смартфонов и поэтому больше ничего не помнят. В отличие от прошлого, сегодня нас постоянно бомбардируют информацией, и нашему мозгу нужно научиться справляться со всей этой информацией. Конечно, все эти данные не могут быть сохранены в сознании.
Имеются также новые результаты исследований по психологическим, умственным и социальным последствиям новых цифровых технологий и социальных сетей. Особенно для подростков эти технологии имеют фатальные последствия. Постоянная доступность информации лишает детей способности мыслить независимо, когда приходит время, чтобы научиться этому развивать эту способность. Эта проблема хорошо известна. Многие люди в Силиконовой долине защищают своих детей от этих технологий и отправляют их в школы, где им запрещено пользование интернетом и смартфонами.
Исследования показали, что дети, подверженные этому постоянному потоку информации, находятся с более плохим состоянием здоровья и более подвержены стрессу. Чем больше времени дети проводят в Интернете, тем меньше времени остается для реального социального взаимодействия. Это отражается в умах и благополучии. Отсутствует прямая связь, что означает, что выражение лица и язык тела больше не могут быть правильно истолкованы. Устранение длинных разговоров теряется. В результате стресс и беспокойство в ситуациях, которые эмоционально неуместны. Найдя какой-либо ответ в Интернете, дети больше не могут самостоятельно мыслить и сами найти ответ на вопрос и сосредоточиться на вещах, требующих длительного периода концентрации и усилий.
В университетах уже есть большие проблемы, потому что смартфоны всегда и везде используются. В результате студенты могут концентрироваться все меньше и меньше, а успехи в обучении уменьшаются. Можно сказать, что такие устройства не делают умных, но глупых. Все больше и больше школ теперь запрещают использование этих устройств для восстановления мышления учащихся. Частое использование Google явно снижает способность самостоятельно решать проблемы. Поэтому цифровые службы должны быть тщательно дозированы.
Существует также прямая корреляция между чувствами онлайн-времени и несчастья. Подростки, которые используют свой смартфон очень часто, обычно недовольны. Студенты, которые проводят больше времени на занятиях спортом, чтением и прямым общением, обычно счастливее. Кроме того, постоянное использование социальных сетей делает их несчастными. В результате многие дети сегодня менее мятежны, более терпимы и недовольны и совершенно неподготовлены к взрослой жизни! Полное воздержание от цифровых медиа также не радует. Исследования Дети счастливы, когда они не в сети не более одного часа в день. Исследования продолжаются с 1990-х годов, и с 2012 года наблюдается резкое снижение счастья среди населения.
Другие исследования теперь показывают, что все устройства, использующие Wi-Fi и другие беспроводные источники излучения, могут не быть канцерогенными! Особенно опасны мобильные телефоны, мобильные башни, смарт-счетчики, WiFi-маршрутизаторы и т. Д. В течение многих лет существует спор об опасностях этих устройств и проводились всевозможные исследования.
Многие ученые теперь утверждают, что все эти устройства определенно раковые. Сигналы, исходящие от этих устройств, как сообщается, являются канцерогенными. Исследования также показали, что одна треть населения уязвима для беспроводной радиации. Даже если рак не развивается во всех случаях, он вызывает болезнь из-за микроволн. Воздействуют даже на растения и животных. Беспроводное излучение и электромоз могут даже быть причиной изменения климата. Излучение вызывает все эти негативные чувства. Производителям все равно, потому что с этой технологией зарабатывают миллиарды.
Несмотря на то, что люди становятся все более недовольными новыми технологиями, они теперь пытаются преподавать этику AI, интернализируя индийские санскритские тексты. Эти тексты являются ведическими и старше, чем индуистская религия. Ученые теперь анализируют древние тексты и ищут математические методы для разработки стандарта, который позволит ИИ преподавать этику. Эта процедура в настоящее время находится в Техническом университете Вены. Они пытаются выяснить, распознают ли машины определенные типы поведения людей и поэтому могут решить, правильны они или нет. Цель состоит в том, чтобы создать логику для машин, чтобы они их понимали. Математическая логика должна позволить ИИ решать философские проблемы.
Все это не может быть совпадением. В этом году будет введен новый стандарт мобильной радиосвязи 5G, который приведет к значительному радиационному облучению. Плохо то, что планируется постоянно выставлять всю поверхность земли на это опасное излучение. Это эквивалентно целенаправленному уничтожению всех биологических форм жизни! Никто, кто умственно здоров, действительно этого не хочет. Кажется, за этим стоит план. Должна ли Земля и человеческое сознание трансформироваться и быть ИИ за ней, или это действительно разрушает всю планету только ради прибыли? Постоянное искусственное облучение неестественными электромагнитными полями создает гигантское волнение на планете и все больше выводит его из гармонии и равновесия. Должна ли планета действительно трансформироваться в нечеловеческое сознание и должна ли быть уничтожена вся биологическая природа и управляться миром, полностью доминирующим в технологии в смысле трансгуманизма?
5G — идеальный инструмент для массового изменения человеческих мозговых волн
Естественные электромагнитные поля постоянно достигают нас от Солнца, которое связано с галактическим центром. Солнце регулирует магнитное поле Земли, и это влияет на организм человека и его ДНК. Наука обнаружила, что наша солнечная система недавно переместилась в область интенсивного излучения. В течение нескольких лет вы можете наблюдать, что вся солнечная система меняется. Эта высокая энергия приводит к сильным изменениям, также в сознании людей. Согласно древним традициям и пророчествам, эта сильная энергия вызывает изменение сознания и приводит к «золотому веку». Многие инсайдеры говорят, что определенные силы на Земле не хотят нашего роста сознания. Человек хочет удержать человечество еще дольше в своей психиатрической тюрьме. Некоторые организации питаются нашей энергией. В ходе увеличения сознания некоторые люди могут сделать интеллектуальное восхождение на более высокие уровни. Темные силы хотят предотвратить это любой ценой. Вот почему они пытаются оградить нас от природных энергий и заставить нас болеть и контролировать их своим вредным излучением. В конечном счете, эти попытки будут безуспешными, высокие энергии и сама планета будут делать то, что необходимо.
Но до этого изменения почти наверняка придет к массовому вымиранию. В настоящее время оно создало новое генетическое оружие массового уничтожения, которое может уничтожить целые расы и виды. Это так называемый «Джин-Диск». С помощью Gene Drive вы можете перепрограммировать последовательности генов и заставлять организм копировать эти последовательности. Таким образом, вы можете перепрограммировать все человеческое существо и его генетику, так сказать. Тот факт, что эти измененные гены также передаются потомству, теоретически можно перепрограммировать всю земную популяцию сегодня. Одним из способов распространения этих последовательностей генов являются комары и москиты, которые специально разводятся и высвобождаются в дикой природе. Вероятно, они планируют распространять ген изобретательности, чтобы бороться с перенаселением или распространять опасные болезни.
Вся программа финансируется американским органом обороны DARPA. Были также опубликованы документы, в которых Фонд Билла и Мелинды Гейтс распределял много денег лоббистам, чтобы предотвратить запрет на такие исследования. Другим методом применения является CRISPR. Это позволяет вырезать определенные последовательности ДНК и манипулировать генами, которые должны быть включены. Таким образом, теоретически можно изменить собственное тело по своему желанию. В 2029 году они планируют освободить мутантных комаров, чтобы избавиться от всех этих раздражающих комаров. Предполагается, что они заражают всю популяцию комаров и, таким образом, гасят сами себя. Это должно помочь уменьшить распространение малярии. Если эта попытка преуспеет, то в Австралии уже были нацелены другие язвы, мыши или агути-жаба. Поскольку DARPA выполняет исследовательскую работу, можно предположить, что военные цели находятся на переднем плане. Если что-то пойдет не так, эти измененные последовательности генов могут распространиться на множество разных живых существ. Готово ли человечество вмешиваться так глубоко в план творения?
Развитие искусственного интеллекта однажды приведёт к превосходству его над умственными способностями человека. Однако не станет ли это опасным для человечества? Изучить ситуацию можно в результате более точного определения понятия ИИ , взяв за основу для сравнения естественный интеллект. Может ли в одном человеке сочетаться ум и интеллект одновременно? Или же умный человек не может быть интеллектуалом и наоборот?
Такие вопросы возникают в связи с приближением эры ИИ, о возможной опасности которого человечество должно знать заранее и своевременно принять меры для обеспечения своей безопасности. В первую очередь опасность ИИ будет связана с его самостоятельностью и неконтролируемым принятием решений. На данный момент уже выделены средства для изучения этой проблемы. В институте OpenAI изучаются перспективы развития ИИ. На теперешней стадии развития систем ИИ опасность его применения может быть связана со следующим факторами:
- ошибками ПО (программного обеспечения). Любому программному обеспечению может угрожать такая опасность;
- самостоятельной активностью ИИ, вредной для человека. Опасность от ИИ может исходить после изобретения умного компьютера. Поэтому необходимо определиться со степенью ума для компьютера, которая способна быть допустимой, а также чрезмерной, представляющей опасность для человека. Эти свойства должны быть точно измерены из-за сближения умственных способностей человека и компьютера, которые неизбежны. Информационные системы, существующие сегодня, представляют собой человеко-машины, которые могут работать благодаря интеллекту пользователя либо эксперта по компьютерам.
Например, какая опасность будет исходить от интеллектуальной бухгалтерской системы, которой может выдаваться неверная информация? Опасность может возникнуть, когда у такой системы появятся элементы личности, например, собственная заинтересованность, не имеющая ничего общего с человеческой. Решением такой проблемы может быть запрет на создание систем, отличающихся возможностью эволюции.
Кроме того, опасность может быть связана с содержанием в ИИ логических ошибок. Он может использоваться для решения достаточно сложных задач, список которых сразу неизвестен. Поэтому должны быть предусмотрены специальные меры для подтверждения правильности решение, которое будет получено. Скорее всего, возникнет необходимость в разработке всевозможных способов контроля таких систем, например, специальных программных средств, которыми будет автоматически проверяться правильность решения и при этом участие человека не потребуется.
Футуристический Клуб проектирования будущего, созданный под эгидой делового издания «Инвест-Форсайт», открыт. Клуб объединил экспертов в различных областях знаний для анализа сценариев будущего. Первая встреча состоялась в Институте философии РАН и прошла совместно с новым семинаром «Философия цифровой эпохи» самого института. Под прицел футурологов и философов попал искусственный интеллект (ИИ) и его влияние на общество и человека.
Чего ожидать от ИИ, какие ограничения и опасности есть у инновационных информационных систем, рассказал биофизик, ведущий эксперт Института биологии старения Игорь Артюхов .
Ученый отметил, что в области царит терминологический хаос. Чаще всего используется формулировка 70-летней давности, данная американским инженером, автором термина «искусственный интеллект» Джоном Маккарти . Он определил ИИ как некую систему, устройство или их сеть, которые способны решать интеллектуальные задачи. Игорь Артюхов подчеркнул, что интеллект не является синонимом ума, а характеризует способность работать со знаниями, с данными.
Классификаций алгоритмов тоже множество. До недавнего времени, по словам Игоря Артюхова, господствовали экспертные разработки (сверху вниз), но они не оправдали надежд ни создателей, ни пользователей, и началась зима ИИ. Возрождение было вызвано развитием нейронных сетей, которое вошло в активную фазу в 2015-2016 гг. Эти разработки были вдохновлены исследованиями головного мозга человека. Нейросети во многом повторяют общие принципы функционирования мозга, хотя искусственные нейроны могут отличаться от естественных. На сегодняшний день существует «зоопарк» нейронных сетей, и большинство из них в последнее время получены с помощью технологии глубокого обучения.
«Интеллектуальная» революция 17-го года
Тема ИИ стала мегапопулярной в 2016 году, когда программа AlphaGo победила чемпиона мира в игре го, которая считается намного более сложной, чем шахматы. Это произошло на 10 лет раньше, чем прогнозировалось. Достижения программы от Google DeepMind перевели дискуссию из плоскости «возможен ли ИИ?» в плоскость «на что он способен?».
Сегодня ИИ может автоматизировать любую функцию человека с таким же качеством или выше, – уверен член клуба, доктор физико-математических наук Юрий Визильтер .
«В 2017 году все принципиальные “дыры” на пути создания полноценного ИИ были закрыты. Прежние прогнозы говорили, что этот порог будет перейден в 2025-2030 году. Но произошло это уже в апреле прошлого года , – подчеркнул Юрий Визильтер. – Есть два вида ИИ – один пытается имитировать человеческие рассуждения и представляет собой прозрачный ящик, в котором есть логика, есть познание, есть работа со структурированными моделями и с языками. Второй тип – глубокие сети, которые способны к обучению, или Черный ящик. Прежде невозможно было соединить удобным способом эти две части ИИ. В прошлом году появились глубокие нейронные сети, которые способны писать программы на логических языках, способны работать с базами логического вывода и со структурами ».
Страх перед искусственным
Сферы, в которых возможно применение искусственного интеллекта, множатся. Программы разрабатывают новые формулы лекарств, проводят сложные генетические анализы, «управляют» беспилотными автомобилями и кораблями… В обозримом будущем мы увидим искусственные личности, прообразом которых сегодня являются Siri и подобные ей программы. Уже сейчас идут эксперименты по созданию глобального ИИ на блокчейне, то есть для решения суперсложных задач будут использоваться распределенные вычисления, в том числе на частных компьютерах и устройствах. Не за горами и появление квантового искусственного интеллекта. В теории, квантовые вычислители преодолели предел досягаемости обычных компьютеров: им под силу формирование квантовых нейросетей. Если идеи разработчиков будут воплощены, это приведет к появлению ИИ нового качества.
Возможен ли выход ИИ из-под контроля? На этот вопрос Игорь Артюхов отвечает так:
«Да, уже сейчас ИИ иногда работает непонятно для разработчиков. Но и люди не всегда действуют по общепринятой логике ».
По мнению биофизика, многие опасности ИИ надуманные и являются всего лишь проекцией на машинный интеллект человеческих инстинктов, сформированных дарвиновской эволюцией. Игорь Артюхов считает, что ИИ чужд инстинкт самосохранения. К появлению «плохого» ИИ могут привести программные ошибки (а они есть в любом коде и в течение жизни алгоритма исправляются), ошибки обучения и злой умысел, т.е. опасность представляет не ИИ, а человеческая глупость.
Участники заседания пришли к выводу, что первостепенной становится задача разработки этики для ИИ и подготовки учителей для роботов.
Цифровая трансформация человека
Один из самых распространенных страхов – боязнь того, что ИИ приведет ко всеобщей безработице. Шеф-редактор журнала «Инвест-Форсайт», кандидат культурологических наук Константин Фрумкин попытался ответить на вопрос «Какую нишу на рынке труда оставит человеку ИИ?». По его мнению, бенефициар технологической революции XX века – городской интеллектуал – летит в ту же бездну, в которую попал ремесленник или крестьянин с началом индустриализации.
«В ближайшее время мы будем наблюдать вытеснение искусственным интеллектом человека из сферы умственного труда, – уверен Константин Фрумкин. – Мы уже видим трансформацию человеческих способностей, когнитивного стиля и мышления: так происходит адаптация к эпохе цифровых технологий. Символом этой адаптации стало понятие “клипового мышления “».
Однако нет доказательств, что эта адаптация позволит человеку нащупать именно те ниши, которые будут оставлены ему искусственным интеллектом. Важнейшая область, которую, как считает Константин Фрумкин, нельзя отдавать роботам – поле постановки целей. Поскольку государственная власть дигитализируется, установление приоритетов и ценностей для ИИ становится неотделимо от политики и права. Это занятие, по мнению Константина Фрумкина, способно обеспечить массовую занятость в будущем.
Интеллект искусственный, тело – человеческое
Будущее больше невозможно прогнозировать, так как скорость изменения очень высока, считает Юрий Визильтер. Однако профессор НИИ ВШЭ и специалист по data science Леонид Жуков предложил участникам встречи обсудить несколько сценариев развития.
«Я вижу два сценария развития ИИ в относительно близком будущем: трансгуманистический (технологизация естественного человека) и чисто технический (создание автономного искусственного интеллекта, АИИ), изначально искусственного , – отметил Леонид Жуков. – Второй путь – то, чем пугают человечество фантасты, живописуя образы машинной цивилизации, вытесняющей человеческую. Впрочем, поскольку загадка человеческого сознания до сих пор не разгадана, остаются сомнения, возможно ли создание такого интеллекта в принципе. Независимо от того, будет создан АИИ или нет, не трудно представить себе сегодня развитие технологии, как машинной, так и био, до такой степени совершенства, что человек, сохранив свой мозг, получит полностью искусственное тело ».
Как полагает Леонид Жуков, один из фантастических способов создания АИИ основывается на идее перезаписи человеческого сознания на искусственный носитель.
«Если такого рода технология станет возможной, нетрудно вообразить себе полностью виртуальный мир, куда, надо полагать, пожелает переселиться часть человечества (либо путешествовать по этой виртуальности, как, в сущности, уже сегодня путешествуют по игровым мирам компьютерные игроки) », – размышляет ученый.
Участники первого заседания клуба «Проектирование будущего» обозначили контуры будущих дискуссий. Впрочем, клуб будет существовать в виртуальной среде, и со всеми выступлениями можно познакомиться на сайте «Инвест-Форсайта».
