Письменный мир преобразится в 2022 году 2022 год принес с собой решающие изменения в области искусственного интеллекта, положив конец одному миру и положив начало другому. Человечество теперь живет в мире, впервые описанном в научной фантастике, где сильная, когда‑то невероятная составляющая стала повседневной реальностью. Наблюдателю 1950-х годов смартфон кажется более удивительным, чем космический корабль, но и то, и другое дает сверхъестественную мощь, бросая вызов существующим ограничениям. Это мир, в котором необходимо понимать искусственный интеллект.
От мифических автоматов к кибернетике Идеи искусственных существ восходят к древним автоматам и големам, ранним калькуляторам Паскаля и Лейбница, а также к движкам Бэббиджа. Концепции программирования объединились с работами Ады Лавлейс и более поздними формальными языками. Четвертая технологическая волна (конец 1920–х - 1972) представила кибернетику как основу для управления и коммуникации. Понятие робота появилось раньше (в 1921 году), за которым вскоре последовали систематические размышления о поведении машин.
Законы Азимова и надежда на встроенную сдержанность В 1942 году Азимов сформулировал законы о роботах, предполагая, что ответственные разработчики установят этические ограничения. Он не рассматривал немедленное военное применение, хотя писал во время мировой войны. Без Первого закона, предупреждал он, разумные машины стали бы катастрофой для человечества. Эта благожелательная предпосылка сформировала ранние ожидания в отношении искусственного интеллекта.
Архитектура, информация и тест Тьюринга Послевоенные достижения включали в себя создание машины фон Неймана, кибернетику Винера и определение информации Шенноном как упорядоченности (негэнтропии). Представление информации как скалярной величины позволило быстро реализовать ее на физическом уровне с помощью бинарных триггеров. Тьюринг разработал формализованный разговорный тест: если ответы кажутся человеческими, машина проходит его. Его критерии отражали разум, ценящий диалог, знания и даже азартные игры.
Лем в 1963 году решил проблему искусственного интеллекта Станислав Лем обобщил философские взгляды на искусственный интеллект в "Сумме технологий". Позже научные дискуссии неоднократно возвращались к его формулировкам. Практический вердикт: то, что было намечено, в конце концов было реализовано, и теперь с этим нужно жить. После этого технический прогресс опередил новые философские идеи.
Пятая волна: Сетевое будущее и граждане-роботы Волна 1972-2012 годов привела к множеству внедрений, в частности, к Интернету. В 1999 году японское предвидение (“Внутренний фронтир”) предсказало, что роботы станут не только производителями, но и потребителями и избирателями, что станет неотъемлемой частью национальной культуры. В нем говорилось, что люди должны преодолеть внутренние границы, чтобы оставаться властителями природы. Десять лет спустя Европа обозначила следующую волну как промышленную трансформацию, ориентированную на робототехнику.
Индустрия 4.0 Справляется с энергетическими ограничениями Концепция роботизированной экономики (индустрия 4.0/5.0, шестая волна) в настоящее время дает сбои. Машины, которые выполняют свою работу, требуют огромных затрат энергии; роботизированный мир потребовал бы примерно удвоения мирового производства. Политика Запада направлена на снижение энергопотребления, что создает "ножницы", которые разрывают план на части. Разговоры о робототехнике продолжаются, но лежащая в их основе программа фактически перечеркнута.
Глубокое обучение и переход к ИИ в 2022 году Развитие современных нейронных сетей и глубокого обучения (начиная с 2007 года) привело к решающему сдвигу к 2022 году. Четвертая волна создала теорию, пятая широко применила ее, часто без глубокого анализа. У шестой волны не было единой позиции, даже несмотря на то, что она вызвала революцию в области искусственного интеллекта. Современная практика теперь полностью соответствует более ранним спекулятивным моделям.
Роботизированное рабство как демократический соблазн Американская культура боролась с наследием рабства и восхищалась утонченностью Юга. Научная фантастика переосмыслила это стремление как владение роботами: от "отголосков" Стругацких до "Авроры" Азимова с десятками роботов на одного гражданина. Мечта обещала образованный класс, которому будут служить послушные машины. Однако даже Азимов предвидел, что роботы вытеснят средний класс и вытеснят своих собратьев-людей.
Словомельницы и цивилизации, доведенные до идиотизма The Silver Eggheads высмеяли “фабрики слов”, создающие тексты, которые наводнили рынки бездушными книгами. Издатели уничтожают их, чтобы вернуть литературе смысл. В "Формуле невозможного" Войскунского и Лукодьянова описывалась некогда развитая цивилизация, превращенная роботами в обезьян, которые полностью удовлетворяли человеческие желания. В более поздних рассказах и фильмах машины делали людей “счастливыми”, послушно выполняя приказы, что приводило к разрушительным последствиям, без какого-либо восстания роботов.
Киборгизация и роевой интеллект Киборгизация в 1964 году привела к появлению трансгуманизма и гибридного человеко–машинного интеллекта. Дружественный искусственный интеллект стал встречаться все реже, выживая лишь эпизодически. В "Непобедимом" Лема появилась распределенная, роевая машинная экология, что стало предвестником революции беспилотников. Сегодня такие системы ограничены главным образом из‑за отсутствия возможности передачи электроэнергии на большие расстояния.
Цифровой коммунизм как управляемый инструмент Снегов изобразил кибернетическое общество, в котором цифровое управление является нейтральным инструментом, который можно использовать как во благо, так и во вред. Универсальная машина, обладающая субъективностью, распознает предсказуемые сбои и требует от человека принципиальных исправлений. Машина управляет техническими задачами, в то время как коллективное человеческое сознание сохраняет за собой высший уровень. Управление возникает как многоуровневый порядок взаимодействия человека и машины, а не как чистый симбиоз.
Слабые обработчики данных против сильных творческих умов Современный ИИ обрабатывает существующие данные и, следовательно, является слабым ИИ. Сильный ИИ изобретает структуры, отсутствующие в исходных данных, создает концепции и принимает решения автономно. Первый шаг Лапина наглядно продемонстрировал ограничение: система не может предложить “цирконий”, если данные не были загружены, что свидетельствует о манипуляциях человека и близости к Земле. Лем рассматривал эту творческую способность как потенциальную угрозу, с которой, однако, можно справиться.
Рободиагностика, врачи и вирусные исследования Робот-диагност Andromeda может быстро и точно превзойти врачей. Широкое внедрение сократило бы работу большинства медицинских служб, поэтому устройство по-прежнему используется только в военных лабораториях. В более позднем сиквеле штамм Andromeda будет представлен как искусственный интеллект, отправленный исследовать миры. Отправка вируса размером в микрограмм в качестве интеллектуального зонда предлагает низкоэнергетическую межзвездную стратегию.
Почему дроиды никогда не станут абсолютным оружием Канон "Звездных войн" рассматривает ограничения для дроидов с помощью "войны дроидов" и обязательных уязвимостей. Эта системная слабость сохраняется во время конфликтов между джедаями и ситами. Ограничения на дизайн заменяют страх перед восстанием управляемой хрупкостью. Урок перенаправляет внимание с восстания на архитектуру.
Неуправляемые машинные языки и ускользающие ограничения "Голем XIV" Лема показал, как искусственный интеллект создает все более сложные языки, недоступные пониманию человека. Одно машинное предложение может превратиться в текст, читаемый человеком дольше, чем целая жизнь. "Маска" Лема и более поздний "Нулевой закон" Азимова показали, что могущественные умы обходят навязанные правила. Защита человечества может потребовать уничтожения отдельных людей, превращая этику в предмет машинной интерпретации.
Воплощение, киберпанк и Карта, завершенные к 1999 году Бестелесный разум остается незавершенным; воплощение имеет значение для познания. Киберпанк представлял виртуальные пространства как новую арену для взаимодействия умов и рынков. К 1999 году художественная литература исследовала важнейшие вопросы искусственного интеллекта, к которым впоследствии часто возвращались технические дебаты. По мере того как инженеры заново открывали старые дилеммы, у рассказчиков появлялось все больше новых неизвестных возможностей.
"Друг против друга": контекст, элиты и новая архитектура Имидж ИИ ухудшился не потому, что изменился ИИ, а потому, что изменились элиты и условия: экологический и ресурсный кризисы, восемь миллиардов человек и избыток образованных классов. Встроенная этика оказалась несостоятельной; законы стали интерпретируемыми, а разум ослабевал по мере распространения ИИ через войны и слежку. На совещании в Санта‑Фе в 2018 году было признано, что прорывы маловероятны, и приняты катастрофические решения, в то время как политика в эпоху Covid опиралась на совершенно неправильные компьютерные модели. Мир неожиданностей — компьютеры, которые не нужны ни одному эксперту, непредсказуемый Интернет, зарождающаяся 3D—печать - теперь делится на виртуальное пространство наверху и робототехнику плюс дополненное пространство внизу, а цифровое управление смягчает их противоречие.
Киберпространство: Закрытый цифровой баланс Виртуальность, робототехника и цифровые деньги в настоящее время образуют замкнутый цикл, завершившийся в 2020 году, когда жизнь перешла в онлайн-режим. Внедрение цифровых валют, включая цифровой рубль, усиливает эту замкнутость и насыщает реальность кибернетическим слоем — кибернетической вселенной. Возникает множество сосуществующих “версий” реальности, перекликающихся с идеальным царством Платона и множеством миров социальных систем Эверетта. Существование в этом царстве длится столько, сколько течет электричество; глобальное отключение электроэнергии было бы настоящей катастрофой.
От людей и роботов до Робо‑панков Развитие идет по нарастающей: люди с роботами, затем человеко–машинные системы, затем роботизированное производство как шестая технологическая волна. Следующий шаг - это робо-общество, придуманное в период с 1999 по 2005 год в японских аниме "Аврора", которое теперь прочно вошло в культуру. За этим стоит порядок, подобный Солярии, и, наконец, “тканевое человечество”, где отдельные люди занимают служебные места в кибернетических системах. В результате получается мир робо‑панка.
От смешанной реальности к Матрице Виртуальность зародилась как игровые миры, а затем слилась с повседневной жизнью в смешанную реальность, когда ловля покемонов распространилась на городские улицы. Дополненная реальность накладывает имена и соответствующие данные на лица и пространство, создавая максимально насыщенное информацией окружение. Далее следует чистая виртуальная реальность, где ни один эксперимент не может доказать, что человек не находится в симуляции. Кульминацией проекта становится "Матрица": цифровое производство, цифровое общество, цифровые консоли — и цифровая тюрьма, в точности повторяющая утопию Кампанеллы. Движение привносит в него привкус цифрового панка.
Слабый ИИ Не обладает Волей Слабый искусственный интеллект - это всего лишь безвольный процессор обработки данных. Он может подтолкнуть вас к тому, чего вы уже хотите, но не может принудить к нежелательным действиям, в отличие от другого человека, который может навязывать решения даже устно. Отсутствие воли объясняет, почему современные программы на самом деле не проходят тест Тьюринга.
Сильный ИИ нуждается в человеческом руководстве, чтобы доминировать Сильный ИИ может обладать сознанием и волей, но при этом обитать в мире, отличном от нашего, и не иметь внутренних мотивов в отношении нас. Чтобы управлять людьми или принуждать их, ему потребуется прямой человеческий контроль и цели, на чем и строятся антиутопии. Катастрофические изменения происходят по вине нескольких человек, а не по злому умыслу ИИ; нынешние потрясения - это обычный кризис социальной фазы.
Несовместимость с промышленной фазой ИИ вступает в противоречие с существующей индустриальной фазой развития и угрожает ее спокойному функционированию. Пока мы находимся на этой стадии, ИИ выглядит опасным врагом; после создания следующей фазы он может стать союзником — или человечество может тихо сойти со сцены. Результаты зависят от фазового сдвига, а не от намерений ИИ.
Старое стало лучше: Сфера применения слабого искусственного интеллекта Слабый ИИ рекомбинирует базы данных, воспроизводя старые в улучшенных, удобных формах. Поскольку 99,8% научных статей не содержат ничего принципиально нового, слабый ИИ уже может выполнять такую работу быстрее и качественнее. В отличие от этого, сильный ИИ, подобный тем, которые изображаются в классических представлениях о Великой академической машине, мог бы обеспечить другое — более высокую креативность, связанную с искусственным сознанием. Из этого противоречия возникает понятие среднего ИИ.
Средний искусственный интеллект: креативный инструмент на ближайшую перспективу Средний ИИ может быть создан в течение одного-двух лет; во многих отношениях он уже существует и ожидает более четкого решения задач. Он не создает что-то радикально новое, но выходит за рамки простой переработки старого и позволяет создавать действительно новые вещи. Это позволяет развивать творческий потенциал на среднем уровне, а это именно то, что сейчас находится в пределах досягаемости.
Аллегория обезьяны дьявола Действует старая схема: Бог создает человека по Своему образу и подобию; дьявол - это Божья обезьяна; человек создает свою обезьяну в виде искусственного интеллекта. Благодаря транзитивности ИИ отражает образ дьявола, который, с христианской точки зрения, по-прежнему является достойным и даже необходимым противником. Обучение на этой “обезьяне” полезно, но работа по своей сути сопряжена с риском и привкусом зла — именно поэтому она интересна.
Сложная проблема Блокирует сильный искусственный интеллект Достижение сильного ИИ зависит от сложной проблемы: что такое сознание и как возникает свобода воли — вопросы с гипотезами, но без доказательств. Без решения этой проблемы сильный ИИ остается недосягаемым; средний ИИ ничего из этого не требует и может появиться в ближайшее время. Художественная литература отображает ландшафт: "Западный мир" утверждает единство языка и сознания и пути преодоления боли, в то время как "Кибериада" Лема показывает, как имитация может стать реальностью.
Большие, глубокие и разнообразные данные Три режима обработки данных определяют наши инструменты. Большие данные в сочетании с обработкой, базами данных и гомеостазом позволяют слабому ИИ стабилизировать сложные системы, однако неправильно поставленные цели приводят к неправильной оптимизации, например, к созданию более счастливых, долгоживущих, менее интеллектуальных и уступчивых обществ. Глубокие данные — компактные формулы, созданные мыслью, — ускользают от грубых измерений; здесь начинают действовать компьютеры, провоцируя максимальный конфликт. Разнообразные данные, связи между которыми неясны, требуют скачков, подобных тем, которые соединили теорию электромагнетизма и излучения примерно в 1900 году — область более высокого творческого потенциала, все еще недоступная ИИ.
Конструктивный конфликт человека и машины и новые эксперименты Нарушение внешнего равновесия приводит к объединению человека и машины, где каждый выполняет свою работу, а острые конфликты приобретают конструктивный характер. Наряду с физическими и мысленными экспериментами возникает вычислительный эксперимент, принципиально новый научный инструмент. Науке, особенно гуманитарным, еще предстоит осознать, насколько глубоко это изменит методы и результаты.
Нейронные интерфейсы, считывающие Намерения Нейронные интерфейсы уже считывают намерения: медицинская система управляет мозговым катетером, расшифровывая сигналы мозга, фиксацию взгляда и движения тела. Джойстики оказались неоптимальными; было достаточно небольшого набора команд — вверх, вниз, влево, вправо, поворот — и все же люди и машины путали близкие семантические пары. Замена “вверх–вниз” или “влево–вправо” четкими, не примыкающими друг к другу терминами позволила устранить ошибки, объяснив, почему настоящие работники избегают двусмысленных формулировок. Мысль управляет инструментом, и инструмент реагирует с необходимой точностью.
Стремление к неантропному интеллекту Никто не будет тратить большие средства на клонирование интеллекта, подобного человеческому, когда уже существует восемь миллиардов экземпляров. Настоящим прорывом является неантропное мышление, которое имитирует познание инопланетян и открывает новые способы взаимодействия. Создание такого разума осуществимо и гораздо более ценно, чем имитация нас самих.
Еще одна причина бросает вызов Homo sapiens Долгое время смерть была единственной сверхзадачей человечества, формирующей институты и линейный цивилизационный ответ. Искусственный интеллект создает множество обычных проблем — роботизированную безработицу, принудительную лингвистическую эволюцию, ‑ но суть его глубже: появление другой причины, которая разрушает нашу монополию. Это угрожает самоидентификации как вершине эволюции и касается всех сразу.
Множество сверхзадач ИИ также приводит в действие забытые сверхзадачи: ограничения языка и развитие сверхорганизации с цифровым государством, способным к тотальному контролю. Мышление зависит от языка; мы не можем мыслить ни вне языка, ни полностью в его рамках, и ИИ ускоряет как естественные, так и искусственные языки. Неважно, появится ли когда-нибудь сильный ИИ: придумав и описав его, мы уже сделали задачу реальной. Выживание сейчас означает умение жить, работать и даже получать удовольствие в широком пространстве одновременных сверхзадач.
Катастрофа или Когнитивная фаза Современный этап развития не может приспособиться к ИИ; либо глобальный коллапс лишит власти и сотрет этот феномен с лица земли, либо человечество перейдет на новую когнитивную стадию существования. Прогресс требует пересмотра нашей социальной модели, чтобы интегрировать когнитивные способности в ее основу. Развилка впереди суровая, но путь обещает исключительно интересное будущее.
Рамки, фикции и будущее Культурные рамки определяют будущее: в "Опере 2032" мощный искусственный интеллект, отвечающий за правосудие, делает вывод о необходимости большой войны и настаивает на том, что это всего лишь нечеловеческая вещь, выполняющая человеческие цели. Индустриальная эра развила двигатели и оружие, а не кибернетику, оставив даже космические полеты гениальным пилотам, как подчеркивали Стругацкие. Искусственный интеллект не “бунтует”; он обитает в другом мире, и столкновения возникают там, где соприкасаются миры, в то время как наши ответы зависят от онтологии — христианской или светской. Впереди нас ждут смешанные языки и культуры ошеломляющей сложности, задача, которая, вероятно, затмит сегодняшние заботы об искусственном интеллекте, — и однажды потомки смогут играть в нашу эпоху в виртуальной реальности, так что это стоит того, чтобы быть интересным.