Марк Цукерберг и Юваль Ной Харари в беседе

В этой главе Юваль Ной Харари обсуждает важность участия историков и философов в решении текущих вопросов о технологиях и будущем. Он подчеркивает, что их роль заключается не только в хронике событий многовековой давности, но и в анализе и постановке важных вопросов для будущего человечества.

Взаимосвязанность против гармонии Со временем человечество стало более взаимосвязанным, но это не обязательно означает гармонию. Объединение людей может привести к конфликтам, о чем свидетельствует возведение стен, несмотря на достижения в области технологий.

Фрагментация и персонализация "Фрагментация" и "персонализация" - это две стороны одной медали. Интернет позволяет отдельным людям общаться с единомышленниками, которые разделяют их ценности и интересы, создавая нишевые сообщества. Однако существует опасение, что некоторые люди могут остаться позади или почувствовать себя не в своей тарелке, не найдя своего нового сообщества.

Онлайн-сообщества ценны, но они не могут заменить физические сообщества. Физические взаимодействия и опыт уникальны для оффлайн-сообществ. Существуют также опасения по поводу затрат и преимуществ онлайн-сообществ, а также возможности избежать нежелательных ситуаций. Традиционные сообщества учили людей ладить с теми, кто им может не нравиться, чего не хватает онлайн-пространствам.

Цель Facebook "Какова наша цель?" Это важный вопрос для поставщиков услуг, таких как Facebook. Пытаются ли они подключить людей, чтобы они могли участвовать в офлайн-мероприятиях, или они стремятся удерживать пользователей на своих экранах как можно дольше? Здесь налицо конфликт интересов. Одна модель предполагает, что люди должны проводить минимум времени в Сети и использовать ее только для установления связей, прежде чем заниматься реальной деятельностью."

Измерение значимых взаимодействий Facebook изменил свои системы в сторону оптимизации значимых социальных взаимодействий, которые в основном происходят в автономном режиме. Однако измерение этих физических связей является сложной задачей по сравнению с отслеживанием онлайн-взаимодействий. Чтобы понять влияние взаимодействия с другими людьми как в цифровом, так и в физическом виде, можно провести опросы среди статистической выборки пользователей.

Богатство глобальных связей В современном мире существует беспрецедентный уровень глобальных связей, при котором люди из разных стран могут легко интегрироваться благодаря общим культурным нормам и интернет-сервисам. Однако остается вопрос: что мы строим на этом фундаменте?

Создание благоприятных условий для различных сообществ Создание структуры, учитывающей различные субкультуры и сообщества, позволяет людям преследовать свои уникальные интересы. Это может привести к формированию специализированных сообществ, где люди с узкоспециализированными интересами могут объединяться и сотрудничать.

Необходимость глобального сотрудничества "Глобальное сотрудничество имеет решающее значение в решении насущных глобальных проблем, таких как изменение климата, гонка вооружений с использованием искусственного интеллекта, сбои на рынке труда, вызванные автоматизацией. Без сотрудничества в глобальном масштабе мы не сможем эффективно решать эти проблемы или обеспечить равное распределение выгод".

Локализация против глобализации ...я на самом деле думаю, что мы потратили большую часть последних 20 лет на Интернет, может быть, даже больше, работая над глобальной торговлей, глобальным информационным потоком, делая его таким, чтобы люди могли подключаться. Я на самом деле думаю, что на данный момент более сложная задача состоит в том, чтобы в дополнение к той глобальной структуре, которая у нас есть, сделать так, чтобы все работало для людей на местном уровне.

Балансирование местных и глобальных перспектив ..верно? Потому что я думаю, что здесь есть такой дуализм, когда вам нужно и то, и другое... Если вы просто прибегаете к местному трайбализму, то упускаете возможность работать над важными глобальными проблемами. Но если люди чувствуют, что у них дома это не работает, или какая-то группа людей чувствует, что это не работает, тогда они политически не собираются поддерживать глобальное сотрудничество.

Возникновение экстремистских сообществ В настоящее время в Интернете существуют сообщества, где люди могут найти других людей, разделяющих их интересы; однако некоторые люди еще не нашли эти сообщества и остаются позади по мере того, как физические сообщества исчезают.Также существуют некоторые экстремальные сообщества, и присоединение к ним часто связано с отсутствием более здоровых альтернатив и экономического прогресса.Когда люди чувствуют себя хорошо в своей жизни, вероятность поиска экстремальных идеологий снижается.Поэтому интернет-платформы должны быть сосредоточены на создании процветания как на одном из способов борьбы с экстремизмом.

Позитивное воздействие глобализации Глобализация принесла позитивные изменения, обеспечив доступ к рабочим местам и сократив глобальное неравенство. У многих людей в Индии, Юго-Восточной Азии и Африке теперь есть возможности, которых у них раньше не было. В результате сотни миллионов людей были вырваны из нищеты.

"Победители" и "проигравшие" в развитых странах "Развитые страны сталкиваются с проблемами, связанными с глобализацией. Приток новых работников из других регионов создает конкуренцию за рабочие места, что приводит к потере работы некоторыми людьми. Кроме того, на заработную плату влияет возросшая международная конкуренция."

Негативное воздействие на некоторых людей Несмотря на то, что глобализация в целом оказала положительное влияние во всем мире, все еще существует значительное число (5-10%) людей, которые из-за нее оказались в худшем положении. Это может создать политическое давление в развитых странах, таких как США и Европа, где проживают наиболее пострадавшие люди.

Важность Местных Сообществ В Глобальной Системе Для эффективной работы глобальной системы необходимо уделять внимание как на макроуровне между странами, так и на микроуровне внутри местных сообществ.Основное внимание должно быть уделено обеспечению того, чтобы все хорошо работало на местном уровне при сохранении глобальных связей.

Влияние искусственного интеллекта на глобальное неравенство Развитие таких технологий, как искусственный интеллект и машинное обучение, ведет к увеличению неравенства между различными частями мира. Это не результат экстремистской идеологии, а скорее определенная экономическая и политическая модель. Новая интернет-экономика и индустрия высоких технологий способствуют этому дисбалансу, подрывая демократические принципы, индивидуализм и свободный рынок.

Неправильное представление о "восстании искусственного интеллекта" "Восстание искусственного интеллекта", когда роботы восстают против людей, - маловероятный сценарий, который научная фантастика ошибочно выделяет как главную опасность. Вместо этого нам следует больше беспокоиться о том, чтобы роботы всегда выполняли приказы, не подвергая их сомнению.

Две ключевые проблемы, связанные с искусственным интеллектом Есть две основные проблемы, связанные с искусственным интеллектом: во-первых, это растущее неравенство между странами с точки зрения доминирования в новой экономике искусственного интеллекта; во-вторых, влияние на деятельность человека, когда алгоритмы располагают достаточным количеством данных, чтобы манипулировать нашим выбором и решениями за нас.

Влияние национализма на конфиденциальность данных Национализм оказывает значительное влияние на конфиденциальность данных и развитие искусственного интеллекта. Ценности и политика, заложенные в технологиях искусственного интеллекта, формируются странами, которые их разрабатывают, что приводит к потенциальным различиям в правилах использования данных и конфиденциальности. Страны инвестируют в технологии будущего, такие как искусственный интеллект, чтобы получить преимущество для своих местных компаний, что может повлиять на экономический прогресс и равенство. Однако небольшим странам может быть трудно конкурировать в глобальной гонке искусственного интеллекта, если они не смогут использовать открытые исследования и достижения, достигнутые во всем мире.

"GDPR" как основа для регулирования конфиденциальности данных "GDPR", или Общий регламент по защите данных, рассматривается как важнейшая основа для обеспечения прав на конфиденциальность данных во всем мире. По мере того как все больше людей осознают важность защиты личной информации в Интернете, каждой стране становится необходимым создать свою собственную нормативно-правовую базу, касающуюся использования данных. Без таких рамок, как GDPR или аналогичные, которые отдают приоритет индивидуальным свободам и правам над авторитарным контролем, существует риск принятия моделей, при которых правительства имеют неограниченный доступ к пользовательским данным, хранящимся локально.

Хранение данных: Америка против Индии "Америка прежде всего" и националистический подход американского президента вызывают опасения по поводу хранения данных об индийских гражданах в США. В то время как некоторые выступают за хранение данных на территории Индии, другие опасаются, что создание этого прецедента может позволить авторитарным странам вести слежку за своими гражданами. Доверие к Америке как к мировому лидеру снизилось из-за ее политики, ориентированной на личные интересы.

Важность открытости и глобальных ценностей Принятие GDPR, нормативной базы, разработанной в Европе, пропагандируется как альтернатива более авторитарным моделям. Такие ценности, как открытость, исследования, трансграничный поток идей и торговля, считаются важными для того, как Интернет должен функционировать во всем мире. Прецеденты, установленные одной страной, могут влиять на политику других стран; поэтому компаниям, использующим такие платформы, как социальные сети, крайне важно бороться с вредными прецедентами.

"Как нам построить искусственный интеллект таким образом, чтобы он по своей сути не был инструментом слежки, манипулирования и контроля?" Ценности и политические рамки играют решающую роль в создании системы искусственного интеллекта, которая служит отдельным людям и защищает их. Одних технологических достижений недостаточно; необходимо разработать политику, направленную на усиление положительных аспектов ИИ при одновременном смягчении негативных вариантов использования. Правительствам важно принимать решения против поддержки технологий видеонаблюдения, которые могут привести к банкротству компаний, работающих над такими технологиями.

Влияние технологий на баланс сил "В мире, где манипулировать людьми и контролировать их в массовом масштабе становится все проще, чем когда-либо прежде", новые технологии потенциально могут изменить баланс сил между демократической и тоталитарной системами. Тоталитарные режимы в прошлом испытывали трудности с эффективной обработкой информации, что привело к их падению. Однако с развитием технологий централизованная обработка информации может стать гораздо более эффективной, чем распределенная обработка данных, что дает преимущество тоталитаризму.

Реакция демократии: осведомленность и децентрализация Хотя существуют опасения по поводу того, что централизованная обработка данных выгодна авторитарным режимам, есть оптимизм в отношении того, что демократия может восторжествовать благодаря открытым дискуссиям и повышению осведомленности отдельных лиц. Теперь люди больше заботятся о вопросах конфиденциальности, связанных с их личными данными, хранящимися различными организациями. Обсуждение этих тем играет решающую роль в формировании политики, защищающей права личности и одновременно использующей технологические достижения для общественного прогресса.

Защита человеческого внимания Ключевой вопрос заключается в том, как защитить внимание людей от захвата злонамеренными игроками, которые знают вас лучше, чем вы сами. Важно поддерживать баланс между открытыми ценностями и новыми технологиями, которые кодируют эти ценности. Демократические страны, как правило, лучше справляются с тем, чего хотят люди, потому что они позволяют отдельным людям принимать решения о тех аспектах общества, которые для них наиболее важны.

Внутренний дизайн и предотвращение злоупотреблений В книге "Захват человеческого внимания" обсуждается важность внутреннего проектирования систем, а не только борьбы со злоупотреблениями. Необходимы передовые системы для обнаружения вмешательства в демократические процессы, такого как поддельные аккаунты или попытки манипуляций, подобные тому, что произошло во время выборов 2016 года. Основное внимание должно быть сосредоточено на согласовании с долгосрочными желаниями пользователей, а не на краткосрочных показателях вовлеченности.

Меняющийся ландшафт демократии В мире, где технологии могут манипулировать людьми и влиять на них так, как никогда раньше, возникает вопрос: всегда ли прав клиент? Функционирует ли демократия по-прежнему так, как ей следует? Хотя сам по себе вопрос не нов, достижения в области технологий дали людям больше власти и доступа к информации. В настоящее время дебаты сосредоточены вокруг того, является ли это расширение прав и возможностей полезным или оно открывает возможности для манипулирования.

Доверяя своему Внутреннему голосу "Давать людям право голоса" и "доверять их голосам" - это две разные проблемы. Поскольку все больше людей могут самовыражаться, возникает также беспокойство по поводу того, насколько легко внешние силы могут манипулировать нашими внутренними мыслями. По мере того как мы начинаем глубже понимать свой сложный разум, доверять собственному внутреннему голосу становится все сложнее. Мы должны разобраться с вопросами о свободе воли в сравнении с алгоритмическими манипуляциями и подумать, можем ли мы действительно доверять тому, что всплывает в нашем сознании.

Спикер признает диссонанс между тем, что теоретически возможно в ИИ, и реальностью построения систем ранжирования. В то время как конкретные задачи могут быть оптимизированы, обобщенного искусственного интеллекта, который понимает все аспекты личности человека, в настоящее время не существует. Злоупотребление этими системами, выдавая себя за кого-то другого, является проблемой политики, а не алгоритмическим изъяном. Возникает вопрос о том, находит ли персонализированный контент отклик у людей в силу их интересов или же он со временем манипулирует ими, заставляя занимать экстремальные позиции. Крайне важно тщательно управлять распространением информации, чтобы не подталкивать пользователей к экстремизму.

Тоталитаризм и капитализм слежки Использование технологических инструментов сопряжено с двумя явными опасностями. Первая - это возникновение экстремальных тоталитарных режимов, которые используют постоянный мониторинг, слежку и манипуляции для контроля над людьми с самого рождения. Это создает полноценную антиутопию, в которой люди согласуются с навязанными им ценностями без обиды или сопротивления. Вторая опасность - это капитализм слежки, особенно распространенный в таких странах, как США. В этой системе алгоритмы постоянно взаимодействуют с отдельными людьми под видом предоставления рекомендаций в их наилучших интересах, но постепенно расширяют свое влияние на важные жизненные решения, такие как образование, выбор работы, взаимоотношения, принадлежность к религии и т.д., подрывая свободу действий человека и его смысл.

"Выбор" в рамках технологического влияния Хотя на первый взгляд доступ к разнообразным источникам информации и множественным точкам зрения может показаться противовесом этим опасностям, однако это не всегда эффективно из-за психологических предубеждений, таких как предвзятость подтверждения, которая подталкивает людей к контенту, с которым они уже согласны, вместо того, чтобы рассматривать альтернативные точки зрения. Вместо этого то, что было признано социологически и психологически более эффективным, - это предлагать пользователям широкий спектр связанных статей / контента по любой заданной теме, позволяя им принимать обоснованные решения, основанные на выявлении различных мнений / воззрений, сохраняя при этом определенный уровень автономии в процессе принятия решений.