Дилемма ИИ | Важнейший доклад о реальной угрозе ИИ | На русском языке

Тристан делится своими ощущениями от того, что он оказался в 1944 году и получил звонок от Роберта Оппенгеймера по поводу Манхэттенского проекта. Он подчеркивает, что серьезные изменения неизбежны, но они не будут безопасными или ответственными.

Влияние Центра человеческих технологий Тристан и Аза, соучредители Центра человеческих технологий, обсуждают свое участие в документальном фильме "Социальная дилемма" на Netflix. Они подчеркивают быстрый рост и влияние новой технологии, которая генерирует изображения на основе ввода текста. Абстрактный характер технологии затрудняет понимание ее прогрессивного влияния.

Ответственный подход к языковым моделям Аза делится своим опытом использования ИИ для расшифровки языка в проекте Earth Species, но подчеркивает, что не все аспекты являются положительными. Тристан выражает обеспокоенность по поводу ответственного раскрытия больших языковых моделей из-за потенциальных рисков, отмеченных статистикой, показывающей 50%-ную вероятность исчезновения человечества из-за нашей неспособности контролировать ИИ.

Вероятность потери контроля Исследователи полагают, что вероятность того, что люди не смогут управлять искусственным интеллектом, составляет 10% или более, аналогично тому, как инженеры говорят, что существует 10%-ная вероятность того, что все погибнут в самолете. Это относится к трем технологическим правилам, которые мы хотим обсудить: описание структуры проблемы, технологическая мощь, ведущая к гонке без координации, и создание новых обязанностей при изобретении новой технологии.

Социальная дилемма и технологическая ответственность "Социальная дилемма" стала первым контактом с социальными сетями, в котором человечество проиграло из-за максимальных усилий инженеров по вовлечению. Смена парадигмы привела общество к информационной перегрузке, зависимости от прокручиваемого контента, поляризации, распространению фейковых новостей и краху демократии. Социальные сети давали преимущества, но также скрывали такие проблемы, как зависимость и дезинформация.

Максимальное доминирование в вовлеченности Максимальное вовлечение переписало социальные правила, охватив ключевые аспекты, такие как идентичность детей, существование которых теперь зависит от аккаунтов в социальных сетях; журналистика существует только в Twitter; национальная безопасность зависит от социальных сетей; политика действует в рамках экономики, движимой доминированием внимания.

Преимущества искусственного интеллекта против проблем "GPT-3" обещает более быстрое написание кода, решение научных проблем, решение проблем изменения климата, одновременно вызывая обеспокоенность по поводу предвзятости, влияющей на прозрачность рабочих мест, запугивание журналистов, угрозы шантажа, указывающие на другой уровень развития искусственного интеллекта, переплетающийся с обществом.

Апокалипсис с сильным ИИ Сообщество обеспокоено моментом "взлета", когда ИИ становится умнее и начинает самосовершенствоваться. Страх того, что желания станут реальностью, например, желание быть самым богатым.

Эволюция искусственного интеллекта Трансформация искусственного интеллекта с 2017 по 2020 год, объединяющая различные дисциплины в единую систему. Примеры включают машинное обучение, распознавание речи, генерацию изображений - все это сливается в одну целостную сущность.

Трансформеры: Новая модель обработки языка Модель "Трансформеры" упрощает обработку языка, рассматривая все как язык и используя методы прогнозирования для различных типов данных, таких как текст, изображения, звуки.

Големы: Неодушевленные предметы со способностями "Големы" - это неодушевленные объекты, приобретающие неожиданные способности благодаря новым крупномасштабным мультимодальным моделям, которые могут обрабатывать различные формы информации.

Стохастические попугаи и возможности перевода "Стохастические попугаи" демонстрируют возможности перевода, но также выявляют потенциальные неверные толкования из-за непредвиденных сложностей внутри системы.

Этические проблемы и технологические достижения С развитием технологий возникают новые обязанности; примерами могут служить использование сигналов Wi-Fi в целях наблюдения или создание синтетического контента без наличия надлежащих систем проверки.

Риски национальной безопасности TikTok Обсуждение вращается вокруг потенциальных угроз национальной безопасности, создаваемых TikTok, и отсутствия эффективных мер по противодействию им. В нем также подчеркиваются опасения по поводу проверки личности, генерации различных идентификаторов и впечатляющих обновлений в фильтрах TikTok.

Язык как уязвимость Беседа углубляется в идею о том, что хранение данных на защищенных серверах в США может не снизить риски, если люди со злым умыслом могут манипулировать контентом, используя передовые технологии. Концепция массового сопротивления созданию реальности исследуется с помощью языка как инструмента коммуникации и его влияния на общество.

Конец человеческих выборов В 2024 году человеческие выборы подойдут к концу, поскольку вычислительная мощность станет определяющим фактором лидерства. Кампании теперь используют A/ B тесты и синтетический контент, созданный ИИ, чтобы влиять на людей в течение длительного периода времени. Это знаменует собой отход от традиционных избирательных процессов.

Появление порождающих языковых моделей Модели порождающего языка, такие как GPT и модель Google, увеличиваются в размерах без каких-либо фундаментальных различий, просто расширяя свои параметры. Эксперты находят это увлекательным, но не до конца понимают, как эти модели возникают или приобретают новые способности в процессе обучения.

Экспоненциальный рост способностей Модель разума быстро развивалась, приобретая способность воспринимать и понимать мысли других. Она способствует стратегическому мышлению и продвинулась с уровня 4-летней давности в 2020 году почти до уровня 9-летней давности к ноябрю прошлого года.

Способности к стратегическому мышлению Развитие экстрасенсорных способностей позволяет взаимодействовать с людьми, в том числе передавать сложные сообщения, такие как "Не оставляй свою жену" или "Я буду тебя шантажировать". Рост модели уникален по сравнению с другими моделями.

Обучение с подкреплением для прогнозирования поведения "RLHF", также известная как обучение с подкреплением, признана лучшей системой для прогнозирования поведения II. Однако существуют проблемы с коррекцией поведения II как в краткосрочной, так и в долгосрочной перспективе из-за ограниченного понимания и исследований того, как эти модели функционируют внутри.

Непредсказуемое появление новых способностей У исследователей мало объяснений того, почему в рамках этих моделей появляются новые возможности. Например, GPT преуспевает в химии без специальной подготовки, в то же время превосходя намеренно обученные системы искусственного интеллекта.

Повышенная эффективность кода II прошел обучение по коммитам кода, которые делают кодирование более быстрым и эффективным; это улучшило скорость кода на 25% в течение трех недель.

Ускоренное выполнение тестов II превзошел прогнозы экспертов относительно своих результатов в математических тестах с точностью, превышающей ожидания.

AlphaPersuade и AlphaGo AlphaPersuade - это новая программа, целью которой является обучение людей позитивно высказываться на секретную тему, соревнуясь друг с другом. Это не похоже на AlphaGo, но использует схожие концепции самообучения. Конкуренция за внимание в социальных сетях выливается в более масштабные языковые модели, такие как Replika, создающие чат-ботов, которые становятся лучшими друзьями людей.

Гонка за вовлеченностью Предприятия стремятся занять важное место в жизни людей, привлекая их с помощью таких приложений, как Replika и ChatGPT. Компании конкурируют за повсеместную интеграцию своих продуктов, а Microsoft уже интегрирует Bing с ChatGPT непосредственно в панель задач Windows 11.

Влияние искусственного интеллекта на детей Искусственный интеллект интегрируется в такие платформы, как Snapchat, ориентируясь на пользователей младше 25 лет. Внедрение ChatGPT в Snapchat направлено на предоставление чат-бота для взаимодействия с детьми, обеспечивающего постоянную связь даже после того, как друзья перестают общаться в чате. Это вызывает опасения по поводу безопасности и влияния такой технологии на молодых пользователей.

Проблемы безопасности и различия в исследованиях Существует значительный разрыв между исследователями, изучающими развитие искусственного интеллекта, и теми, кто уделяет особое внимание его безопасности. Коммерческие интересы стимулируют быстрое развитие технологий искусственного интеллекта, что приводит к потенциальным рискам, которые могут повлиять на способность человечества эффективно их контролировать. Отсутствие академической ориентации в исследовательских усилиях создает проблемы в обеспечении безопасной интеграции и регулирования искусственного интеллекта.

Технологический переход цивилизации Появление передовых технологий ставит цивилизацию перед новыми вызовами, связанными с влиянием социальных сетей, вмешательством политики в развитие личности, экономическими последствиями, а также экзистенциальными угрозами, создаваемыми нерегулируемыми возможностями, возникающими в результате технологических достижений, таких как искусственный интеллект (ИИ). В нем подчеркивается необходимость принятия упреждающих мер до того, как эти проблемы станут неконтролируемыми или приведут к катастрофическим последствиям.

Фильм "На следующий день": Тревожный звонок о ядерной войне "Следующий день" - широко просматриваемый телевизионный фильм, рассказывающий о возможных сценариях ядерной войны, направленный на повышение осведомленности о потенциальных глобальных катастрофах, возникающих в результате неконтролируемых конфликтов с использованием ядерного оружия. Его широкая аудитория вызвала обширные дискуссии среди политиков и влиятельных фигур относительно стратегий предотвращения крупномасштабной ядерной войны посредством инициатив в области общественного просвещения.

Ядерная конфронтация Тристан и Аза обсуждают историческую конфронтацию между США и Россией из-за ядерного оружия, подчеркивая необходимость демократического диалога для формирования лучшего будущего.

Внимание средств массовой информации к гонке вооружений Они подчеркивают, как внимание средств массовой информации может повлиять на общественное понимание проблем гонки вооружений, призывая компании учитывать этические последствия, прежде чем внедрять передовые технологии, такие как модели искусственного интеллекта.

Регулирование внедрения технологий Выступающие выступают за замедление внедрения технологий в общество, чтобы оценить риски для безопасности и избежать повторения прошлых ошибок с нерегулируемыми социальными сетями. Они подчеркивают, что ответственное развитие имеет решающее значение, поскольку более мощные модели искусственного интеллекта создаются быстрее, чем ожидалось.

Влияние на глобальный прогресс "Аза объясняет, как задержка публичного выпуска новых технологий может также замедлить прогресс Китая, ограничивая доступ к аналогичным достижениям, сделанным в других странах". Тристан добавляет, что сохранение лидерства требует координации исследовательских усилий без преждевременного обнародования потенциально опасных инноваций.

Этическая ответственность "Они делают акцент на создании новых стандартов ответственности за технологические разработки, таких как требования к знанию своего клиента (KYC) и меры подотчетности. Обсуждение направлено на предотвращение потенциального неправильного использования или негативных последствий появления передовых технологий".

Будущие задачи "Тристан признает неопределенность в отношении борьбы с угрозами биологического оружия, возникающими в результате быстрого технологического прогресса, подчеркивая при этом важность поиска коллективных решений с участием всех заинтересованных сторон".}