Ян Лекун: Темная материя интеллекта и самоконтролируемое обучение | Подкаст Лекса Фридмана #258

Лекс Фридман взял интервью у Джона Ле, главного специалиста по искусственному интеллекту в Meta (ранее Facebook) и профессора Нью-Йоркского университета. Он известная фигура в области машинного обучения и искусственного интеллекта.

Темная материя интеллекта Обучение под самоконтролем - это тип обучения, который люди и животные выполняют естественным образом, но машинам трудно его воспроизвести. Современные популярные подходы в машинном обучении, такие как обучение с наблюдением и подкреплением, неэффективны для решения сложных задач, таких как самоуправляемые автомобили. Люди быстро учатся, потому что у них есть базовые знания о мире, полученные в результате наблюдений. Младенцы приобретают эти базовые знания, наблюдая за окружающим миром.

Воспроизведение самоконтролируемого обучения "Обучение под самоконтролем" относится к попыткам воспроизвести то, как люди учатся посредством наблюдения, без явного вознаграждения, основанного на задачах, или помощи человека. Она включает в себя обучающие машины для прогнозирования того, что произойдет дальше, на основе наблюдаемых данных из видеороликов или языковых последовательностей с недостающей информацией ("заполнение пробелов"). Этот подход был успешным при обработке естественного языка, но в меньшей степени при распознавании изображений и понимании видео.

Разница в характере и сложности между зрением и языком неясна. В то время как самостоятельное обучение позволило добиться прогресса в изучении языка, оно не было столь успешным в области зрения. Однако проблема может заключаться в представлении неопределенности и множественных результатов, а не в присущих им трудностях. При прогнозировании языка распределение по словам может использоваться для представления неопределенности, но для прогнозирования видео требуется представление бесконечного числа правдоподобных продолжений. Современные подходы к представлению являются упрощенными и основаны на независимом распределении пропущенных слов.

Разведданные и статистика "Интеллект - это всего лишь статистика" - распространенная критика машинного обучения. Хотя интеллект может основываться на статистических моделях, он также предполагает понимание причинно-следственных связей. Системы машинного обучения должны учитывать причинно-следственные связи, чтобы иметь более глубокое понимание окружающего мира.

Изучение механистических моделей "Механистические модели должны исходить от людей-проектировщиков". Некоторые утверждают, что механистические объяснения в ИИ должны разрабатываться людьми, а не заучиваться. Однако эти процессы все еще можно изучить путем наблюдения или эволюции.

Концепции высокого уровня против механизмов низкого уровня Когнитивные процессы высокого уровня в мозге подобны игре в шахматы с понятиями и объединению их в долговременную память. Но под этим скрывается нейронная сеть, которая заполняет пробелы, используя простые статистические механизмы обучения.

Проблемы в машинном обучении Три основные задачи машинного обучения заключаются в следующем: 1) научить машины представлять окружающий мир, 2) дать машинам возможность рассуждать, используя градиентное обучение, и 3) обучить машины изучать иерархические представления планов действий. Эти задачи требуют дифференцируемых моделей, которые могут интегрировать базовые знания и составлять иерархические планы.

"Модель прогнозирующего управления" для рассуждений "Модельное прогнозирующее управление" - это форма рассуждения, используемая в системах оптимального управления. Это предполагает наличие прогностической модели управляемой системы и использование обратного распространения во времени для определения оптимальной последовательности действий. Этот тип планирования широко используется в робототехнике.

Изучение прогностических моделей в условиях неопределенности Большая проблема для искусственного интеллекта заключается в том, как заставить машины изучать прогностические модели, способные справляться с неопределенностью и сложностью, встречающимися в реальных сценариях, выходящих за рамки простых траекторий или манипуляторов роботов. Это включает в себя понимание человеческого поведения, коллективных явлений и абстрактных представлений.

Поиск по дереву шахмат и Монте-Карло Шахматы - сложная игра, но ее можно рассматривать как аналогию для других динамических систем. Одной из таких систем является поиск по дереву Монте-Карло, который включает в себя возвратно-поступательный процесс, аналогичный шахматным ходам. Однако, в отличие от шахмат, существуют приложения реального мира, такие как анализ автомобильных дверей с использованием машинного обучения.

"Танец" взаимодействий и человеческого интеллекта "Танец" во взаимодействии с другими людьми можно сравнить с игрой в непрерывную и неопределенную игру. Люди преуспевают в решении такого рода проблем, потому что мы эволюционировали для этого. Напротив, люди от природы не очень хороши в таких играх, как шахматы или го, из-за ограниченного объема нашей рабочей памяти. Вместо этого мы преуспеваем в изучении дифференцируемых моделей мира с помощью оценки градиентов.

Роль знаний в интеллекте животных Интеллект животных основан на их способности формировать фоновую модель. Объем знаний, необходимых для развития интеллекта, например, для того, чтобы быть домашней кошкой, включает в себя понимание физики и окружающей среды. Эти знания усваиваются посредством самоконтроля, управляемого объективными функциями.

"Интеллект" за пределами социального взаимодействия и языка "Интеллект" не должен определяться исключительно социальным взаимодействием или языковыми навыками. Такие животные, как орангутанги и осьминоги, демонстрируют высокий уровень интеллекта, не сильно полагаясь на эти факторы. Решение проблемы кошачьего интеллекта может быть достигнуто даже в изоляции при наличии соответствующих стимулов к обучению.

Увеличение объема данных Увеличение данных - это метод искусственного увеличения размера обучающего набора путем искажения изображений способами, которые не меняют их природу. Он используется с 1990-х годов и лучше работает при обучении контролируемых классификаторов с дополненными данными. В последнее время стало интересно использовать системы предварительного обучения зрению, основанные на контрастивных методах обучения.

"Контрастивное обучение" и "Неконтрастирующие методы" "Контрастивное обучение" предполагает использование положительных и отрицательных пар изображений для обучения нейронных сетей создавать сходные представления для сходных входных данных и разные представления для разных входных данных. Однако этот метод плохо работает в пространствах большой размерности из-за необходимости большого количества отрицательных пар. С другой стороны, "неконтрастные методы", такие как максимизация взаимной информации между выходными данными или использование таких методов, как Barlow Twins или VicReg (регуляризация дисперсии-ковариации), являются более многообещающими подходами, которые обеспечивают четкое представление, не полагаясь на контрастирующие примеры.

Увеличение объема данных и их понимание Вентральный путь используется для распознавания объектов, в то время как дорсальный путь используется для навигации и хватания. Неконтрастных методов, таких как изучение по сходству или контрастивное обучение, недостаточно для понимания сложных концепций. Текст сам по себе не может предоставить достаточно информации о мире, поэтому возможности обучения машин исключительно на основе текста ограничены. Наземный интеллект, изучаемый с помощью методов, основанных на зрении, необходим для настоящего искусственного интеллекта.

Путь к искусственному интеллекту "Контролируемое обучение" "Неограниченный" физический здравый смысл в машинах может быть достигнут с помощью обучающих систем, использующих методы видеопрогнозирования. Обучение машины исключительно тексту никогда не позволит ей освоить базовые физические принципы, такие как перемещение объектов друг относительно друга при нажатии на стол. В то время как увеличение объема данных играет временную роль в улучшении качества представления, самоконтроль с переводом языка в изображения является многообещающим эффективным методом.

Важность фундаментальных задач в области искусственного интеллекта Хотя в мультимодальном обучении есть много интересных тем, таких как интеграция визуального языка и аудио, спикер считает, что фундаментальные задачи, такие как многозадачное обучение и непрерывное обучение, должны быть приоритетными. Они утверждают, что эти проблемы устареют, как только будет достигнуто обучение самодеятельному представлению.

"Практические" и "фундаментальные" подходы к ИИ "Многозадачное обучение" обсуждается как практический подход к достижению интеллекта при одновременной работе над решением более общей проблемы самоконтролируемого обучения. В качестве примера приводится использование многозадачности командой Tesla Autopilot для решения задач восприятия вождения. Спикер подчеркивает важность инженерных решений, когда сталкиваешься с ограничениями по времени или соображениями безопасности, но также выступает за долгосрочные исследования в области самостоятельного обучения.

"Неэффективность сознания" - вот основная проблема, обсуждаемая Йоши Банджосом. Концепция сознания напоминает ему о вопросах, задававшихся в прошлом о том, как работает зрение. Он считает, что многое из того, что говорится о сознании, не имеет научного смысла. Однако он признает, что есть уважаемые люди, такие как Дэвид Чалмерс, которые серьезно обсуждают эту тему. Йоши Банджос выдвигает спекулятивную гипотезу о сознании и предполагает, что наша префронтальная кора служит двигателем для нашей модели мира. Когда мы сосредотачиваемся на конкретной ситуации, мы можем одновременно выполнять только одну задачу, потому что в нашем мозгу есть только один настраиваемый механизм моделирования мира. Он объясняет, как задачи становятся автоматическими благодаря многократной практике и распознаванию образов, что приводит к подсознательному поведению. Это подразумевает, что сознательное осознание может быть необходимо для настройки нашей модели мира на основе различных ситуаций. Банджос также рассматривает, почему кажется полезным переживать что-то сознательно, а не просто обрабатывать информацию без субъективного опыта. Он предполагает, что чувство сопричастности к решениям и восприятию может быть эволюционным преимуществом".

Внутренние идеи против усвоенных Среди ученых-когнитивистов ведутся споры о том, являются ли определенные базовые концепции, такие как постоянство объекта и трехмерность, заложенными в нашем сознании или усвоенными. Спикер считает, что эти концепции могут быть легко усвоены с помощью алгоритмов, и эксперименты показали способность мозга адаптироваться. Однако в наших базальных ганглиях заложены внутренние стимулы, которые делают людей уникальными.

"Внутренняя мотивация" и обучение "Внутренняя мотивация" относится к целевым функциям, при которых вознаграждение вычисляется вашим собственным мозгом на основе уровня комфорта. Считается, что этот тип мотивации заложен в нас изначально, поскольку он включает в себя фундаментальные побуждения внутри нас. С другой стороны, восприятию и моделям мира можно научиться на собственном опыте.

Страх смерти Книга Эрнеста Беккера "Отрицание смерти" исследует идею о том, что людьми движет их страх смерти. Этот страх отличает нас от животных, поскольку у нас есть глубокое понимание и осознавание того, что наша жизнь рано или поздно закончится. Чтобы справиться с этим ужасом, люди создают цивилизации и отвлекающие факторы, чтобы на мгновение забыть о смертности.

"Понимание" смерти "Понимание" смерти - сложный процесс для людей. В то время как некоторые верят в загробную жизнь или рай, другие изо всех сил пытаются постичь концепцию простого прекращения жизни. По словам Эрнеста Беккера, в раннем возрасте бывают моменты, когда люди глубоко переживают ужас и тайну, окружающие смертность. Религия может обеспечить утешение, предлагая веру в бессмертие или создавая идеи, которые помогают нам осмыслить наше конечное существование.

Природа искусственного интеллекта Искусственный интеллект нацелен на создание систем, обладающих свойствами интеллекта и сознания. Показатель для измерения их эффективности является внешним, но если называть их умными, это не должно умалять человеческий интеллект.

Эмоции в интеллектуальных автономных машинах "Интеллектуальные автономные машины будут обладать эмоциями", - говорит спикер. Эмоции являются неотъемлемой частью автономного интеллекта, движимого внутренней мотивацией и целями. Эти машины могут испытывать страх, восторг, привязанность и социальные взаимодействия, аналогичные человеческим.

Этические соображения при использовании продвинутого искусственного интеллекта По мере того как искусственный интеллект продвигается к более высоким уровням автономии и разумного поведения, возникают этические вопросы, касающиеся прав роботов и неприкосновенности частной жизни. Следует ли предоставлять роботам определенные права? Можно ли стереть личную информацию с интеллектуальных роботов? Эти дискуссии идут параллельно с движениями за гражданские права.

Успех исследования искусственного интеллекта Facebook Facebook AI Research (FAIR) на протяжении последних восьми лет была успешным предприятием, проводящим исследования высочайшего уровня и продвигающим науку и технологии. Это оказало значительное влияние на деятельность Facebook, и многие системы теперь полагаются на исследовательские проекты FAIR.

Эволюция в мета-искусственный интеллект "Meta AI" - это недавно отчеканенное название FAIR в рамках более крупной организации под названием Meta. Это изменение отражает то, что фундаментальные исследования, проводимые FAIR, являются неотъемлемой частью деятельности Meta. Руководство верит в необходимость инвестирования в это долгосрочное начинание.

Защита Facebook/Meta Вопреки представлениям СМИ, нет никаких доказательств того, что платформы социальных сетей, такие как Facebook, вызвали усиление поляризации или негативные социальные последствия. Независимые исследования показывают, что претензии к этим платформам необоснованны, поскольку другие факторы вносят более значительный вклад в подобные проблемы.

Неконтрастный метод обучения для совместной архитектуры встраивания "Vkrang" - это статья, в которой вводится неконтрастный метод обучения, называемый регуляризацией дисперсии в ковариационной дисперсии. Он фокусируется на архитектуре совместного встраивания, которая направлена на создание информативных представлений видеоклипов путем прогнозирования продолжения клипа и устранения несущественных деталей. В статье обсуждаются преимущества такого подхода по сравнению с традиционными методами.

Плюсы и минусы процесса рецензирования на конференциях по информатике Процесс рецензирования на конференциях по информатике, таких как NeurIPS, имеет как плюсы, так и минусы. С одной стороны, это позволяет быстро распространять результаты исследований и предоставляет исследователям возможность представить свою работу сообществу. Однако существуют такие недостатки, как предвзятость, неопытность рецензентов, сосредоточенность на постепенных улучшениях, а не на новых идеях, и ограниченное число людей, рецензирующих статьи. Альтернативные подходы, такие как открытые обзоры с участием тысяч рецензентов, могли бы решить эти проблемы.

Будущее: Архивирование документов и улучшение коммуникации Существует потенциал для архивирования документов вместо того, чтобы полагаться исключительно на публикации конференций как способ быстрого распространения результатов исследований, а также устранения предвзятости, присущей процессам экспертной оценки.Использование платформ социальных сетей, таких как Twitter, может служить в качестве постоянных конференций, на которых открыто обсуждаются документы.Система репутации может быть внедрена не только на уровне отдельного рецензента, но и на уровне проверяющей организации.Это стимулировало бы людей, которые рано обнаруживают важные статьи, и улучшило бы коммуникацию внутри научных сообществ.

Тайна сложности Возникновение сложных систем из простых компонентов является большой загадкой в различных областях, включая физику и биологию. Несмотря на второй закон термодинамики, Вселенная, по-видимому, становится все более сложной. Клеточные автоматы и нейронные сети дают некоторое представление об этом явлении, но до сих пор до конца не изучены.

Сложность измерения "Как вы измеряете сложность?" Этот вопрос долгое время озадачивал ученых. Существующие показатели имеют ограничения из-за произвольных констант или субъективных интерпретаций. Без хорошей оценки сложности сложно изучать, как вещи становятся более сложными, или проводить различие между жизнью и нежизнью.

Спикер описывает свои личные поиски по созданию выразительного электронного духового инструмента (EWI). Он объясняет, что ему нравится создавать вещи с использованием комбинаций электронных и механических компонентов. Его интерес к электронике был вызван его двоюродным братом, который был начинающим электронным музыкантом. Выступающий играл на различных инструментах в старших классах школы и колледже, но всегда хотел играть импровизированную музыку. Чтобы достичь этого, он обратился к электронным инструментам, которые имеют ту же аппликатуру, что и саксофон, но предлагают широкий спектр звуков с помощью синтезаторов. Однако существующим коммерческим вариантам не хватало выразительности по сравнению с акустическими инструментами. Вдохновленный работой Дэвида Вессела в Беркли над музыкальными технологиями, спикер решил создать свой собственный EWI.

Советы для молодежи Для молодых людей, мечтающих сделать что-то грандиозное в области интеллекта, важно заинтересоваться такими важными вопросами, как что такое интеллект и из чего состоит Вселенная. Изучение базовых методов математики, физики или инженерного дела обеспечит прочную основу. Настоятельно рекомендуются курсы по классической механике и статистической физике, поскольку они имеют практическое применение в машинном обучении и глубинном обучении. Применение искусственного интеллекта для решения реальных проблем, таких как изменение климата, с помощью эффективных технологий накопления энергии или обеспечение работы fusion с контроллерами глубокого обучения может оказать значительное влияние.

Подход "Преобразования контроля": использование искусственного интеллекта в научных целях Подход "преобразование контроля" предполагает использование машинного обучения для решения сложных научных проблем путем преобразования их в задачи, доступные для изучения. Этот подход имеет потенциальное применение в различных областях, таких как материаловедение, биология, химия, медицина и т.д., включая разработку новых материалов для более эффективных аккумуляторов или более легких автомобильных компонентов. Машинное обучение также может быть использовано для прогнозирования свойств систем, которые трудно описать традиционными редукционистскими методами.