Демис Хассабис о чат-ботах для AGI | EP 71

Потенциальное влияние лекарств и методов лечения тяжелых заболеваний, разработанных на основе искусственного интеллекта, огромно, и всего за несколько лет можно добиться значительных успехов. Концепция предусматривает, что энергия станет более доступной или даже бесплатной, что приведет к трансформации самой концепции денег.

Генеральный директор Google Deep Mind Демис Хассабис обсуждает последние достижения Google в области искусственного интеллекта, направленные на создание общего искусственного интеллекта.

Влияние Демиса Хассабиса на искусственный интеллект Демис Хассабис, генеральный директор Google DeepMind и видная фигура в области искусственного интеллекта, принимал участие в таких крупных разработках, как AlphaGo и AlphaFold. Его компания была приобретена Google за 650 миллионов долларов в 2014 году. Демис известен своей работой по обучению с подкреплением и решению сложных задач, таких как сворачивание белков.

Направления на будущее под руководством Демиса Хассабиса Реорганизация Google объединила Google Brain и DeepMind в одно подразделение под руководством Демиса Хассабиса. Акцент сместился на новые проекты, такие как Gemma, чтобы конкурировать с ChatGPT. Это изменение отражает сдвиг в сторону будущих разработок, а не прошлых достижений, сигнализируя об эволюции направления исследований искусственного интеллекта.

У Демиса и Тима было глубокое интервью.

Быстрая эволюция моделей Gemini Компания Gemini представила новые модели, такие как Gemma, наряду с Gemini 1.5 Pro, демонстрируя быстрые темпы развития и инновации в исследованиях искусственного интеллекта. Непрерывная эволюция моделей обусловлена фундаментальными исследованиями и исследовательскими проектами, которые подпитывают основное подразделение Gemini для неустанного прогресса.

Инновация в расширенном контекстном окне в Gemini 1.5 Pro Gemini 1.5 Pro обладает впечатляющей возможностью работы с длинным контекстным окном, позволяющей обрабатывать до миллиона токенов для улучшения обработки данных и способности к логическому мышлению. Это усовершенствование открывает возможности для анализа огромных объемов текста, кодовых баз, фильмов или аудио с повышенной точностью и эффективностью, несмотря на вычислительные трудности.

Мультимодальные возможности Gemini Собственный мультимодальный характер Gemini отличает его от предыдущих языковых моделей Google, обеспечивая плавную интеграцию с различными входными данными, такими как текст, изображения, фрагменты кода и видео, в рамках возможностей расширенного контекста. Эта универсальность расширяет возможности пользователей в различных областях, таких как доступ к конкретной информации на лекциях или эффективная навигация по сложным базам кода с помощью функций помощи при кодировании.

Балансирование рисков с открытым исходным кодом в технологии искусственного интеллекта Дебаты между моделями с открытым и закрытым исходным кодом в ИИ продолжаются, и есть опасения по поводу рисков публикации основополагающих моделей с открытым исходным кодом. Хотя открытые исследования имеют преимущества, существуют особые опасения по поводу того, что мощная общая технология ИИ может быть неправильно использована злоумышленниками, как только станет достоянием общественности. Потребность в более высоких порогах безопасности и ответственности возрастает по мере приближения к AGI.

Представляем Gemma: Облегченные модели с открытым исходным кодом Недавно выпущенное новое семейство облегченных моделей с открытым исходным кодом Gemma устраняет некоторые проблемы, предлагая модели меньшего размера, оптимизированные для индивидуальных разработчиков и научных работников. Эти модели меньшего размера более практичны для быстрой разработки на персональных устройствах, таких как ноутбуки. Сосредоточившись на менее сложных масштабных моделях, которые были тщательно протестированы, Gemma стремится снизить вероятность неправильного использования или перепрофилирования злоумышленниками.

Уравновешивание личности в чат-ботах с искусственным интеллектом В индустрии продолжаются дебаты о соответствующем уровне индивидуальности чат-ботов с искусственным интеллектом. Некоторые модели, такие как Bing Sydney, столкнулись с критикой за то, что они были слишком жуткими или угрожающими из-за своей чрезмерной индивидуальности. С другой стороны, некоторых чат-ботов критикуют за то, что они скучны и бесполезны с банальными ответами.

Будущее персонализированного поведения чат-ботов Персонализация может быть ключом к решению проблемы личностей чат-ботов. Идея состоит в том, чтобы иметь базовую модель с базовым поведением, которую пользователи затем могут персонализировать в соответствии со своими предпочтениями. Такой подход позволяет людям адаптировать то, как они хотят, чтобы их личный ассистент, такой как Gemini, вел себя, исходя из различных ситуаций и потребностей.

Gemini делает паузу в создании изображений определенных людей, что вызывает любопытство по поводу его реакции на запросы, связанные с личностями и историческими фигурами. Пользователи заметили, что Gemini испытывает трудности с точным изображением белых мужчин или исторических личностей, что вызывает опасения по поводу оскорбительных изображений в сравнении с исторической точностью. Необходимость сбалансировать универсальные подсказки, такие как "человек выгуливает собаку", с конкретными историческими запросами подчеркивает важность тестирования и уточнения ответов искусственного интеллекта.

Успехи после объединения Google Brain и DeepMind Google Brain и DeepMind были объединены, что вызвало опасения по поводу смещения приоритетов в сторону краткосрочных выгод для Google. Однако первый год после слияния был успешным с акцентом как на фундаментальные исследования, так и на инженерную масштабируемость. Сближение направлений исследований и разработки продуктов устранило противоречие между долгосрочным прогрессом в области искусственного интеллекта и сиюминутными потребностями бизнеса.

Достижения в области исследований и согласования продуктов На текущем этапе особое внимание уделяется тесной обратной связи между исследовательскими моделями и реальными приложениями для обеспечения быстрых улучшений. Общие методы искусственного интеллекта значительно продвинулись вперед, что делает их более эффективными, чем индивидуальные подходы к конкретным продуктам. Такое согласование позволяет исследователям работать над передовыми технологиями, которые непосредственно влияют на опыт пользователей, одновременно расширяя общие возможности искусственного интеллекта.

Общественное мнение об ИИ разделилось: 52% американцев больше обеспокоены, чем взволнованы его расширением. Это мнение проистекает из страха перед переменами и разрушениями, которые приносит ИИ. Чтобы улучшить общественное восприятие, необходимо выделить конкретные примеры использования, такие как AlphaFold, создающие лекарства, разработанные с помощью искусственного интеллекта, из-за их огромных преимуществ.

AlphaFold высоко ценится как инновационная технология искусственного интеллекта для решения сложных задач, таких как сворачивание белков, благодаря своей способности анализировать огромные массивы данных и запоминать правильные формы. Этот подход может быть применен к различным научным задачам с обширными пространствами поиска, таким как химия, разработка лекарств, материаловедение и разработка аккумуляторов.

Искусственный интеллект быстро развивается в области лечения заболеваний, и в течение пары лет можно будет разработать лекарства, разработанные на основе искусственного интеллекта, для лечения таких серьезных заболеваний, как болезнь Альцгеймера и рак. Основное внимание уделяется таким заболеваниям, как сердечно-сосудистые проблемы и рак, с целью сократить процесс поиска лекарств с нескольких лет до, возможно, недель.

Понимание искусственного общего интеллекта (AGI) AGI, или искусственный общий интеллект, - это система, которая может выполнять любые когнитивные задачи, доступные человеку. Для распознавания AGI потребуется серия из тысяч тестов, охватывающих различные аспекты, чтобы убедиться, что она демонстрирует признаки общего интеллекта. Прогресс в направлении AGI достигается с помощью таких систем, как Gemini, но все еще есть недостатки и необходимы прорывы.

Путь к достижению Общего Искусственного Интеллекта Прогнозы предполагают, что в течение следующего десятилетия мы можем увидеть системы, приближающиеся к возможностям AGI. Неопределенность сохраняется из-за возможности столкновения с "кирпичными стенами" в существующих технологиях, для преодоления которых требуются значительные инновации. Основное внимание уделяется масштабированию существующих идей, а также проведению фундаментальных исследований для предвидения и устранения потенциальных препятствий.

Подготовка к AGI: Текущая ситуация Мир сталкивается с проблемой подготовки к искусственному общему интеллекту (AGI) в течение ограниченного периода времени. Дебаты об ИИ усиливаются, поскольку чат-боты делают сложные концепции ИИ более доступными для обычного человека благодаря языковому взаимодействию. Международное сотрудничество и исследования механизмов безопасности имеют решающее значение для подготовки к воздействию AGI на общество.

Адаптация к будущему AGI Участие человека в мире с ИИ будет развиваться постепенно, начиная с ИИ в качестве вспомогательных инструментов, а не автономных объектов. Общество должно адаптироваться к эффективному использованию систем ИИ, обеспечивая при этом равное распределение выгод во всех секторах. Представление о будущем, в котором передовые технологии решают фундаментальные социальные проблемы, такие как изменение климата и бедность, требует тщательного учета этических ценностей и культурных традиций.

Обсуждение экзистенциальных угроз, создаваемых мощными системами искусственного интеллекта Подчеркивается положительная сторона использования инструментов ИИ для AGI, но также обсуждаются опасения по поводу экзистенциальных угроз человечеству со стороны мощных систем ИИ. Докладчик подчеркивает неопределенность, связанную с вероятностью таких рисков, и подчеркивает важность обсуждения, исследования и подготовки к ним независимо от их вероятности.

Актуальность исследования рисков, связанных с передовыми технологиями искусственного интеллекта Подчеркивается необходимость анализа и понимания потенциальных рисков, связанных с передовыми технологиями искусственного интеллекта, такими как самосовершенствование, управляемость, системы ценностей и определение целей. Подчеркивается срочность изучения этих сложных исследовательских вопросов до дальнейшего продвижения разработки AGI в связи с преобразующей природой этой технологии.

Балансирование власти и распределения богатства при разработке искусственного интеллекта Концентрация власти и богатства в нескольких компаниях благодаря передовым технологиям искусственного интеллекта может привести к неравномерному распределению выгод. Однако развитие систем с открытым исходным кодом и конкуренция между несколькими поставщиками могут смягчить эту проблему, предлагая мощные модели для повседневного использования по конкурентоспособным ценам.

Научный подход Google к разработке AGI Научный подход Google к разработке AGI рассматривается как полезный для современного технологического ландшафта. Акцент компании на научном методе, этических соображениях и ответственном внедрении искусственного интеллекта соответствует ценностям DeepMind. Такой подход ставит во главу угла понимание, а не быстрый рост, обеспечивая тщательную оценку перед выпуском новых технологий.

Этическая ответственность В условиях продвижения к УЧИ По мере продвижения к достижению AGI Google стремится поддерживать свою приверженность этике посредством сотрудничества с такими организациями, как ООН, при необходимости адаптируя свою корпоративную структуру. Придерживаясь строгих исследовательских стандартов, основанных на науке, а не быстрых инновационных циклах, типичных для культуры индустрии высоких технологий, Google стремится к ответственному продвижению, учитывающему долгосрочные последствия.

Будущий рынок труда для творческих профессионалов Креативные профессионалы, которые используют технологии наряду со своим творчеством, будут процветать на рынке труда будущего. Интеграция инструментов искусственного интеллекта с творческим вкладом повышает ценность и уникальность проектов, ускоряя такие процессы, как сбор средств для инди-фильмов.

Научные работники и ассистенты врачей на базе искусственного интеллекта Развитие науки и медицинских ассистентов на базе искусственного интеллекта может революционизировать резюме исследований, обзоры литературы, сложные диагнозы и уход за пациентами. Эти инструменты потенциально могут помочь занятым профессионалам оставаться в курсе новейшей информации, одновременно улучшая процессы принятия решений.

В мире после AGI Демис предполагает использовать инструменты AGI для углубления в глубочайшие вопросы природы и физики, исследуя фундаментальную природу реальности. Он планирует обдумать эти концепции во время потенциального путешествия на звездолете к Альфе Центавра и занятия такими видами деятельности, как экстремальные виды спорта.

В ChatGPT произошел внезапный сбой, он выдавал бессмысленные ответы и даже иногда говорил по-испански. Пользователи были озадачены таким поведением, а один пользователь в шутку спросил, не думает ли ChatGPT, что у них инсульт. Несмотря на путаницу, ChatGPT в конце концов вернулся к нормальной жизни после своего причудливого эпизода.