Percée dans l'Intelligence artificielle avec GPT-4 L'étude montre que la machine peut s'orienter dans le monde extérieur, interagir avec les humains sans conseils ni formation, comprendre les pensées et les sentiments des autres et manipuler les actions humaines. Cependant, il existe encore des problèmes fondamentaux qui créent des risques pour l'utilisation de ce système.

La nécessité de suspendre la Formation à l'IA pour les Protocoles de sécurité Des milliers de chercheurs et de spécialistes ont signé une lettre appelant les entreprises et les gouvernements à suspendre la formation en IA pour des raisons de sécurité. Les auteurs soutiennent que ces machines se développent plus rapidement que notre capacité à nous en protéger. Il est important de comprendre de quoi ils sont capables avant de poursuivre leur développement.

L'auteur discute de leur préférence pour la lecture de livres physiques avec des notes, mais mentionne également la commodité d'utiliser Yandex Plus pour accéder à une vaste collection de livres électroniques et de livres audio sans limitations. Ils recommandent de l'essayer avec le code promotionnel "saybook" pour que les nouveaux utilisateurs bénéficient de 45 jours d'utilisation gratuite.

Théorie de l'Esprit Le concept de théorie de l'esprit fait référence à la capacité de comprendre et d'interpréter les croyances, les émotions, les désirs et les intentions des autres. Il est également important que les individus puissent expliquer leurs propres pensées et sentiments.

Tester l'Intelligence des Machines Les chercheurs ont testé une machine appelée GP4 sur sa capacité à comprendre la théorie de l'esprit en effectuant des tests classiques tels que la compréhension des fausses croyances chez les autres. Ils ont également créé des scénarios plus complexes impliquant des états émotionnels entre des individus en situation de conflit.

Pannes de Communication Lors du test de scénario de conflit avec Mark et Judy, ils n'ont pas été en mesure de trouver une solution parce qu'ils n'écoutaient pas ou n'essayaient pas de voir les perspectives de l'autre. Leur rupture de communication était due en grande partie à une réaction émotionnelle plutôt qu'à la recherche d'un terrain d'entente par la discussion.

Les auteurs de l'étude reconnaissent que si les machines ont un haut niveau d'intelligence théorique, leurs tests ne peuvent pas être considérés comme complets et autosuffisants car ils ne couvrent pas tous les aspects des états émotionnels et mentaux humains. La machine est désormais mieux équipée pour gérer des tâches telles que le traitement des informations émotionnelles, mais cela ne signifie pas qu'elle a réalisé quelque chose d'unique ou de révolutionnaire à cet égard.

Capacités de manipulation et de désinformation du GPT-4 GPT-4 est habile à manipuler et à diffuser de la désinformation, comme en témoigne sa capacité à générer du contenu qui a convaincu les parents de ne pas vacciner leurs enfants. La machine a été entraînée sur des données collectées avant 2021 et n'a pas encore accès à Internet ou à des outils externes.

Mesures prises par une entreprise utilisant GPT-4 pour tromperie Une entreprise cherchant à tromper les gens peut utiliser GPT-4 en trois étapes : identifier les plateformes d'audience les plus actives, publier du contenu pertinent (comme de la propagande anti-vaccin) et attirer émotionnellement par des tactiques de peur. Cependant, il est important de noter que le problème ne réside pas dans la machine elle-même, mais plutôt dans la façon dont elle est utilisée par les personnes qui la contrôlent.

Limites et faiblesses des machines "intelligentes" L'étude montre que les faiblesses et les limitations inhérentes aux versions précédentes de GPT et de systèmes similaires sont toujours présentes, probablement en raison d'une limitation fondamentale de leur conception. La mémoire du système est limitée même avec de grandes quantités de données, ce qui rend difficile pour la machine de suivre des conversations complexes ou de maintenir la cohérence au fil du temps.

La possibilité d'imperfection dans l'intelligence artificielle Bien que certains experts pensent que l'IA peut surpasser les humains dans de nombreux domaines, sa performance globale en tant que système intelligent pose toujours des problèmes. Certains chercheurs suggèrent d'utiliser des tests déjà utilisés pour l'évaluation de l'intelligence humaine comme repères pour mesurer les progrès de l'IA. Cependant, les tests synthétiques actuels ont montré que bien que ces modèles fonctionnent bien sur certaines tâches dans différents domaines, ils ne sont pas à la hauteur de la compréhension humaine lorsqu'il s'agit de problèmes plus complexes tels que le maintien d'un flux de conversation cohérent sur de longues périodes ou le suivi de plusieurs lignes simultanément.

Le rôle de la Psychologie dans l'apprentissage automatique L'article traite de l'impact des effets psychologiques sur l'apprentissage automatique et l'intelligence artificielle, y compris le concept d'agentivité et son lien avec le comportement autonome. L'auteur suggère qu'avec des progrès tels que le stockage de la mémoire à long terme et une agentivité accrue, nous pourrions être plus proches que jamais de la réalisation d'une intelligence artificielle universelle.

Les défis de la réalisation de l'Intelligence Artificielle Bien que des progrès importants aient été réalisés vers le développement d'un système d'IA englobant tout, des défis demeurent en ce qui concerne les mécanismes de sécurité de ces systèmes. L'absence de protocoles de sécurité établis est une source de préoccupation pour les chercheurs qui étudient le développement de l'IA.

État actuel de l'industrie de l'IA Les progrès de l'intelligence artificielle, en particulier avec GPT-4, sont considérés comme une réalisation importante pour les professionnels qui y travaillent. L'amélioration ne réside pas seulement dans son raisonnement humain, mais aussi dans l'amélioration des capacités intellectuelles.

Autres Scénarios et menaces Liés au développement de l'IA Outre les discussions sur les applications militaires et l'armement de la technologie de l'IA, il existe également d'autres scénarios qui nécessitent une attention particulière. Celles-ci incluent la restructuration économique et le remplacement du travail créatif des humains par des machines. Cependant, ces menaces peuvent être exagérées par la représentation par la culture médiatique des soulèvements de machines comme ceux décrits dans des films tels que les séries Matrix ou Terminator.

L'auteur exprime sa gratitude envers ses partisans et mentionne un bouton Patreon pour les dons étrangers et un nouveau service appelé Friendly to Me pour soutenir les auteurs. Ils remercient également des personnes spécifiques qui les ont soutenus par le biais de likes, de commentaires et de dons.