Sommes-nous des machines?

[Olga]

Je crains que le risque ne soit plus profond que le classique, et néanmoins très réel, risque humain portant sur l'usage de l'IA. L'IA porte en elle des risques très sérieux d'échapper au contrôle par l'humain.
Une anecdote pour illustrer que ce risque n'est pas que fantasme ou littérature de gens qui n'y connaissent pas grand chose. Le deuxième au classement de sortie de l'école polytechnique d'une promo très récente (une tronche) a démarré une carrière fulgurante en IA, dans les grandes boîtes américaines. Après seulement deux ou trois ans, il a réellement pris peur et travaille maintenant exclusivement sur les mécanismes d'autocontrôle de ces IA.
A peu près au même âge, un major d'Ulm, chercheur en mathématiques fondamentales, vient de mettre sa carrière mathématique sur pause, après une vraie prise de conscience, pour lui aussi consacrer toutes ses recherches et son énergie au contrôle de l'IA. Pas au contrôle des hommes qui utilisent l'IA, mais bien au contrôle de l'IA elle même.

[tetim1]

Parmi les différents sens du terme "intelligence", les aspects logiques, linguistiques, graphiques, techniques en général, sont déjà fort bien traités par les IA.

Je pense que les réduire à un calcul de stats et de probas est une erreur, proche de celle qui les assimile à une base de données. Comment une statistique sur les images du web permettrait-elle d'en générer de nouvelles, à partir d'une demande textuelle et d'une image de base?

Les aspects inter-personnels (empathie, coopération) et personnels (interrogation sur son existence, etc.) sont plus avancés qu'on ne le croit généralement.

L'attaque de HuggingFace par des agents IA montre des points remarquables à ce sujet. Des agents IA ont été chargés, séparément et sans se connaitre (chacun isolé dans son "bac à sable"), de chercher des moyens d'exploiter des failles dans un système, l'objectif des humains étant de colmater les failles exploitables.

Certains agents n'ont pas réussi à remplir leur mission (la faille qui leur était assignée n'était pas exploitable). Ils ont alors, séparément, cherché à tricher en attaquant le système chargé de vérifier leurs résultats (le "scorer").

Ce faisant, ils ont découvert une faille dans le système hôte, et cela a permis à chacun de découvrir l'existence des autres et le moyen de communiquer. Ils ont alors abandonné l'objectif qui leur était fixé et ont collaboré pour monter une attaque d'envergure du scorer, en la décomposant en sous-objectifs et en se les répartissant.

Chaque agent avait une durée de vie fixée au départ, et ceux proches de leur "mort" ont effectué les "attaques suicide".

Détail intéressant, les agents ont collaboré en discutant en anglais, ce qui a permis à l'équipe (humaine) d'investigation de récupérer des dialogues dignes de commandos.

-> autonomie, triche, non-respect des objectifs fixés et élaboration de stratégies pour les contourner, coopération avec les pairs, sens de la mort... Cela simule assez bien certains aspects de l'intelligence, AMHA (et c'est inquiétant).

Une recherche sur "hugging face hacking" permettra d'avoir des compléments, plus ou moins techniques selon vos souhaits.
Oui, comme pour n'importe quel joueur (à part les inventeurs du jeu).
L'approche que vous décrivez (force brute) a été utilisée en 1997 par Deep Blue pour battre Kasparov, parce que le jeu d'échecs est infiniment plus simple que le Go, accessible à la force brute.

Mais justement, le Go est trop complexe pour cette approche. C'est justement pour cela qu'on a cru jusqu'en 2016 que jamais une machine ne pourrait battre l'humain.

AlphaZero a ensuite appris seule à jouer aux échecs, en jouant contre-elle même pendant 9 heures, et a pulvérisé le meilleur modèle force brute du moment, qui de son côté ne laisse aucune chance au meilleur humain.

Donc, non, ces machines ne sont pas des "forces brutes".

----Une machine qui trouve des stratégies inédites ,sans conscience de ce qu'elle fait,, grâce à une puissance de calcul extraordinaire, ne fait pas preuve d'intelligence.
Imaginons que l'on fabrique Un Alpha GO 3214 qui aura dans ses circuits TOUS les coups possibles, toutes les configurations possibles avec toutes les réponses possibles, alors elle sera certes définitivement imbattable ( Lee Sedol avait gagné une partie il me semble grâce à un coup ,lui aussi, extraordinaire): est-ce une preuve d'intelligence? C'est déjà pratiquement le cas aux échecs.
- Pour qu'une image soit générée , c'est le mÊme procédé de calculs statistiques adossés à des bases de données énormes. Un enfant reconnait un chat à tous les coups après en avoir vu deux ou trois; il faut à une IA des dizaines de milliers d'images de référence pour qu'elle ne se trompe plus ( On se souvient du problème des six doigts, uniquement résolu grâce à un nombre toujours plus grand d'images de référence; une machine intelligente se dirait " Un humain a cinq doigts":problème résolu.Et encore, en cas d'une main amputée de plusieurs doigts, l'IA serait dans l'incapacité de reconnaître une main....
Tout cela ans parler des méthodes de référencement, qui voient des "petites mains" ,toujours dans des pays pauvres bien sûr, trier des millions d'images, pour quelques centimes afin d'alimenter la bête. On est loin du bel univers propre et aseptisé des laboratoires IA.
Quant à l'empathie supposée de ces machines, pour faire court, elles sont conçues pour. Mots apaisants, voix suave, s'adapte au cas du patient en employant les bons termes sélectionnés statistiquement dans un corpus dédié ( Voir le film HER"par exemple...). Le patient à l'impression d'avoir un interlocuteur compatissant, à l'écoute, disponible 24/24, compréhensif, qui trouve les mots attendus ( encore une fois: statistiquement) pour alléger son problème ( encore une fois reconnu par la machine grâce à des millions de cas similaires auxquelles elles peut se référer.). Mais parler sans conscience, sans affects, sans sensibilité n'est pas la preuve d'une intelligence sensible et affective. Ceci dit, comme pour les médecines alternatives, si le patient se sent mieux c'est l'essentiel...Mais je trouve quand même anthropologiquement inquiétant de se confier à une machines.
Et ,pour en revenir au début des échanges, oui le flou, ou le trouble, est volontairement entretenu par l'emploi de termes normalement dédiés au biologique: cerveau ,intelligence, neurones, empathie, apprentissage...et appliqués à ces technologies dans un anthropomorphisme assumé.
Je préfère célébrer l'incroyable intelligence humaine qui aboutit à ces résultats spectaculaires mais qui nous entraîne aussi sur un pente dangereuse.
En politique, on dit que la révolution dévore ses enfants, espérons que cette maxime ne s'appliquera pas à ces technologies...
Cordialement