Sommes-nous des machines?

Démarré par jenga, Novembre 09, 2026, 09:00:53

« précédent - suivant »

jenga

Citation de: tetim1 le Novembre 15, 2026, 17:01:24C'est exactement ce que j'essaie d'expliquer...Dans votre première phrase que je fais mienne, je remplacerais toutefois "maximiser la récompense ( il n'y a pas de récompense pour la machine à la clé) mais "éliminer les obstacles qui s'opposent à la résolution du problème".La machine n'a pas conscience de ce qu"elle fait, c

Citation de: tetim1 le Novembre 15, 2026, 17:46:15C'est vrai, mais l'intelligence de quel homme. -> On parle bien sûr de l'Homme" avec un grand H...L'intelligence humaine si vous préférez.
Maximiser une récompense c'est le terme technique,-> Oui, mais c'est ce que je critique: trop anthropomorphiser L'IA ( relire avant...)
Perso je regarde le service rendu -> En oubliant le mal déjà fait ( éducation, enfants...) et le chaos qui s'annonce ( emplois ( demandez aux traducteurs et n' invoquez pas Schumpeter...)) , modes de vie, délégation et donc délétion de nos facultés humaines...)? Les "services" contrebalancent-ils un effondrement civilisationnel annoncé par certains?
Cordialement

Je sépare cette réponse de la précédente, qui n'était que technique. Je rappelle que je parle de simuler l'intelligence humaine dans ses effets, pas de prétendre l'imiter.

Que fait un humain en apprenant, si ce n'est maximiser une récompense (une note, le regard de la mère, son salaire, capturer le gibier pour manger, son plaisir, etc.)?
C'est une vraie question.

Sur la question des problèmes posés,  je suis bien d'accord.
(Avec un bémol sur l'éducation, la catastrophe dans notre pays n'a pas attendu l'IA pour se produire).

Et les IA sont maintenant capables de... programmer une IA.

tetim1

Citation de: jenga le Novembre 16, 2026, 20:08:07Sur la question des problèmes posés,  je suis bien d'accord.
(Avec un bémol sur l'éducation, la catastrophe dans notre pays n'a pas attendu l'IA pour se produire).

J'ai dit : "le mal déjà fait" ...Je n'ai pas dit que c'était l'unique cause du plongeon, mais elle y contribue de plus en plus...
Et les IA sont maintenant capables de... programmer une IA.-> Oui, et pour rebondir sur des aspects précédemment cités, l'Homme n'y comprendra plus rien ...Comment maîtriser ce que l'on ne comprend pas...?
Cordialement

tetim1

#52
Citation de: jenga le Novembre 16, 2026, 20:04:16Oui, en précisant que ce que vous décrivez est la phase d'apprentissage, y compris le deuxième paragraphe quand vous parlez de "succès/erreur/corrections/optimisation "

Oui, ces mécanismes d'apprentissage sont mis au point par des humains, et le plus remarquable est leur simplicité mathématique.
Le calcul d'erreur consiste le plus souvent en un calcul d'entropie croisée entre le résultat et l'attendu.
L'optimisation du réseau repose sur un calcul de dérivées partielles de cette erreur par rapport à ses coefficients. Ces maths sont connues depuis des siècles et à la portée d'un élève de terminale.

Les innovations sont dans les architectures des réseaux: une IA n'est pas un tas de neurones artificiels en vrac qu'on chercherait à optimiser pour une tâches donnée, ça ne marche pas.


Je pense que vous m'avez lu un peu vite ou peut-être n'étais-je pas clair.
Je parle bien de l'apprentissage puis des processus ultérieurs mis en oeuvre pour aboutir au résultat escompté sans rentrer dans des détails trop techniques pour en parler en quelques mots ( couches/poids/descente de gradient/biais...etc...).
Je dis bien : "les choix opérés ne le sont pas ": ils sont produits par des " descentes" statistiques d'optimisations, couche après couche, basées sur des calculs mathématiques fondés sur le "poids" et les "biais"de chaque solution possible; je n'ai jamais parlé de tas de "neurones en vrac"...Ce sont  des couches d'unités de calcul, pour faire simple, qui interagissent. Le terme "neurone" étant encore ici une anthropomorphisation discutable.
Cordialement

jenga

#53
Citation de: tetim1 le Hier à 09:07:16Je pense que vous m'avez lu un peu vite ou peut-être n'étais-je pas clair.
Je parle bien de l'apprentissage puis des processus ultérieurs mis en oeuvre pour aboutir au résultat escompté sans rentrer dans des détails trop techniques pour en parler en quelques mots ( couches/poids/descente de gradient/biais...etc...).
Je dis bien : "les choix opérés ne le sont pas ": ils sont produits par des " descentes" statistiques d'optimisations, couche après couche, basées sur des calculs mathématiques fondés sur le "poids" et les "biais"de chaque solution possible; je n'ai jamais parlé de tas de "neurones en vrac"...Ce sont  des couches d'unités de calcul, pour faire simple, qui interagissent. Le terme "neurone" étant encore ici une anthropomorphisation discutable.
Cordialement
Je n'ai pas prétendu que vous ayez parlé de "tas en vrac", j'ai utilisé ce terme pour mettre en avant les architectures, qui sont AMHA l'innovation majeure, le reste étant connu depuis longtemps. Désolé pour ce quiproquo.

 J'ai l'impression que vous décrivez les "processus ultérieurs" (à l'apprentissage) qui, si je comprends bien, désignent l'exploitation du réseau entrainé, avec les mêmes termes "mécaniques" que l'apprentissage. L'apprentissage est effectivement algorithmique, mécanique, mais l'exploitation ne l'est pas. Les termes "descentes de gradient", "optimisation couche après couche", etc. font exclusivement référence à la phase d'apprentissage,.

A chaque étape d'apprentissage, tous les poids de tous les neurones du réseau sont légèrement ajustés, dans le sens qui réduit l'erreur globale commise à cette étape; par exemple, alors qu'on a présenté une image de chien, le réseau donne "chat" avec une probabilité de 50% et "chien" avec une probabilité de 40%, etc. On va donc modifier tous les poids du réseau dans le sens qui augmente la probabilité de "chien" pour l'image présentée.

Mais les fonctions résultant de cette optimisation sont diffuses, non caractérisables en termes sémantiques. On n'identifie jamais le neurone ou groupe de neurones qui reconnait un chien, tout simplement parce qu'il n'existe pas: ces fonctions sont diffuses dans le réseau, tout comme dans un cerveau humain.
Un poids ou neurone donné n'a pas plus de signification individuelle que le  pixel x=402, y=365 dans toutes les images.

Cette absence de signification individuelle d'un neurone ou d'un poids est bien mise en évidence par la technique d'apprentissage nommée "dropout", qui consiste à annuler au hasard un pourcentage de neurones, par exemple 20%, différents à chaque étape, ce qui empêche d'attribuer un rôle spécifique à chacun.
(l'objectif étant ici d'empêcher le réseau d'apprendre "par cœur" les exemples donnés, ce qui nuirait à ses capacités de généralisation... comme chez les humains qui apprennent par cœur les solutions d'exercices de maths: ça ne fonctionne pas).

C'est à rapprocher de l'apprentissage humain: le processus d'apprentissage de la lecture est assez mécanique, lettres, syllabes, mots, etc., mais pour autant il n'existe pas de neurone particulier pour reconnaitre tel ou tel mot.

En exploitation du réseau, on n'a plus du tout ces notions mathématiques, mécaniques: le réseau configuré est suffisamment complexe pour généraliser, à partir des cas vus en apprentissage, la solution à des problèmes nouveaux, sans qu'on sache expliquer en détail ce processus.

De la même manière, le processus d'apprentissage de la lecture par les humains n'explique pas comment nous comprenons un texte ni comment nous en concevons de nouveaux.

Je crois essentielle cette distinction entre "apprentissage" et "processus ultérieurs", même si elle nécessite quelques précisions que j'espère pas trop techniques.

Cordialement aussi  :)

jenga

Citation de: tetim1 le Hier à 08:41:49J'ai dit : "le mal déjà fait" ...Je n'ai pas dit que c'était l'unique cause du plongeon, mais elle y contribue de plus en plus...
Et les IA sont maintenant capables de... programmer une IA.-> Oui, et pour rebondir sur des aspects précédemment cités, l'Homme n'y comprendra plus rien ...Comment maîtriser ce que l'on ne comprend pas...?
Cordialement
Je suis entièrement d'accord avec cela.

tetim1


jenga

Documentaire absolument passionnant et effrayant sur Arte, ce soir.

Le risque de perte de contrôle, expliqué de façon précise par quelques uns des plus grands scientifiques du domaine.

A voir absolument, AMHA.