Sommes-nous des machines?

Démarré par jenga, Novembre 09, 2026, 09:00:53

« précédent - suivant »

jenga

Citation de: tetim1 le Novembre 15, 2026, 17:01:24C'est exactement ce que j'essaie d'expliquer...Dans votre première phrase que je fais mienne, je remplacerais toutefois "maximiser la récompense ( il n'y a pas de récompense pour la machine à la clé) mais "éliminer les obstacles qui s'opposent à la résolution du problème".La machine n'a pas conscience de ce qu"elle fait, c

Citation de: tetim1 le Novembre 15, 2026, 17:46:15C'est vrai, mais l'intelligence de quel homme. -> On parle bien sûr de l'Homme" avec un grand H...L'intelligence humaine si vous préférez.
Maximiser une récompense c'est le terme technique,-> Oui, mais c'est ce que je critique: trop anthropomorphiser L'IA ( relire avant...)
Perso je regarde le service rendu -> En oubliant le mal déjà fait ( éducation, enfants...) et le chaos qui s'annonce ( emplois ( demandez aux traducteurs et n' invoquez pas Schumpeter...)) , modes de vie, délégation et donc délétion de nos facultés humaines...)? Les "services" contrebalancent-ils un effondrement civilisationnel annoncé par certains?
Cordialement

Je sépare cette réponse de la précédente, qui n'était que technique. Je rappelle que je parle de simuler l'intelligence humaine dans ses effets, pas de prétendre l'imiter.

Que fait un humain en apprenant, si ce n'est maximiser une récompense (une note, le regard de la mère, son salaire, capturer le gibier pour manger, son plaisir, etc.)?
C'est une vraie question.

Sur la question des problèmes posés,  je suis bien d'accord.
(Avec un bémol sur l'éducation, la catastrophe dans notre pays n'a pas attendu l'IA pour se produire).

Et les IA sont maintenant capables de... programmer une IA.

tetim1

Citation de: jenga le Novembre 16, 2026, 20:08:07Sur la question des problèmes posés,  je suis bien d'accord.
(Avec un bémol sur l'éducation, la catastrophe dans notre pays n'a pas attendu l'IA pour se produire).

J'ai dit : "le mal déjà fait" ...Je n'ai pas dit que c'était l'unique cause du plongeon, mais elle y contribue de plus en plus...
Et les IA sont maintenant capables de... programmer une IA.-> Oui, et pour rebondir sur des aspects précédemment cités, l'Homme n'y comprendra plus rien ...Comment maîtriser ce que l'on ne comprend pas...?
Cordialement

tetim1

#52
Citation de: jenga le Novembre 16, 2026, 20:04:16Oui, en précisant que ce que vous décrivez est la phase d'apprentissage, y compris le deuxième paragraphe quand vous parlez de "succès/erreur/corrections/optimisation "

Oui, ces mécanismes d'apprentissage sont mis au point par des humains, et le plus remarquable est leur simplicité mathématique.
Le calcul d'erreur consiste le plus souvent en un calcul d'entropie croisée entre le résultat et l'attendu.
L'optimisation du réseau repose sur un calcul de dérivées partielles de cette erreur par rapport à ses coefficients. Ces maths sont connues depuis des siècles et à la portée d'un élève de terminale.

Les innovations sont dans les architectures des réseaux: une IA n'est pas un tas de neurones artificiels en vrac qu'on chercherait à optimiser pour une tâches donnée, ça ne marche pas.


Je pense que vous m'avez lu un peu vite ou peut-être n'étais-je pas clair.
Je parle bien de l'apprentissage puis des processus ultérieurs mis en oeuvre pour aboutir au résultat escompté sans rentrer dans des détails trop techniques pour en parler en quelques mots ( couches/poids/descente de gradient/biais...etc...).
Je dis bien : "les choix opérés ne le sont pas ": ils sont produits par des " descentes" statistiques d'optimisations, couche après couche, basées sur des calculs mathématiques fondés sur le "poids" et les "biais"de chaque solution possible; je n'ai jamais parlé de tas de "neurones en vrac"...Ce sont  des couches d'unités de calcul, pour faire simple, qui interagissent. Le terme "neurone" étant encore ici une anthropomorphisation discutable.
Cordialement

jenga

#53
Citation de: tetim1 le Hier à 09:07:16Je pense que vous m'avez lu un peu vite ou peut-être n'étais-je pas clair.
Je parle bien de l'apprentissage puis des processus ultérieurs mis en oeuvre pour aboutir au résultat escompté sans rentrer dans des détails trop techniques pour en parler en quelques mots ( couches/poids/descente de gradient/biais...etc...).
Je dis bien : "les choix opérés ne le sont pas ": ils sont produits par des " descentes" statistiques d'optimisations, couche après couche, basées sur des calculs mathématiques fondés sur le "poids" et les "biais"de chaque solution possible; je n'ai jamais parlé de tas de "neurones en vrac"...Ce sont  des couches d'unités de calcul, pour faire simple, qui interagissent. Le terme "neurone" étant encore ici une anthropomorphisation discutable.
Cordialement
Je n'ai pas prétendu que vous ayez parlé de "tas en vrac", j'ai utilisé ce terme pour mettre en avant les architectures, qui sont AMHA l'innovation majeure, le reste étant connu depuis longtemps. Désolé pour ce quiproquo.

 J'ai l'impression que vous décrivez les "processus ultérieurs" (à l'apprentissage) qui, si je comprends bien, désignent l'exploitation du réseau entrainé, avec les mêmes termes "mécaniques" que l'apprentissage. L'apprentissage est effectivement algorithmique, mécanique, mais l'exploitation ne l'est pas. Les termes "descentes de gradient", "optimisation couche après couche", etc. font exclusivement référence à la phase d'apprentissage,.

A chaque étape d'apprentissage, tous les poids de tous les neurones du réseau sont légèrement ajustés, dans le sens qui réduit l'erreur globale commise à cette étape; par exemple, alors qu'on a présenté une image de chien, le réseau donne "chat" avec une probabilité de 50% et "chien" avec une probabilité de 40%, etc. On va donc modifier tous les poids du réseau dans le sens qui augmente la probabilité de "chien" pour l'image présentée.

Mais les fonctions résultant de cette optimisation sont diffuses, non caractérisables en termes sémantiques. On n'identifie jamais le neurone ou groupe de neurones qui reconnait un chien, tout simplement parce qu'il n'existe pas: ces fonctions sont diffuses dans le réseau, tout comme dans un cerveau humain.
Un poids ou neurone donné n'a pas plus de signification individuelle que le  pixel x=402, y=365 dans toutes les images.

Cette absence de signification individuelle d'un neurone ou d'un poids est bien mise en évidence par la technique d'apprentissage nommée "dropout", qui consiste à annuler au hasard un pourcentage de neurones, par exemple 20%, différents à chaque étape, ce qui empêche d'attribuer un rôle spécifique à chacun.
(l'objectif étant ici d'empêcher le réseau d'apprendre "par cœur" les exemples donnés, ce qui nuirait à ses capacités de généralisation... comme chez les humains qui apprennent par cœur les solutions d'exercices de maths: ça ne fonctionne pas).

C'est à rapprocher de l'apprentissage humain: le processus d'apprentissage de la lecture est assez mécanique, lettres, syllabes, mots, etc., mais pour autant il n'existe pas de neurone particulier pour reconnaitre tel ou tel mot.

En exploitation du réseau, on n'a plus du tout ces notions mathématiques, mécaniques: le réseau configuré est suffisamment complexe pour généraliser, à partir des cas vus en apprentissage, la solution à des problèmes nouveaux, sans qu'on sache expliquer en détail ce processus.

De la même manière, le processus d'apprentissage de la lecture par les humains n'explique pas comment nous comprenons un texte ni comment nous en concevons de nouveaux.

Je crois essentielle cette distinction entre "apprentissage" et "processus ultérieurs", même si elle nécessite quelques précisions que j'espère pas trop techniques.

Cordialement aussi  :)

jenga

Citation de: tetim1 le Hier à 08:41:49J'ai dit : "le mal déjà fait" ...Je n'ai pas dit que c'était l'unique cause du plongeon, mais elle y contribue de plus en plus...
Et les IA sont maintenant capables de... programmer une IA.-> Oui, et pour rebondir sur des aspects précédemment cités, l'Homme n'y comprendra plus rien ...Comment maîtriser ce que l'on ne comprend pas...?
Cordialement
Je suis entièrement d'accord avec cela.

tetim1


jenga

Documentaire absolument passionnant et effrayant sur Arte, ce soir.

Le risque de perte de contrôle, expliqué de façon précise par quelques uns des plus grands scientifiques du domaine.

A voir absolument, AMHA.

bozart

Ah, merci. Je vais aller voir si c'est en replay.

L'IA qui s'infiltre partout dans qu'on l'ait sollicitée me dérange aussi : je constate la baisse considérable du nombre de liens proposés (si on considère qu'internet est une vaste bibliothèque) quand je fais une recherche.

J'ai dû chercher comment désactiver les réponses par défaut de l'IA qui s'imposent en haut de l'écran (aucune manip classique de désactivation).

Ce n'est pas un scoop, mais c'est un supermarché géant rempli de pickpockets, pas une bibliothèque. 

tetim1

#58
Citation de: jenga le Hier à 22:32:18Documentaire absolument passionnant et effrayant sur Arte, ce soir.

Le risque de perte de contrôle, expliqué de façon précise par quelques uns des plus grands scientifiques du domaine.

A voir absolument, AMHA.
Merci Jenga!
Cordialement
Si je peux me permettre, un entretien éclairant ( et le livre qui va avec!). https://www.youtube.com/watch?v=R6M1sUzsZUk

Un petit ouvrage à lire également : Anne Alombert-> De la bêtise artificielle

jenga

Citation de: bozart le Aujourd'hui à 08:03:37Ah, merci. Je vais aller voir si c'est en replay.

L'IA qui s'infiltre partout dans qu'on l'ait sollicitée me dérange aussi : je constate la baisse considérable du nombre de liens proposés (si on considère qu'internet est une vaste bibliothèque) quand je fais une recherche.
Oui, c'est en replay.

Quand ils parlent d'intelligence, de conscience, des IA, bien comprendre que pour des scientifiques ça signifie: produisant les mêmes résultats que si elles avaient...  ;)
Ce qui est le point important pour nous AMHA.

Pour la présence de l'IA dans les réponses proposées par les moteurs de recherche, ça menace déjà les forums: on n'a plus besoin d'échanger sur un forum si le moteur de recherche donne d'emblée la solution.
Et du point de vue commercial, Google se tire un peu une balle dans le pied, cette IA réduisant les clics vers les sites commerciaux, et donc les revenus publicitaires de Google.

Nicolas Meunier

Citation de: tetim1 le Aujourd'hui à 09:37:31Merci Jenga!
Cordialement
Si je peux me permettre, un entretien éclairant ( et le livre qui va avec!). https://www.youtube.com/watch?v=R6M1sUzsZUk

Un petit ouvrage à lire également : Anne Alombert-> De la bêtise artificielle

Attention aux philosophes autoproclamés experts techniques en IA... on en a des tonnes et ca ne vole en général pas très haut (mais ca flatte ses propres peurs).

Poser des questions c'est très bien, faire réfléchir... attentions à ceux qui se sentent capables de predire et expliquer ce qu'ils ne maitrisent pas du tout.

jenga

Citation de: tetim1 le Aujourd'hui à 09:37:31Si je peux me permettre, un entretien éclairant ( et le livre qui va avec!). https://www.youtube.com/watch?v=R6M1sUzsZUk

Citation de: Nicolas Meunier le Aujourd'hui à 11:59:17Attention aux philosophes autoproclamés experts techniques en IA... on en a des tonnes et ca ne vole en général pas très haut (mais ca flatte ses propres peurs).

Poser des questions c'est très bien, faire réfléchir... attentions à ceux qui se sentent capables de predire et expliquer ce qu'ils ne maitrisent pas du tout.

[ at ] tetim: Merci, j'ai commencé à visionner mais je dois m'interrompre. C'est une personne très intéressante, avec un point de vue de philosophe qui n'est pas dans mes sources usuelles  ;)

[ at ]Nicolas Meunier: je le prends bien ainsi, inciter à réfléchir sous un angle différent.

tetim1

Citation de: Nicolas Meunier le Aujourd'hui à 11:59:17Attention aux philosophes autoproclamés experts techniques en IA... on en a des tonnes et ca ne vole en général pas très haut (mais ca flatte ses propres peurs).

Poser des questions c'est très bien, faire réfléchir... attentions à ceux qui se sentent capables de predire et expliquer ce qu'ils ne maitrisent pas du tout.
Bien entendu, il faut diversifier ses sources et références. Je ne sais pas si ,dans votre remarque, vous faites spécifiquement allusion à Eric Sadin, mais je vous suggère de regarder son"CV"( ce n'est pas un philosophe "auto-proclamé...) et ce qu'il dit depuis son premier livre (2013) . Je pense qu'après  plus de 13 ans de travaux ininterrompus sur le sujet, il sait de quoi il parle ( on peut ensuite discuter des conclusions qu'il en tire...). Ce n'est pas Laurent Alexandre...Un philosophe n'est pas un "expert"; il se pose des questions et tente de percevoir les impacts . Je vous conseille de lire son dernier livre et nous pourrons en reparler avec plaisir si vous le souhaitez.
Cordialement