Sommes-nous des machines?

[jenga]

PS : et pour compléter ton éventuelle envie d'échanger sur le sujet, ne pas oublier que pour qu'il y ait pensée humaine, il faut aussi du sommeil, de la nourriture, de l'oxygène à respirer, de l'eau (beaucoup), bref, quand j'évoque les interactions, il s'agit aussi de toutes celles-là.

La question de la pensée est au contraire très concrète. C'est son contenu qui peut être philosophique ou religieux.

La question  philosophique ou religieuse que j'évoquais, c'est de savoir si nous sommes uniquement des machines basées sur la chimie du carbone, suffisamment complexes pour interagir avec notre environnement et nous transformer en fonction de ces interactions, ou si nous avons en plus une composante immatérielle (une âme ou tout autre nom) nécessaire pour percevoir l'environnement, mémoriser ces perceptions, en extraire des concepts abstraits, et réorganiser ces concepts pour en inférer de nouveaux.

Je n'ai pas de réponse à cette question.

Mon propos est que dans le premier cas je ne vois pas de raison empêchant une machine complexe d'un autre type, basée par exemple sur l'électricité et le silicium, d'exécuter les mêmes fonctions.

Bref, pas une "pensée humaine", de par sa définition, mais une pensée similaire vue de l'extérieur, passant avec succès le test de Turing.

Pas forcément avec les IA actuelles, mais si nous sommes dans le premier cas il est clair qu'on s'en rapproche très vite (bien ou mal, c'est une autre histoire).

[Gérard B.]

Quel rapport avec le thème de cette section ?

[Monsieur]

Quel rapport avec le thème de cette section ?

Reformulons : Le portrait de l'humain par l'humain, est-il la limite de cette section, ou va-t-on vers un portrait du silicium par du silicium (avec un éventuel être carboné dans la boucle), comme Andrea/Francoise_77 le suggère ?

[Hector06]

Dans l'idée que j'estime être de base, une machine est toujours corrélée à son constructeur. Difficile dans ce cas de ne pas évoquer le divin, que l'on ne jure que par le carbone ou l'idée d'une âme.

J'ai sûrement pas tout compris, et interviendrai ultérieurement s'il était besoin d'un développement un peu plus pipi caca prout, mais pour l'instant, trouvant le débat biaisé d'office, je suis curieux de voir les futurs développements de ce fil.

[tetim1]

Lire JP Changeux -> Matière à pensée. ;  L'homme neuronal..
Cordialement

[bozart]

Quel rapport avec le thème de cette section ?

Les images génératives d'un autre fil (la photo c'est fini) ont-elles davantage un rapport avec la section ? 

Ceci dit, c'est plutôt une discussion pour la rubrique "à bâton rompus".

[Gérard B.]

Les images génératives d'un autre fil (la photo c'est fini) ont-elles davantage un rapport avec la section ? 

Ceci dit, c'est plutôt une discussion pour la rubrique "à bâton rompus".

Juste.

[jenga]

Quel rapport avec le thème de cette section ?

Désolé, je l'ai placée ici pour prendre le relais d'une discussion initiée sur dans cette section (le fil de Ken.ninja).

Il suffit de laisser couler si ça ne convient pas.

[bozart]

La question  philosophique ou religieuse que j'évoquais, c'est de savoir si nous sommes uniquement des machines basées sur la chimie du carbone

Je ne pense pas que le religieux ait sa place là-dedans : c'est une croyance.
Pas un état.
Le truc "en plus" c'est la complexité. Et parce qu'on n'arrive pas à la décrire, la décortiquer complètement, la comprendre à fond, alors on lui cherche des causes.

Intelligence humaine / intelligence artificielle ne sont tout simplement pas la même chose.
Entretenir la confusion auprès du grand public est selon moi un choix très néfaste.

[jenga]

La question  philosophique ou religieuse que j'évoquais, c'est de savoir si nous sommes uniquement des machines basées sur la chimie du carbone

Je ne pense pas que le religieux ait sa place là-dedans : c'est une croyance.
Pas un état.

Pour moi, la question de savoir si nous sommes uniquement des machines ou si nous avons en plus une composante immatérielle nécessaire à notre pensée est de nature philosophique (comprendre la connaissance, le monde, l'humain) et religieuse si cette éventuelle composante immatérielle est reliée à un être supérieur.

En tout cas, c'est comme cela que je le vois, mais je ne suis ni philosophe ni prêtre.
Et je n'ai pas la réponse à cette question.

Le truc "en plus" c'est la complexité. Et parce qu'on n'arrive pas à la décrire, la décortiquer complètement, la comprendre à fond, alors on lui cherche des causes.

Ce n'est pas une question de complexité. La simple existence de quelque chose, un peu d'énergie, un simple atome, pose forcément la même question.

Comment peut-il y avoir quelque chose plutôt que rien? C'est l'existence ou non du grand horloger.

(le big bang n'est pas la réponse, c'est un modèle de transformation de l'énergie "initiale" en un univers tel que nous le connaissons, il ne dit pas d'où vient cette énergie).

Intelligence humaine / intelligence artificielle ne sont tout simplement pas la même chose.
Entretenir la confusion auprès du grand public est selon moi un choix très néfaste.

Je ne pense pas qu'une telle confusion soit entretenue, mais je suis intéressé par de telles sources.

Pour ma part, je parle de modèles capables ou non de passer le test de Turing, c'est différent. C'est une vue externe du comportement, ça ne dit pas que l'intérieur est similaire.

[tetim1]

-  La confusion est entretenue à la base, puisque le terme "intelligence" n'a pas le même sens en anglais et en français. C'est déjà la source de nombreux malentendus.
-  Personne n'étant capable de définir exactement ce qu'est "l'intelligence" ( en français...) ni d'expliquer exactement comment un cerveau humain fonctionne ( les spécialistes de l'IA nous disent d'ailleurs qu'ils sont, à ce stade déjà, dans l'impossibilité d'expliquer exactement les résultats obtenus, ce qui commence à être inquiétant...), on voit bien que tout ceci est la porte ouverte à toutes les interprétations et élucubrations.
Cordialement

[bozart]

Pour rebondir sur l'idée des mathématiques, évoquée dans le précédent fil  :

https://www.radiofrance.fr/franceculture/podcasts/un-monde-connecte/un-monde-connecte-chronique-du-mercredi-21-octobre-2026-3099154

Et sur le rapprochement humain/machine :

https://www.radiofrance.fr/franceculture/podcasts/la-science-cqfd/l-ia-souffle-dans-l-algotest-1340696

[bozart]

Pour moi, la question de savoir si nous sommes uniquement des machines ou si nous avons en plus une composante immatérielle

Cette question n'existe pas pour moi. Notre fonctionnement lui-même fait apparaître ce que tu appelles une composante immatérielle. Elle nous est constitutive.

[andrea Vassilievski]

Selon la science, nous sommes des animaux évolués et notre évolution change imperceptiblement à chaque génération. D'ici 200 ans, nous mesurerons 2,50m et notre cerveau aura grossi de 30%.
A l'origine nous étions des poissons, depuis, "des humains" il reste d'ailleurs des stigmates de ceci dans nos corps au niveau de certains nerfs.
Le côté "machine" est seulement observé au niveau de notre psychologie cognitive qui se retrouve en concurrence avec un truc humain nommé l'I.A. La concurrence avec la machine se fera de plus en plus prégnante. Ce sera donc aux humains de se sortir les doigts du cul, s'ils veulent exister dans le futur.

[bozart]

Quelle marque, la boule de cristal ?   

[jenga]

Cette question n'existe pas pour moi. Notre fonctionnement lui-même fait apparaître ce que tu appelles une composante immatérielle. Elle nous est constitutive.

Là, nous sommes clairement en désaccord, mais comme c'est une question philosophique (*) je ne tenterai pas de te convaincre.
Pour ma part, je ne sais pas si cette composante existe ou non.

(*) j'entends par là que l'immatériel étant par définition non accessible aux sciences (non observable, théories non réfutables par l'expérience), la question de son existence est en dehors de la science.

[jenga]

Pour rebondir sur l'idée des mathématiques, évoquée dans le précédent fil  :

https://www.radiofrance.fr/franceculture/podcasts/un-monde-connecte/un-monde-connecte-chronique-du-mercredi-21-octobre-2026-3099154

Et sur le rapprochement humain/machine :

https://www.radiofrance.fr/franceculture/podcasts/la-science-cqfd/l-ia-souffle-dans-l-algotest-1340696

A mon avis, ce sont des articles d'opinion, à charge, avec pas mal de cherry picking . La machine a fourni des preuves des théorèmes revendiqués, il est donc possible de vérifier ces preuves pas à pas. Cela peut être long et complexe, mais c'est comme cela dès qu'on s'attaque à un problème non résolu depuis longtemps. Si la preuve tenait en 3 lignes simples, elle aurait été faite depuis longtemps.

Quand Wiles a démontré le théorème de Fermat en 1993 (on devrait plutôt parler de la conjecture de Fermat et du théorème de Wiles), la revue des 200 pages de sa preuve par les pairs a pris 2 ans, et cette complexité n'a choqué personne.

[jenga]

-  La confusion est entretenue à la base, puisque le terme "intelligence" n'a pas le même sens en anglais et en français. C'est déjà la source de nombreux malentendus.

Je ne crois pas qu'il y ait d'ambigüité sur le sens du terme "intelligence" dans l'expression "artifical intelligence", créée par un anglophone (John Mc Carthy) pour décrire la simulation de la pensée et du raisonnement par des machines.

Personne n'étant capable de définir exactement ce qu'est "l'intelligence" ( en français...) ni d'expliquer exactement comment un cerveau humain fonctionne ( les spécialistes de l'IA nous disent d'ailleurs qu'ils sont, à ce stade déjà, dans l'impossibilité d'expliquer exactement les résultats obtenus, ce qui commence à être inquiétant...) on voit bien que tout ceci est la porte ouverte à toutes les interprétations et élucubrations.

L'IA ne tente pas de reproduire le fonctionnement du cerveau humain, mais de produire des résultats similaires dans des tâches supposées nécessiter l'intelligence humaine.

De mon point de vue, le tournant a été, en 2016, la victoire d'AlphaGo sur le champion du monde de Go, Lee Sedol.
Non seulement, cela était jugé impossible parce que ce jeu, trop complexe, ne peut être joué efficacement par force brute, mais la victoire a été acquise grâce à un coup totalement inédit, qui a déconcerté les experts.

Et surtout la machine a appris à jouer toute seule, à partir des seules règles du jeu, en jouant contre elle-même: aucune intelligence humaine ne lui a appris à jouer. Il me semble clair qu'on a ici une machine capable de produire des résultats étonnants dans un domaine relevant de l'intelligence humaine.

Plus récemment, les IA génératives arrivent à simuler l'intelligence humaine en photo (compréhension d'un prompt textuel coordonné avec l'analyse d'une image donnée pour générer une nouvelle image), en traduction, en écriture de roman, etc. Cela montre leur capacité à produire des résultats étonnants dans différents domaines relevant de l'intelligence humaine.

[jenga]

les spécialistes de l'IA nous disent d'ailleurs qu'ils sont, à ce stade déjà, dans l'impossibilité d'expliquer exactement les résultats obtenus

C'est exact si l'on s'intéresse au fonctionnement microscopique des IA. On constate que les performances des grands modèles augmentent beaucoup plus vite que leur taille, ce qui est contre-intuitif car en général augmenter la "puissance" ne permet d'augmenter que marginalement les performances, au-delà d'un certain seuil.

C'est la force des IA (la croissance exponentielle de leur capacité d'inférence) et leur faiblesse en terme de "explicability": une recherche rapide vous montrera que c'est un thème de recherche important, en particulier pour les applications de sûreté qui nécessitent de prévoir, maitriser, les sorties de la machine dans toutes les situations.

D'un point de vue technique, les informations traitées dans un LLM sont représentées par des "vecteurs" de plusieurs milliers de composantes. En maths, les composantes représentent des axes indépendants, nommés "dimensions" (il faut 2D pour un dessin, 3D pour une sculpture, et au-delà c'est plus difficile à représenter..)

Quelques milliers de dimensions c'est beaucoup, mais très inférieur au nombre de concepts indépendants qu'un LLM peut manipuler. Alors, comment les représente-il?

Une explication possible à ce paradoxe est le lemme de Johnson-Lindenstrauss (cf. article Wikipedia). C'est un peu technique, mais ça dit en substance que moyennant une petite distorsion, un espace d'une certaine dimension peut représenter un espace de dimension exponentiellement plus grande (le lemme est écrit dans l'autre sens, du grand vers le petit, donc de N vers log(N)

L'exponentielle de quelques milliers étant un nombre faramineusement grand (il n'y a pas assez d'atomes dans l'univers pour l'écrire en décimal en arial 10), on a une idée de la clé de ce paradoxe de croissance exponentielle de la performance... et de la cause des problèmes "d'explicabilité".

Cela écrit, on n'explique pas davantage le fonctionnement du cerveau humain...

[bozart]

Tout est dans la dernière phrase.
La comparaison systématique avec la pensée humaine, même si elle a guidé les recherches, n'est pas très intéressante.
Ce sont des machines, matérielles mais non biologiques et non vivantes, voraces en ressources et argent.
L'intérêt de ces systèmes est ailleurs que dans cette comparaison. L'émergence de quelque chose "d'inexplicable" n'est pas si impressionnante que ça : dans un nombre aussi dément de données et de programmes permettant aux machines elles-mêmes de créer, je ne vois pas là de phénomène si surprenant. Entretenir le mystère ? Mouais...
Peut-être aussi détourner l'attention.
(Ce n'est pas parce qu'il faudrait du temps pour expliquer que ça n'est pas explicable).

Tout ce qui est vulgarisé fait passer à la trappe de nombreuses notions tout à fait explicables. Quand on se penche sur le sujet, certes c'est copieux, comme pour tout système complexe.

Mais ça ne remet pas encore les humains à leur place. Alors que ce sont des outils d'un intérêt incroyable, ils sont plutôt imposés, intrusifs, souvent inutiles et destructeurs.

Les laisser à disposition de tous, les utiliser pour tout, pour n'importe quoi et n'importe comment est juste dingue. Là est le vrai sujet.
Que ces machines soient puissantes c'est une évidence. Depuis le tout début. Mais cette course avec la comparaison cerveau/machine....cette course mondiale à la puissance et aux mains d'entreprises qui n'ont pas de scrupules et jettent sans cesse en pâture des effets d'annonce...
Que de dégâts. Alors que ce sont des outils géniaux.