La singularité ? est ce possible ?

August, 11, 2010
Sylvain

Comme promis, je continue sur la notion de singularité, ce coup ci pour vous faire part de mon scepticisme. Je vais procéder avec une belle liste à points, ce sera plus facile que d’essayer de structurer ma pensée.

  • Des machines avec la même puissance de calcul que le cerveau humain apparaitront très rapidement maintenant, puis la puissance ne fera que croître sans jamais connaitre de limites autre que celle liées à la taille de l’univers.

Vous n’y croyez pas ? moi non plus, déja on ne sait absolument pas ce que veut dire “puissance du cerveau humain”, on trouve des estimations à la *** un peu partout basées sur l’estimation du nombre de neurones et de connexions entre neurones. Mais il semble pourtant que certains processus cognitifs soient basés sur plus que la simple connexion entre 2 neurones, mais plutôt sur des chemins plus long (des chaînes de neurones).

Ensuite, il y a des limites physiques à la croissance des machines de calcul : on ne peut pas graver plus finement que la taille d’un atome (au pire, actuellement on est autour de 200 atomes), et sur ces petites tailles les fluctuations quantiques commenceront à avoir une effet réel sur le calcul, ce qui n’est pas le cas actuellement. Par ailleurs si on procède en faisant des machines parallèles, il faudra alors améliorer les communications (le réseau) ce qui est non trivial, d’autant qu’il y a des barrières d’impossibilité théoriques en algorithmique parallèle (une machine puissante sans algo ne calculera pas grand chose). Enfin se pose le troisième problème de l’energie nécessaire pour faire tourner la machine, une machine exaflopique aurait besoin de $2 \times 10^9$ Watts (2 à 3 centrales nucléaires tournant à plein régime !). Pour info un cerveau humain consomme 20 W !

Par ailleurs, la loi de Moore a une loi corollaire : celle de Rock, qui stipule que le coût d’une fonderie de processeurs double tous les 4 ans, or l’argent n’est pas en quantité infinie sur Terre !

800px-PPTSuperComputersPRINT

La courbe ci dessus est celle utilisé par les singularistes pour nous faire croire qu’on aura très bientôt des simulateurs de cerveaux humain, alors qu’on ne sait pas encore comment fonctionne le cerveau ! J’avais trouvé une analogie amusante sur un blog US, l’idée est de dire que si l’on multiplie par 1000 le nombre d’habitants d’un pays du tiers monde (un de ceux sans espoir, ravagé par la guerre civile, la famine et les maladies) on ne le transforme pas en version améliorée de la Californie. Le nombre et la puissance ne fait pas tout.

  • La première Intelligence Artificielle sera bientôt active sur cette machine de la puissance d’un cerveau voire plus.

Là encore je n’y crois pas, en tout cas pas pour tout de suite. En fait nous construisons des machines dites RAM (ou PRAM pour les versions parallèles), ce modèle théorique de calcul est une version un peu amélioré du modèle de la machine de Turing (même puissance théorique, mais plus simple à manipuler). Dans ce modèle, l’algorithmique et la complexité sont (un peu) balisées. On a défini des classes (P, NP et ce genre de choses) et de très nombreux résultats d’impossibilité, de non décidabilité, etc. Les noms de Godel, Church, Turing et consors ne vous disent peut être rien, mais les travaux de ces logiciens laissent à croire que certains problèmes sont hors de portée des formalismes actuels.

Plus prosaïquement, des tâches très simples sont des échecs épiques pour nos machines, et ce n’est pas en leur donnant de la puissance supplémentaire que cela fonctionnera mieux. Il y a d’ailleurs une belle confusion chez certains sur le fait que l’IA est équivalente à l’interface d’interaction parfaite avec un humain (le test de Turing serait alors une vraie preuve d’intelligence). Pourtant même chez les humains la maitrise de la communication n’est pas une preuve d’intelligence, et réciproquement (n’avez vous jamais entendu parler des autistes ?).

  • Le rythme de découverte scientifique est tel qu’en fait ce qui a été dit plus haut arrivera car les barrières vont être levées à un moment ou un autre.

Bien sur, de nouvelles découvertes peuvent toujours infirmer certains de mes dires, mais je doute que les preuves de résultats d’impossibilité deviennent fausses soudainement, et je doute que les lois de la thermodynamique changent d’ici peu… Par ailleurs, malgré tout le discours positif de Ray Kurzweil, le rythme des découvertes est en train de s’infléchir (Tainter, 1988), avec un pic qui se situe autour de 1900 !

  • Une fois la première IA crée, elle en créera une autre plus intelligente, qui en créera une autre plus intelligente, jusqu’à la singularité ! Un degré d’intelligence tel que les humains ne sont plus capables de l’appréhender, pas plus que ses conséquences.

Là on passe dans la science-fiction, pourquoi le but d’une IA serait de faire des IA de plus en plus intelligentes ? qu’est ce que cela veut d’ailleurs dire ? est ce que ces IA seront conscientes d’elle mêmes ? Cela fait beaucoup de questions auxquelles les singularistes répondent ce qui les arrangent bien pour dire qu’on va droit à la singularité, notamment en prétant à une intelligence supérieure le même but qu’eux !

Be Sociable, Share!

3 Responses to “La singularité ? est ce possible ?”

“Pour info un cerveau humain consomme 20 W”

La clé est là.

Si on met de coté les sérieux problèmes d’éthique, et en supposant que nos machines toujours plus puissantes nous permettrons de graduellement comprendre et maitriser les processus de génération d’un cerveau biologique, alors il ne me parait pas inconcevable qu’une intelligence non façonnée par la sélection naturelle puisse voir le jour.

La frontière entre naturel et artificiel serait bien mince dans un tel scénario.

metagoto, 11 August 2010 at 15:55

J’ai choisi de repousser la discussion sur la biologie plus tard, mais la plupart des singularistes sont loin de comprendre la biologie, d’où le fait évident pour eux que l’IA sera un ordinateur. Et d’où mes reserves sur les modèles de calcul et les résultats théoriques de calculabilité.

Mais concernant la biologie les barrières sont encore plus forte, en tout cas la prospective beaucoup plus lointaine. Par exemple le grand public croit qu’on sait tout de l’ADN car on a séquencé tout le génome humain, or c’est plus que faux, on vient à peine de comprendre qu’il y a une relation entre la spatialité du repliement de l’adn et les fonctionnalités biologiques (le même brin peut donc avoir plusieurs fonctions selon le milieu dans lequel il se trouve).
Sinon, on sait très bien fabriquer des intelligences biologiques, cela s’appelle faire des enfants, et on voit que ça ne donne pas une spirale exponentielle d’accroissement de l’intelligence…

Enfin, l’intelligence biologique n’est pas liée au nombres de neurones, sinon les gros animaux seraient plus évolués que nous. Je crois que les éthologues disent qu’il faut la capacité à communiquer et à se servir d’outils, mais je ne suis pas éthologue, alors c’est sous toutes réserves.

Sylvain, 11 August 2010 at 16:07

Nous sommes d’accord que le séquençage de l’ADN humain n’a pratiquement rien n’apporté si ce n’est de nouvelles questions (j’ai envie de dire, heureusement).

Mais à terme, je parierai plus facilement sur une victoire d’une intelligence issue de la biologie plutôt que du silicium, si course il doit y avoir. Tu as tout à fait raison de dire qu’on sait très bien produire des intelligences biologiques avec les enfants. J’ai d’ailleurs hésité à dire dans mon précédent post que des singularités se produisaient potentiellement à chaque naissance! Dans mes propos, il s’agirait plutôt d’une construction contrôlée d’un “cerveau” et de l’attirail nécessaire pour le maintenir en fonctionnement (probablement un corps). Le nombre de neurones n’est pas directement corrélé aux capacités cognitives, effectivement. L’intérêt premier que je verrai à travailler sur une base biologique est énergétique, comme tu l’as mentionné, mais aussi algorithmique: bénéficier de ce que l’évolution a engendré, parce que jusqu’à présent, c’est la seule chose que l’on connaisse et qui génère de “l’intelligence”.

metagoto, 11 August 2010 at 16:47

Leave a Reply

Picture: courtesy of Abby Blank