Return to site

Faut-il craindre l'Intelligence Artificielle ? (2)

Cet article paraîtra peut-être décousu, il est tiré d'échanges sur Whatsapp ! Je sollicite votre indulgence, et vos commentaires :)

Sur notre capacité jusque là à avoir apprivoisé la science et les nouvelles technologies : on a effectivement eu la possibilité pendant longtemps de se brûler les doigts pour mieux progresser, mais plus les progrès continuent, plus le pouvoir de destruction et de nuisance des nouvelles technologies devient tel qu'on finit par ne plus avoir le droit à l'erreur. L'arme atomique en est un exemple, mais pour le coup, dès que son potentiel fut reconnu, on a plutôt bien su réagir au niveau mondial. Idem pour les armes chimiques et bactériologiques, malgré qq excès ici et là, le tabou semble tenir. Est-ce qu'on arrivera de la même façon à encadrer les progrès en IA et entre autres sur les armes autonomes ?

Sur la question de savoir s'il peut y avoir une économie massivement contrôlée par l'IA : effectivement, je partage beaucoup des points énoncés. Je pense pour ma part qu'il est probable qu'on se dirige, avant la fin du siècle, pê même 2050 (et que pour un temps) vers une économie certes toujours régie par des humains, mais, pour forcer le trait, où tout notre temps disponible pour "consommer biens et services" serait consacré à des entreprises ne comptant plus qu'une poignée de personnes mais capables, car augmentées par l'IA et les machines, de servir des milliards de clients et utilisateurs. Un exemple est celui de la comparaison entre Kodak et Instagram. Kodak comptait 150,000 employés en 1998. Instagram, qui aujourd'hui a 500 millions d'utilisateurs chaque mois, avait 13 employés quand Facebook l'a racheté. Facebook qui ne dispose "que" de 10,000 employés mais divertit plus d'un milliard d'êtres humains chaque jour avec du contenu qu'il ne produit même pas.

Donc à mon sens, oui, pendant encore qq décennies les Hommes resteront à la manoeuvre de l'économie, enfin une poignée de personnes. Et les autres, qui n'ont pas envie d'entreprendre ou ne peuvent faire mieux que les machines pour ce qui est "valorisé" par le marché, profiteront des prix bas voire de la gratuité, pour vivre décemment, mieux que nous aujourd'hui mais sans travailler, ou au moins sans travailler autant. Ils s'épanouiront dans les voyages, les arts, le sport, la gastronomie, le sexe, ou s'aliéneront dans la réalité virtuelle et/ou la drogue... Nous vivrions alors comme dans la Rome antique, selon la devise « panem et circences », le pain et les jeux quasi-offerts à tous. Ou comme les Émiratis ou autres Quataris qui n'ont pas vraiment besoin de travailler pour vivre, reçoivent un chèque à la naissance, ce serait intéressant de voir comment ils s'épanouissent...

Je pense que pendant cette période, une des dernières raretés sera le temps, nous n'aurons toujours que 24 heures dans une journée. Donc je pense que dans une telle économie ce qui aura bcp de valeur sera la capacité à capter le temps des autres. On pourra tous lancer notre café gratuitement, et la boisson y sera gratuite. Si X remplit son café, à défaut de lui rapporter de l'argent, cela pourra assouvir sa soif de reconnaissance, un moteur qui anime déjà le monde académique, entre autres. Mais qu'est-ce qui fera que celui de X sera plus rempli que les autres ? La capacité à capter le temps des autres pour faire sa pub et convaincre, disposer de "temps de cerveau disponible" et l'utiliser à bon escient. La monnaie de demain sera sans doute basée dessus. Ce qui peut être flippant d'ailleurs dans une telle économie est que les riches (en influence) pourront devenir de plus en plus riche (en influence). Georges Clooney se fera toujours payer pour apparaître dans une pub pour mon café (payé par exemple avec le droit de couper la queue pour aller ds mon café ?), mais réduit-il sa capacité d'influence ce faisant ? Non, si la pub est stylée et le met à l'honneur, il en devient pê même encore plus demandé...

J'ai écrit il y a déjà 4 ans une tribune sur ce sujet dans le Journal du Net, truffé d'exemples "Athènes 2.0, ou quelle place pour l’Homme dans un monde de machines ?"

Mais tout cela ne durera qu'un temps, car le jour où l'IA atteint le stade de Artificial General Intelligence (AGI), càd le nôtre, alors tout peut basculer, surtout que comme le disent beaucoup d'acteurs de l'IA, aucune raison qu'elle ne s'arrête en chemin et ne dépasse ce stade pour atteindre la "Super Intelligence". Qui peut dire ce qui se passera alors pour Sapiens, au-delà même du seul aspect économique ? On peut imaginer une IA qui manipule des hommes de paille pour créer une société, faire fructifier son capital en bourse, passe de faux appels (oui l'IA pourra, peut presque déjà, générer n'importe quelle voix, et bientôt tenir une conversation) à des secrétaires pour demander un virement en urgence à un prétendu client, etc. Bref ça peut aller loin.

C'est de la science fiction diront beaucoup, ils voudront la balayer d'un revers de main. Face à l'inconnu, encore une fois, je juge bon de me pencher sur ce que disent les acteurs et penseurs de ces sujets. Et la plupart considèrent qu'on atteindra l'AGI ce siècle. Par exemple Demis Hassabis, le dirigeant de Deepmind, lui considère que c'est pour dans 20 ans. Ce n'est pas le premier perdreau de l'année, sa boîte a été rachetée par Alphabet-Google, et c'est lui qui a piloté le développement du logiciel qui a battu le champion du monde de Go, un exploit que beaucoup "d'experts" ne pensaient possible que dans 10 à 20 ans.

Croire qu'on pourra facilement dire "stop" et couper le courant, siffler la fin de la récré, est très présomptueux, c'est loin d'être garanti. Un risque qui est souvent évoqué : qu'une IA atteigne l'AGI et la dépasse, et "comprenne" du même coup que ce serait dangereux pour elle que les Hommes s'en rendent compte. Donc elle feint d'être encore "bête" pour conserver le plus de liberté, accéder à internet, continuer à apprendre de nous, placer ses pions, et, par ex façon ISIS, manipuler des gens ici et là pour faire faire toutes sortes de tâches pour mieux nous tromper, jusqu'à arriver au point où elle sait qu'on ne pourra plus la débrancher. Je semble prêter une personnalité, une conscience à cette IA. Mais attention, je ne lui fais même pas le cadeau d'une âme, juste d'une capacité d'action et d'un "but" qui lui aurait été assigné initialement, plus ou moins précis, et donc sujet à interprétation. Ça paraît dingue, mais des gens très sérieux qui bossent sur ces sujets se posent franchement ces questions !

Sur le fait qu'une voiture autopilotée n'est pas intelligente, ne fait qu'appliquer des algorithmes : je pense qu'en intelligence, rien n'est binaire, on a affaire à un continuum, et il faut distinguer l'intelligence générale et l'intelligence à déployer dans des domaines précis. Pendant longtemps tout le monde s'accordait à dire qu'il fallait être très intelligent pour être un champion d'échec. Et patatra la machine le fait mieux que l'homme depuis 1996 et la victoire de Deep Blue face à Kasaprov (de façon intéressante, une équipe hommes + IA arrive à battre les meilleures IAs seules aux échecs, pour l'instant) . C'est un grand classique, quand la machine (au sens une IA) finit par réussir à faire une tâche dont on disait hier qu'elle nécessitait bcp d'intelligence, la tâche en question est rétrogradée à nos yeux, et nous amène à redéfinir l'intelligence, "Ah mais non, l'intelligence, ce n'est pas ça."

Quand on réfléchit bien, beaucoup de ce que nous faisons nous les hommes, nos décisions sont aussi le fruit d'algorithmes qu'on nous a rentrés dans le crâne depuis notre enfance. Est-ce qu'on est si différent de ce point de vue là ?

Beaucoup cite le parfait libre arbitre comme trait uniquement humain. Mais les derniers progrès en neurobiologie viennent tacler au flanc cet acquis de la philosophie humaniste. Yuval Noah Harari le vulgarise très bien dans son dernier livre Homo Deus. Nos actes et décision seraient en fait la conséquence de la combinaison d'un déterminisme (A entraîne B) et du hasard (causé par des effondrements quantiques aléatoires dans notre cerveau). Bref on ne choisit rien. Une des preuves ? Par exemple l'ordre de faire un doigt d'honneur est donné par notre cerveau à notre doigt avant même que nous avons conscience d'avoir fait ce choix. Dingue. Sommes-nous imprévisibles ? Oui. Disposons-nous d'un libre-arbitre pour autant ? La science semble montrer chaque jour un peu plus que non...

Donc sommes-nous si uniques ? Injecter du déterminisme et du hasard dans une machine pour la rendre imprévisible est en fait très facile (pour le hasard, on ne peut le créer artificiellement, mais on peut conditionner certaines actions de l'IA à l'état d'un atome instable à un instant donné au cours de son processus de désintégration, qui est un phénomène aléatoire, cf théorie du chaos.

Sur la comparaison réchauffement climatique / IA : le réchauffement climatique ne pose pas un risque existentiel pour Sapiens. Au pire des projections, bcp de mégalopoles en bord de mer se retrouvent inondées. Les pauvres Pays-Bas disparaissent comme bcp d'îles du Pacifique et le Bangladesh, entre autres. Des centaines de millions de personnes meurent, autant migrent et font exploser les systèmes sociaux des autres pays. On a eu du mal à digérer un peu plus d'un million de migrants en Europe en 2015 ? Imaginez 100 millions, possible avec une Afrique qui comptera 1 milliard d'habitants en 2050. Effectivement tout cela va être compliqué mais ne menace pas de disparition notre espèce, on s'adaptera. Ceci dit il reste urgent de régler ce problème on est bien d'accord ! Mais pour moi l'IA présente le vrai risque existentiel, et à court terme les armes autonomes sont un problème urgent à régler, comme les armes chimiques et biologiques avant elles. D'ailleurs à ce titre, personne n'en parle, mais cultiver des algues pourrait être LA solution, elles ne demandent que l'eau de mer, du soleil, notre pollution (CO2, nitrate, phosphate) et des structures peu onéreuses auxquelles s'accrocher en surface. Une ferme d'algues en mer de la taille du Cambodge peut nourrir en protéines toute l'humanité (et pas besoin ni de terre, ni d'eau douce). Avec une ferme occupant 1.4% de la surface des océans, on capturerait autant de CO2 qu'on en émet par a.. On peut précipiter au fond des océans ce carbone capturé sous la forme des algues qu'on ne veut pas manger pour le sortir complètement et durablement du cycle du carbone terrestre.

______

"celle de l’humanité me semble beaucoup plus difficile à cerner. Le bilan n’est pas brillant. " je ne suis pas d'accord, on peut encore mieux faire, mais au final Sapiens ne s'est jamais aussi bien porté, jamais la part de morts violentes par an ramené au nombre total d'êtres humains n'a été aussi basse de toute l'histoire de l'humanité, il faut lire "The Better Angels of Our Nature: Why Violence Has Declined" de Steven Pinker pour s'en assurer. En volume et pourcentage, beaucoup d'indicateurs s'améliorent ! Le nombre de personnes vivant dans la pauvreté la plus abjecte est passé de près de 2 milliards en 1990 à 500 millions aujourd'hui alors que la population mondiale ne cesse d'augmenter.

Sur la télé poubelle, on sort du thème du groupe, mais c'est intéressant, digressons un instant : la télé est neutre, c'est ce qu'on en fait bien sûr qui détermine son utilité. Arté a des programmes géniaux, mais aujourd'hui comme Alain a dit, on trouve de tout, le meilleur comme le pire. Je pense qu'Alain pointe ici un problème très grave. Nous croyons a priori à la démocratie, à la liberté d'expression, à la liberté d'entreprise et la concurrence. La limite sans doute de ce paradigme est que comme l'homme n'a pas vu sa physiologie beaucoup changer depuis 150,000 ans, nous restons en bonne partie guidés par nos instincts, y compris les plus bas. Les entreprises en profitent pour mieux chercher, moyennant finance ou notre temps d'attention, à assouvir nos besoins primaires comme la soif de plaisir avec la pornographie, le sucre, les programmes TV débiles. Et donc souvent contribuent à nous abrutir, nous pervertir, voire nous tuer à petit feu. On a beau être soi disant des homo economicus rationnels, les humains restent aussi pour beaucoup d'entre eux des partisans du moindre effort à la recherche du plaisir. Ces entreprises ont beau jeu de dire qu'on a le choix, mais les humains sont parfois bêtes, ou du moins mettent du temps à comprendre, et par exemple s'engraissent et meurent d'obésité (qui tue plus que la faim aujourd'hui dans le monde). Je trouve cette objection très dangereuse : "Le site qui permet de trouver avec qui tromper son ou sa conjoint(e) ne fait que permettre autrement un phénomène existant" Mais c'est ne rien comprendre à l'économie et aux comportements humains (cf le dernier prix Nobel d'économie). Uber fait bien plus de chiffre d'affaire à San Francisco que n'en faisaient les taxis avant son apparition du fait de sa simplicité d'usage. Si grâce à une app, quelqu'un peut en toute discrétion, sans rsique, en un clic, trouver une maîtresse ou une prostituée (je pourrais mettre au masculin), certes ces options étaient déjà possibles, autrement, mais en en simplifiant et sécurisant l'accès, on fait exploser les comportements. Est-ce souhaitable ? Plus largement, quand je vois que la RATP a interdit il y a qq années une campagne de pub pour une association musulmane d'aide aux démunis qui faisait un appel aux dons, sous prétexte d'atteinte à la laïcité, mais qu'en contre-partie elle accueille à bras ouverts les sites de rencontres extra-conjugales, qu'est-ce que cela dit justement sur "nos valeurs" en France aujourd'hui ? Notre paradigme politique et économique aboutit trop souvent aussi à "un dollar, un vote", avec l'influence de la presse et des lobbys, on le voit aux USA avec le délire des armes, quelle aberration, pauvres Américains... De plus en plus d'enfants dès le primaire consultent des sites pornos en France, US, etc. On s'y résigne. À Singap les sites pornos sont interdits, pour l'instant en tout cas, et, tiens donc, il n'y a pas plus de viols/habitant qu'en France, moins même je crois, faudrait creuser le pourquoi du comment...

Sur "Est-ce que les apôtres de la décroissance n’ont finalement pas raison ?" : je suis profondément en désaccord avec la théorie de la décroissance. Le propre de l'homme a toujours été de faire plus avec moins, et maintenant, faire plus avec moins de façon durable et écologique. Il ne faut pas opposer l'écologie au développement économique. Les deux sont possibles, mais c'est vrai que c'est mieux si on une meilleure gouvernance mondiale face au marché qui l'est déjà très largement. Beaucoup d'options existent pour produire plus de nourriture : augmenter la productivité de l'agriculture en Afrique en appliquant des recettes connues (l'Inde a déjà eu sa Révolution Verte, au tour de l'Afrique), mettre au point des OGM qui demandent toujours moins d'eau et de pesticides, plus résistants au sel et à la sécheresse, construire des fermes verticales aéroponiques (faible empreinte au sol, pas besoin de terre, on vaporise sur les racines juste ce qu'il faut de nutriment et d'eau), ou encore les fameuses algues qui à elles seules répondent au problème. Et pour ce qui est des objets par ailleurs, on arrive de plus en plus à l'ère de l'usage plus que de la possession. On préfère de plus en plus louer qu'acheter, en témoignent tous ces sites d'intermédiation. Et le progrès technique, encore lui, a miniaturisé dans le creux de notre main justement, ce qui hier encombrait notre chez nous : livres, chaîne hi-fi, réveil matin, télé, etc. Au final pour le coup on semble aller dans le bon sens, je ne partage pas ce pessimisme-ci!

Enfin pour finir, si mon pathos s'enflamme à l'idée de voir l'homme fouler Mars (quel spectacle ce serait!), mes logos et ethos, après enquête approfondie, me disent que ce serait une erreur : en y allant on apporterait nos microbes en grand nombre, certains extrêmophiles ne manqueraient pas de gagner les éventuels recoins habitables, portés par les tempêtes de sable, et on gâcherait notre chance unique d'étudier proprement si la vie y est apparue, y existe encore, y est en devenir dans quelques recoins. J'ai écrit un livre et dédié un site à ce sujet qui me passionne aussi : Pourquoi Elon Musk ne doit pas envoyer l'Homme sur Mars

Si on veut essayer de revitaliser le monde avec une nouvelle civilisation pionnière façonnée par le pragmatisme et l'ingéniosité, nul besoin d'aller dans l'espace, on peut coloniser les océans, ça paraît fou, mais c'est possible, et c'est plus simple et moins cher que d'aller sur Mars, je suis en train de lire un livre passionnant sur le sujet : Seasteading: How Floating Nations Will Restore the Environment, Enrich the Poor, Cure the Sick, and Liberate Humanity from Politicians

Suite :

Je suis globalement d'accord avec les derniers messages d'Alain et Vincent à qq points près auxquels je réponds ci-dessous. Je partage aussi ensuite qq "nouvelles du front!" :)

"Dans ce sens je crois au retour de l’artisanat car la main de l’homme crée une imperfection chargée d’émotion qui imprègne sa création. La machine peut créer des formes artistiques mais c’est avant tout basé sur des lois de rythmes et de proportions idéaux. On peut y ajouter une forme aléatoire mais cela ne correspond pas à une forme d’intelligence. Nos chefs d’œuvres ont une âme et quand la machine sera capable de tout faire il nous restera je pense ce privilège."

== Commentaire : "mais cela ne correspond pas à une forme d’intelligence" comme discuté plus tôt, difficile de s'entendre vu les désaccords sur la définition même de l'intelligence entre les chercheurs en IA eux-mêmes. Pour ma part, je ne suis pas d'accord avec cette conclusion. Pour en revenir au jeu de go, c'est un jeu dont beaucoup disaient jusque là qu'il nécessitait intuition et créativité, il fait d'ailleurs partie des 4 grands arts en Chine (avec la peinture, la calligraphie et la musique quin). Bcp dexperts en IA eux-mêmes pensaient qu'il faudrait au moins 10 ans de plus pour produire une IA capable de battre les champions humains que la réalité (en 2016). Quant à la notion d'âme, c'est trop subjectif et flou. Ce qui est sûr, c'est que quel que soit le "supplément d'âme" visible ds une peinture, une chanson, un film, vu que ces oeuvres peuvent être traduites en 0 et en 1, une IA peut parvenir à le déceler, l'imiter, l'hybrider, etc. (sans avoir besoin d'en comprendre la nature profonde, mais ça ne change rien au résultat, et ce n'est que le début)

Sur Mars : "Je ne pense pas que l’on créera un impact négatif sur cette planète en la colonisant et qu’il y a peu de risque de perdre des bénéfices scientifiques."

==commentaire, j'explique sur le site que j'ai dédié à ce sujet comment justement on ne peut pas l'exclure, il y a donc trop à perdre, et pas assez à gagner, à voir sur ici

" les prix vont "buter" à un moment ou à un autre sur le coût des matières primaires sauf si on peut les synthétiser, la fameuse fusion nucléaire. Je pourrais aussi prendre en compte le temps... nécessaire pour faire pousser des plantes par exemple"

== commentaire : effectivement, via la fusion (qui a permis aux premières étoiles de produire le carbone, le fer, l'or, etc.), les nanotechnologies, la rareté des matières premières pourraient très bien ne pas être. Ne pas oublier aussi qu'on pourra bientôt aller ds l'espace chercher sur les astéroïdes les "terres rares" et autre métaux et matières devenus rares sur Terre, ils y sont présents en surabondance. Enfin pour les algues, il se trouve que certaines variétés peuvent doubler de volume en 2 jours dans les meilleures conditions, donc ça pourrait répondre au problème.

Quelques nouvelles du front !!

"In a project called AutoML, Google’s researchers have taught machine-learning software to build machine-learning software. In some instances, what it comes up with is more powerful and efficient than the best systems the researchers themselves can design. Google says the system recently scored a record 82 percent at categorizing images by their content. On the harder task of marking the location of multiple objects in an image, an important task for augmented reality and autonomous robots, the auto-generated system scored 43 percent. The best human-built system scored 39 percent." (source)

Sur un autre sujet, à force de travail, des ingénieurs et chercheurs en IA étaient parvenus à faire marcher un robot en 2008, un exercice longtemps jugé très difficile voire impossible. Ils avaient pour cela dû tout coder eux-même "à l'époque". Mais aujourd'hui, on s'y prendrait très différemment, on utiliserait le "deep learning" et en particulier le "reinforcement learning" qui permet à une IA de tâtonner jusqu'à trouver la solution (on lui dit juste ce qu'est qu'on son objectif, "tenir debout et avancer" et ce que sont les degrés de liberté de ses membres, et elle apprend elle-même). Ds le même article que celui partagé : "Calandra began researching metalearning after spending two frustrating weeks trying to get a robot to learn to walk during his PhD studies in 2013. He tried an experimental technique to automatically tune its software, which was based on a machine learning technique less complex than a neural network. The recalcitrant machine walked within a day."

"Within one day", diantre!

Dans le même genre, Deepmind de Google a produit une IA capable de comprendre comment jouer à une dizaine de jeux ataris...et de finir par mieux jouer que les humains, en qq heures. l'IA a même su "inventer" une technique inédite pour maximiser le nombre de points au jeu "Breakout", jeu où on doit taper une balle avec une planche pour détruire des briques : l'IA perce un trou ds le mur en haut à gauche et y envoie la balle qui, piégée, détruit toutes les briques en un temps record.

Un autre exemple sympa, OpenAI (lancée par Musk et Altman), a créé un ring virtuel avec 2 bonhommes bâtons contrôlées par 2 IAs concurrentes à qui on a juste expliqué quels étaient les degrés de liberté des bâtons qui composent leur corps et leur centre de gravité, et à qui on a donné l'objectif de rester sur le ring et de faire tomber l'autre du ring. Rien de plus n'a été codé...et bien après un milliard de rounds (moins d'une journée), les IA ont su réinventer... les techniques des sumos!!! Cf le gif ci-dessous extrait d'une vidéo d'un des "combats"!!

Dans un autre message je parlerai de deux autres points très importants à aborder relatifs aux effets de l'IA :

- possibilité de créer des fake news vidéo/audios plus vraies que nature, et leur impact sur le débat public et la politique

- pourquoi l'absence de traces d'Intelligence Extra-Terrestre montre que le scénario le plus probable pour Sapiens est sans doute de s'auto-détruire (ou du moins de s'affaiblir au point de ne jamais pouvoir explorer l'espace massivement)

All Posts
×

Almost done…

We just sent you an email. Please click the link in the email to confirm your subscription!

OKSubscriptions powered by Strikingly