Return to site

Faut-il craindre l'Intelligence Artificielle ? (1)

Cet article paraîtra peut-être décousu, il est tiré d'échanges sur Whatsapp ! Je sollicite votre indulgence, et vos commentaires :)

1er message

Bonjour à tous,

Je n'interviens pas souvent, excusez donc la longueur du message :)
Sur l'intelligence artificielle, Laurent Alexandre a raison, pour un temps au moins. L'objection "oui mais ça crée bcp d'autres emplois en parallèle" n'est pas recevable, car la question n'est pas de savoir si d'autres emplois sont créés (oui bien sûr), mais y en aura-t-il assez pour combler les pertes ? à horizon 5 ans, 10 ans max, quel job offrir aux 3 millions d'Américains, entre autres, qui conduisent taxis, bus, camions et dont l'emploi sera automatisé? Et si par le passé, les révolutions techniques ont créé assez d'emplois pour compenser les pertes, cela ne prouve pas que demain ce sera le cas. On n'en sait rien.
à ce titre les tâches intellectuelles un poil répétitives sont plus menacées que les tâches manuelles, car les robots restent (encore pr qq temps) chers à fabriquer, là où le coût marginal d'un logiciel est nul.
Une barrière qui tombera d'ici à 5 ans, celle de la langue : avec une oreillette connectée, on me parle en zoulou, j'entends en breton, avec la même voix, intonation, accent. Je réponds en breton, elle entend en zoulou, en temps réel. Quel impact sur l'économie ? Sur la géopolitique ?
Bcp en effet sous-estiment la vague, le tsunmi qui se profile à l'horizon, ça ira bcp plus vite que par ex la révolution agricole qui a, en partie, provoqué une crise de surproduction, chute des prix, ruines des fermiers et crise de 29, ça sera bcp plus massif et transversal. L'IA commence à comprendre ce qu'il y a sur nos photos, vidéos, peut reconnaître les sons, les voix. Saura les générer. Demain, très bientôt, l'IA aura vraisemblablement tellement progressé sur la compréhension du langage que bcp d'autres emplois seront condamnés. Il existe déjà des logiciels de recherche documentaire juridique (recherche sur des concepts, pas que des mots clefs) qui font en qq secondes et pour qq dollars ce qui hier prenaient des dizaines de juristes, des semaines et coûtaient des millions de dollars. Un exemple parmi d'autres. Les radiologies, presque 10 ans d'étude, sont condamnés, l'IA sait déjà mieux lire qu'eux les radios. Très bientôt, ce qui sera le plus irremplaçable ds la médecine, ce seront les infirmières. Watson d'IBM diagnostique déjà mieux les cancers que les meilleurs médecins. Demain on aura tous un docteur sur son smartphone, qui analysera nos symptômes à l'aune de millions de profils, imbattable. Cela ne surviendra pas en France ni aux USA, mais sans doute en Afrique où le ratio médecin/patient est ridiculement bas. Mais on l'adoptera tôt ou tard partout: meilleur, plus rapide, moins cher, pourquoi s'en priver ? Que dire aux étudiants en médecine d'aujourd'hui ? Aujourd'hui mon médecin prélève pê 50 infos sur ma santé par an, avec nos apps, ce sera plusieurs millions par jour. On dépensera de moins en moins pour soigner (mais on le fera mieux qu'auj qd même), on prévidiendra quasi tout. Mon médecin a vu 10 000 patients ? 100,000 ? L'app profitera de l"historique de santé de centaines de millions de personnes... Pourquoi lutter ?

C'était juste un exemple parmi plein d'autres...

Laurent Alexandre nous explique qu'il faut aller vers ce que la machine ne saura pas faire mieux que nous. Mais combien de temps cela durera-t-il ? Il n'est pas du tout évident que l'IA ne parvienne pas à créer demain. L'IA peut déjà peindre, écrire des poèmes, des romans, de la musique originale. C'est encore un peu rudimentaire, mais encore une fois, plus on digitalisera des oeuvres, plus on aura de force de calcul à disposition, plus seront écrits des logiciels qui sauront digérer l'existant, et le recombiner de façon originale, avant même d'introduire assez de nouveauté pour prétendre complètement et sereinement au statut d'artiste! L'IA saura imiter notre voix, en créer une nouvelle, lui faire dire tout et n'importe quoi...et même générer des films, probable. J'ai écrit cette chronique dans le Journal du Net : "Demain l’IA saura générer un épisode de Game of Thrones en une seconde" Allez-la lire :) C'est truffé d'exemples de ce qui existe déjà auj, je ne fais qu'extrapoler l'existant, un peu !

Demain bcp se retrouveront incapables de faire mieux que les machines et IA du moment. Benoît a-t-il raison trop tôt avec son revenu universel ? Ce n'est pas l'inventeur du concept, bcp aux US plaident aussi pour cela. Mais c'est trop tôt disons, bcp d'emplois restent à créer en fluidifiant l'économie en attendant que l'IA fasse sa révolution, donc fonçons, merci E. Macron ! Mais même le moment venu, ce qu'on ne dit pas assez, c'est que si bcp d'emplois vont disparaître, la plupart des biens et services que nous connaissons aujourd'hui verront leur prix tendre vers zéro pour ne pas dire devenir "gratuits". Donc sans doute que les minimas sociaux existants suffiront. J'avais écrit cette autre chronique sur le sujet pdt la campagne présidentielle : "Pourquoi il est trop tôt pour le revenu universel de Benoît Hamon, et pourquoi on n'en aura sans doute même pas besoin même si le travail se raréfie"

Sur un sujet lié, j'avais écrit cette autre chronique (bon le titre exagère, juste histoire de provoquer le débat) : "N'investissez pas dans l'immobilier! Les prix vont converger vers zéro à horizon 35 ans du fait du progrès technologique"

Enfin, dernier lien après j'arrête de vous embêter (pour l'instant), je vous recommande un roman qui vient de paraître, écrit par un de mes anciens employés (son premier roman!), sur le transhumanisme, paru chez Albin Michel et qui commence à faire parler de lui en cette rentrée littéraire (bel éloge ds le figaro magazine notamment) : "Un Dissident" Il en a eu l'idée notamment après avoir lu et vu des entretiens avec Laurent Alexandre !

2nd message

 

Attention, dans mon long message inaugural, je n'ai fait qu'esquisser l'impact possible à moyen terme des progrès en IA sur l'emploi. Comme je disais, la question n'est pas de savoir si de nouveaux emplois "à plus forte valeur ajoutée" seront créés. Très certainement. Mais de savoir si ça compensera les pertes (l'exemple des 3 millions de conducteurs aux US). Je n'ai pas encore cherché pour ma part à partager des prescriptions pour l'instant, c'est un vaste sujet.

Si verser dans l'alarmisme n'est jamais indiqué, je crois profondément par contre que le temps de l'alerte est venu. Le grand public est encore très loin d'avoir pris la pleine mesure du potentiel de l'IA sur nos vies et sur l'emploi, à moyen terme, occupé qu'il est par l'écume du moment. À ce titre je ne crois pas qu'on risque "d'en faire trop" pour l'instant, vu la rapidité des progrès. Si on a enchaîné depuis des décennies les fausses promesses et les "AI winters", la recherche en IA s'est bel et bien réveillée depuis qq années et les progrès sont fulgurants (bien que pas encore visibles plus largement sur la croissance de la productivité au niveau macro).

Attention, qui appelle à paniquer ? Personne, ce n'est pas vraiment le sujet. Et à l'inverse, appeler à ne pas paniquer est une prescription trop floue à mon sens. Qu'est-ce que cela veut dire concrètement ?

Est-ce que l'approche d'Elon Musk et Sam Altman avec Open AI ("OpenAI is a non-profit artificial intelligence research company that aims to promote and develop friendly AI in such a way as to benefit humanity as a whole.") , qui vise à tempérer les avancées du privé, est suffisante ? Je ne sais pas. Excessive ? Je ne crois pas.

Il ne faut pas sous-estimer les futures capacités de l'IA, des IAs. Même si au final bien malin celui qui pourra prédire l'avenir, il faut bien voir qu'une bonne partie des checheurs en IA pensent qu'une IA atteindra le niveau de l'intelligence humaine dans moins de vingt ans, la plupart pensent que ce sera pour ce siècle. On ne peut rester sourd face à cela je crois. Encore une fois, il est très nombriliste de penser que l'IA ne saura pas créer, elle le fait déjà de façon rudimentaire, ce n'est donc vraisemblablement pas une question de nature, mais juste de degré. Et pas même besoin de supposer qu'une IA aurait besoin d'avoir une âme ou même conscience d'elle-même (c'est une objection classique mais qui n'est pas pertinente) pour qu'elle puisse faire mieux que nous les tâches qu'on ne pensait qu'à notre portée.

Une IA s'est déjà montrée capable de produire des intuitions en recherche fondamentale, en détectant des comportements récurrents dans une masse de chiffres qui assommerait tout homo Sapiens. Certaines IA ne sont plus codées pour accomplir une tâche en particulier, mais pour apprendre en s'adaptant. C'est l'exemple d'une IA relativement générique à qui on présente plusieurs jeux vidéos et qui, en tâtonnant parfois de façon ridicule, au début, finit par faire mieux que tous les joueurs humains. On parle aussi déjà d'IAs capables de transférer leur savoir acquis dans un domaine à un autre domaine (voir "Since scientists started building and training neural networks, Transfer Learning has been the main bottleneck. Transfer Learning is the ability of an AI to learn from different tasks and apply its pre-learned knowledge to a completely new task. DeepMind is on the path of solving this with PathNet. Source ).

Quant au besoin d'énormément de données digitalisée pour apprendre, ce sera de moins en moins un problème, au contraire. Déjà car les IA sauront faire plus avec moins, par déduction (voir "A company has developed a type of technology that allows a machine to effectively learn from fewer examples and refine its knowledge as further examples are provided". ). Mais surtout car nos vies seront de plus en plus digitalisées justement, le nombre de capteurs et autres sensors connectés à internet va exploser dans les années à venir d'après tous les cabinets d'étude...

Pour ce qui est de cette histoire de débuggage, effectivement, on n'aura pas besoin d'être un expert pour éduquer une IA, comme on n'a déjà plus besoin d'être un développeur pour créer un site web. Mais ce n'est même pas le plus important je pense : une portion non négligeable des chercheurs en IA diront que certaines IA pourront se débugguer elle-même, se reprogrammer, cf l'article précédent, mais il y a plein d'autres exemples, et il y en aura toujours plus.

Autre remarque intéressante : "Une chute brutale de demande est un mur économique contre lequel peut venir se fracasser une transformation comme celle-ci." C'est possible en effet, mais je pense qu'une perte massive d'emplois sans que nos systèmes sociaux n'aient eu le temps de s'adapter pourrait avoir une conséquence autrement plus signifiante que de freiner le développement des IAs. Je parle de troubles sociaux, et de l'arrivée au pouvoir par la rue ou les urnes, d'un ou une populiste. On n'est franchement pas à l'abri du pire, même en "Occident". Il suffit d'un populiste qui galvanise sa base et fasse face à un opposant peu inspirant que tout le monde dit pourtant gagnant. Tiens, mais ça s'est déjà passé, c'est Trump. Peut-être qu'un début ?

Si la fuite en avant de l'IA dépasse notre capacité à l'encadrer, et se traduit par du chômage massif, (même si un tel chômage ne serait pas en soi pour moi un problème car les prix auront vocation à baisser par ailleurs, mais tout sera possible dans l'incertitude perçue par les masses pendant la période de transition, le temps que chacun fasse sienne cette nouvelle réalité), nos futurs dirigeants d'alors, aussi éclairés soient-ils, pourront dire et faire ce qu'ils veulent, ce sera potentiellement compliqué d'empêcher une Le Pen de prendre le pouvoir. Bon je préfère imaginer le pire pour derrière qu'on essaie de le déconstruire ensemble...

Je l'évoquais à peine dans mon précédent message, mais des progrès techniques qui font chuter les prix et détruisent énormément d'emplois et contribuent à provoquer une crise mondiale, ça s'est vu en 1929, et on sait ce qu'il s'est passé en Europe. Si l'Europe est largement pacifiée, des rancoeurs existent toujours ici et là dans le monde, entre la Russie et "l'Occident" (même si je n'aime pas trop ce mot), entre la Chine et le Japon, l'Inde et le Pakistan, l'Iran et certains pays sunnites, entre autres.

Ce serait donc dangereux de céder à la complaisance, tous ces sujets sont liés. Et je n'ai pas encore parlé des armes intégrant l'AI, qui permettront bientôt de projeter sournoisement sur les champs de bataille, au sol, des robots qui tuent en autonomie. Ce qui risque de déresponsabiliser toujours plus les grandes puissances démocratiques pourtant relativement assagies sinon modérées depuis la guerre du Vietnam par le prix du sang à payer pour intervenir ici et là de façon décisive. Si il n'y a plus ce prix du sang à payer pour faire la guerre sur le terrain, au-delà des drones, quelles conséquences sur la géopolitique ? Même Poutine a dit que la nation la plus puissante sera celle qui maîtrise le mieux l'IA. Un sujet qui inquiète bcp outre-Atlantique, et a amené Elon Musk et 116 "experts" à lancer un appel solennel à l'ONU suite auquel le UK a "interdit" les armes autonomes. Que fait la France ? Mais que peut-elle faire de toute façon face à la Chine et la Russie qui ne sont certainement pas en train d'attendre que cela se passe...

Et c'est un autre point important. On se demande entre Marcheurs ce qu'on peut faire, mais en réalité il faut admettre que nous sommes en proie à des forces économiques et techniques, décentralisées, qui nous dépassent. La France peut bien décider ce qu'elle veut, mais cela ne conduira pas à l'arrêt des recherches les plus sensibles dans les labos les plus obscurs de Russie, Chine, ou ailleurs. Peut-être que la France devrait malgré tout au final aller dans le sens de Musk et faire pression sur les US pour que ça bouge sur ce sujet à l'ONU comme on a su le faire par le passé sur les gaz CFCs qui menaçaient la couche d'ozone, ou encore, avec un succès relatif, sur la prolifération nucléaire.

Si on arrive à encadrer les développements des IAs, et c'est un grand SI, même si plus de jobs sont détruits que créés, ce ne sera pas forcément un pb, comme je disais, les prix de beaucoup de biens et services d'aujourd'hui vont chuter vers zéro. On s'en inventera sans doute d'autres auxquels aspireront les plus matérialistes qui réinventeront une "slow economy" à visage humain, mais on pourra faire aussi sans et vivre décemment. Bcp de jobs d'aujourd'hui sont de toute façon aliénants, ce sera sans doute un progrès à cet égard, on trouvera à s'occuper par le jeu, les voyages, les arts, le sport. À moins qu'on ne se réfugie dans la drogue et/ou la réalité virtuelle ? Difficile à dire encore une fois... il faut accepter une forme de fatalité je pense, admettre que beaucoup de ces développements nous dépassent.

Enfin pour finir, je ne partage pas la conclusion "si l'IA devient aussi puissante que ce que prévoient les pires scénarios, elle devrait être en mesure de résoudre elle-même ce problème!."

Je pensais cela aussi au départ, mais en fouillant le sujet, je me suis aperçu que, soit on se retenait de toute prévision car c'est effectivement trop compliqué et pétri d'incertitudes, soit on peut écouter ce que disent les acteurs de ces changements, les chercheurs en IA, et bcp d'entre eux expliquent que pour qu'une IA puisse résoudre à notre place nos problèmes d'une façon qui nous satisfasse, il faudrait déjà qu'on s'accorde sur ce que sont nos valeurs à nous les Hommes, vaste programme. Elles peuvent varier infiniment et une même phrase pourra toujours s'interpréter de mille façons.

Et on suppose ici qu'on aura affaire à l'IA, the IA, comme s'il n'y aura qu'une IA, mais on en aura potentiellement un très grand nombre, elles pourront être toutes très bien éduquées, mais il en suffit d'une mal éduquée, avec les mauvaises valeurs, et avec un pouvoir de nuisance, une intelligence supérieure aux autres, pour que les choses se compliquent pour nous pauvres Sapiens. Ou une avec des valeurs incomplètes, pensée pour une tâche simple au départ mais qui finit par devenir si forte à ce qu'elle fait qu'elle finit par nous exterminer en pensant bien faire. L'exemple classique est celui de la machine à trombones, une IA est codée pour produire toujours plus de trombones, elle ne peut pas prendre le risque d'être mise hors circuit car cela l'empêcherait de faire son travail. Donc elle neutralise les humains jusqu'au dernier pour pouvoir continuer à fabriquer toujours plus de trombones joyeusement en autonomie.

Même si on confère les meilleures valeurs du monde à toutes les prochaines IA, une IA peut détruire notre espèce par accident, alors "qu'elle" penserait bien faire, car on serait une entrave à l'accomplissement de sa mission. Toutes sortes de scénarios sont proposés par les chercheurs et penseurs de l'IA. Une comique autour de l'objectif de nous faire sourire : l'IA nous cloue au lit et nous force le sourire avec des pinces. C'est un gag mais à peine...

Le risque perçu par beaucoup de chercheurs aussi est qu'une IA qui atteindrait le niveau d'intelligence de l'homme ne s'arrêterait pas en si bon chemin mais continuerait à travailler à devenir plus intelligente, conduisant à une explosion d'intelligence, non limitée par une quelconque boîte crânienne, pour arriver à des niveaux qui nous dépassent de fait. Bien malin celui qui pourra deviner le pouvoir de nuisance, intentionnel ou accidentel, de telles IAs.

Et ça suppose qu'IAs et Sapiens restent séparés, mais on entraperçoit déjà comment ils pourraient fusionner, avec les premiers prototypes de "brain computer interface", un cerveau de singe peut déjà contrôler avec aise un cinquième bras (pas un 4ème, un nouveau membre, grand diable!), et une IA peut déjà prendre le contrôle d'un cafard et le faire aller à sa guise à gauche, à droite. On a déjà mis en réseau plusieurs cerveaux de singe pour résoudre des problèmes . Ce n'est que le début, les progrès sont exponentiels, ou presque. Imaginez ds 20 ans à ce rythme décoiffant. Quelle diversification du genre humain nous attend ? La passerelle vers des sous-hommes et sur-hommes est étroite et nous glace le sang...

Bref, Sapiens, "as we know it", va vivre son siècle le plus fou, possiblement son dernier...

All Posts
×

Almost done…

We just sent you an email. Please click the link in the email to confirm your subscription!

OKSubscriptions powered by Strikingly