(issu d'échanges Whatsapp)
Laurent Alexandre était récemment au Parlement Européen pour parler d'IA, voici le lien vers la vidéo.
Je souhaite réagir sur 5 de ses prises de position avec lesquelles je suis en désaccord :
1. Sur le fait que l'IA accroîtra très probablement les inégalités.
2. Sur la prétendue impossibilité à court terme, pas avant 2050, que l'IA développe le bon sens et des capacités de généralisation
3. Sur la colonisation par les GAFAM
4. Sur le fait que nous parlerons bientôt tous chinois
5. sur le fait qu'on ne pourrait pas faire d'IA sans des montagnes de données privées personnelles
1. Sur le risque que l'IA accroisse les inégalités.
LA nous dit que le scénario dystopien brossé par Harari dans Homo Deus est très probable, à savoir un monde où l'IA permet aux plus riches et plus intelligents d'accroître leur avantage au détriment de la grande majorité des gens marginalisés.
Ce qui n'est pas convaincant ici est que le progrès technologique au contraire n'a de cesse de démocratiser pour le plus grand nombre l'accès à des biens et services toujours meilleurs. Difficile d'avoir des certitudes, mais par défaut il semble probable que les progrès en IA profitent au contraire à tous. Car tout devient information dans ce monde, et le coût marginal de production d'un logiciel, d'une information supplémentaire est nul. C'est le sens de l'histoire. Quel importance au final si au départ un individu a un QI de 70 et un autre un QI de 130, pour revenir sur l'obsession de LA, si on peut chacun à très bas prix voire gratuitement augmenter notre QI de +10000 ?
Les progrès techniques et en IA vont sans doute nous libérer de nos inégalités cognitives. On n'aura plus besoin d'apprendre le solfège pendant X années pour composer de la musique, il suffira de siffloter un air, choisir des instruments à haute voix et laisser notre assistant virtuel nous aider à accoucher de nouvelles créations plus facilement que jamais. Youtube a libéré la création audiovisuelle. Les blogs et microblogs ont réconcilié beaucoup avec la lecture, et l'écriture, même si fantaisiste.
Bref ce ne serait pas la première fois qu'une techno dont on dit qu'elle profitera à une élite, une caste, une culture, une langue, finirait par profiter à tous...
Ce n'est que le début. Pour le meilleur comme pour le pire. J'ai moins le sens de l'orientation que quelqu'un "plus intelligent" que moi ? La belle affaire, mon GPS peut me guider mieux qu'un humain ne saurait le faire. Les exemples abondent. On peut même arguer que notre monde permet aux gens les moins intelligents de s'épanouir comme jamais cela n'aurait été possible avant. Certains diront même qu'on a le luxe de pouvoir s'abrutir de plus en plus. Depuis qu'on a domestiqué le chien, et qu'on lui a délégué certaines de nos facultés d'éveil (capacité à être aux aguets et sentir le danger arriver), notre cerveau a en fait diminué de taille, on a perdu l'équivalent du volume d'une balle de tennis (!).
Et à l'inverse, dès qu'on passe de l'autre côté du miroir, l'IA qui atteindrait notre niveau et nous dépasserait rendrait caduc l'avantage qu'ont aujourd'hui les gens les plus intelligents.
________________
2. Sur l'impossibilité à court terme, pas avant 2050, que l'IA développe le bon sens et des capacités de généralisation
C'est toujours la même chose, on définit l'intelligence humaine en désignant des barrières, et quand elles sautent on explique que l'intelligence c'était autre chose. Certains disaient qu'être bon aux échecs était l'expression suprême de l'intelligence humaine, jusqu'à ce que DeepBlue batte Kasparov, puis on a dit avec autant d'assurance que l'IA ne pourrait jamais conduire une voiture ni gagner au jeu de GO... Quand je lis les articles de chercheurs en IA, comme François Chollet de Google, ils disent que le bon sens et la capacité à généraliser, à transférer un savoir d'un domaine à un autre est ce qui va le plus progresser dans les années qui viennent. Certes aujourd'hui une machine peut apprendre la plupart des jeux vidéos et battre les hommes, mais à chaque fois que l'IA découvre un nouveau jeu, elle démarre de zéro et se comporte n'importe comment au début, même si elle finit par nous battre après qq heures/jours et des milliers d'itérations, au tout début elle fait moins bien que nous qui arrivons à reconnaître certains codes vus dans d'autres jeux. L'IA a du mal dans ce domaine à ce jour mais les chercheurs disent que ce n'est qu'une question de temps, qq années, disons 15-20 ans tout au plus. Difficile de comprendre d'où vient la grande confiance de LA ici.
Exemple intéressant, OpenAI a codé 2 bonhommes bâtons virtuels pour qu'ils comprennent les mouvements qu'ils pouvaient faire, puis leur a donné l'objectif de rester debout sur un ring et de pousser l'autre. Les bonhommes ont redécouvert la technique de combat des sumos. Encore plus fort, les chercheurs ont réussi à transférer ce savoir à un autre domaine, certes encore proche : le bonhomme a su comment résister à un fort vent virtuel pour ne pas tomber en se servant de ce qu'il a appris "en combattant".
_____________
3. Sur la colonisation par les GAFAM
LA parle des GAFAM et des Américains comme si tous les citoyens américains étaient actionnaires des GAFAM, comme s'ils étaient tous de mèche, complice dans ce projet supposé de nous coloniser, de nous faire la guerre, de nous asservir. Cela n'a bien sûr pas de sens. Quitte à prêter aux GAFAMs tant de pouvoir, ce sont les Américains qui sont en fait plus vulnérables face aux GAFA , plus que nous Européens, je ne pense pas que ce soit un conflit international, mais un problème opposant les multinationales aux citoyens.
Ensuite il faut comprendre que c'est une situation de dépendance réciproque : les GAFA ont autant besoin de nous que nous d'eux, si on passait tous de Google à Bing qui est aussi bien (d'après Bill Gates :), sachant que google tire plus de 90% de ses revenus du search, Google ne durerait pas longtemps, aucun de ses "moonshots" n'est rentable.
Puis il faut voir qu'ils se font concurrence entre eux. Et quelque part les grands gagnants de cette concurrence, c'est nous, on profite de biens et services toujours meilleurs, et de moins en moins chers. Ce n'est pas un échange à sens unique, oui j'abandonne des infos à Google, mais en échange je profite d'un service qui me simplifie la vie grandement, j'ai un meilleur accès çà l'info que mes arrière-grands-parents.
Google et Facebook offrent par ailleurs aussi aux annonceurs des moyens de mieux cibler leurs messages, de pouvoir toucher les bonnes personne pour moins cher qu'avant. Toutes les entreprises peuvent en profiter. Google et Facebook de ce point de vue là rendent grandement service à l'économie, permettant justement à toujours plus d'entreprises européennes de naître et se développer plus vite, créant emplois et simplifiant encore davantage la vie des consommateurs. Avant facebook et Google, il aurait été très difficile de lancer une entreprise à travers le monde ou l'Europe aussi vite. LA a une vision bien trop réductrice du rôle des GAFA dans l'économie et dans nos vies.
Enfin, beaucoup de ces GAFAs rendent public leurs travaux en IA : Google met Tensor Flow à disposition de ceux qui veulent développer des applis avec du machine learning (an open-source software library for dataflow programming across a range of tasks. It is a symbolic math library, and also used for machine learning applications such as neural networks.). Si les GAFAs arrivent à recruter les meilleurs en IA, c'est le plus souvent en leur permettant de continuer à enseigner (Yann LeCun à NYU par ex), et en acceptant de rendre public beaucoup de leurs travaux. Aussi l'Amérique elle-même génère diverses réponses aux GAFA, avec par exemple l'initiative OpenAI par Musk et Altman qui a pu embaucher parmi les meilleurs et partage tous ses travaux gratuitement ! (OpenAI is a non-profit artificial intelligence research company that aims to promote and develop friendly AI in such a way as to benefit humanity as a whole.)
Pourquoi LA s'obstine donc tant à opposer Américains et Européens et à parler de guerre ? C'est bien moins manichéen et centralisé qu'il veut le croire. N'importe quelle entreprise européenne peut justement brûler les étapes et utiliser Tensor Flow, les trouvailles d'open AI et les plateformes publicitaires de Google et Facebook pour lancer un service bien pus rapidement qu'avant et aller se développer en Europe mais pourquoi pas aussi aux US.
__________________
4. Sur le fait que nous parlerons bientôt tous chinois
La papauté s'était réjoui au départ de l'invention de l'imprimerie, voyant en elle un moyen de cimenter le monde autour du latin et du catholicisme. Le contraire s'est produit : la presse a permis la Réforme et le développement et officialisation des langues vernaculaires. Certains voyaient (voient) dans internet un moyen pour les Anglo-Saxons aujourd'hui et les Chinois demain d'imposer leur langue au monde. Jamais les langues locales et régionales ne se sont aussi bien portées, véhiculées par les blogs, sms, vidéos, etc. Et les IA de traduction instantanée vont peut-être freiner davantage le développement de l'anglais : pourquoi l'apprendre pour ne le parler qu'approximativement après beaucoup d'efforts, alors que je pourrai très bientôt parler ma langue avec toutes ses nuances et être compris de tous immédiatement ?
________
5. sur le fait qu'on ne pourrait pas faire d'IA sans des montagnes de données privées personnelles
C'est FAUX.
En fait LA confond l'IA avec l'apprentissage supervisé. L'apprentissage supervisé suppose de donner à un algo de deeplearning des données annotées (une photo de chat légendées par ex) pour qu'à force d'essais et d'erreurs l'algo puisse apprendre à reconnaître un chat. Mais l'apprentissage supervisé est une des branches de l'IA, et en son sein, une des branches du Machine Learning. Il existe d'autres techniques, comme l'apprentissage non- supervisé, qui consiste à nourrir un algo de deep learning avec bcp de photos non légendées, par ex Google dès 2014 a su identifier un concept commun à des milliers de photos, celui de chat, sans savoir que nous les Hommes on appelait cela un chat.
Une technique qui ne suppose pas de jeu de données du tout au départ : l'apprentissage par renforcement, avec l'exemple récent d'Alpha Go Zéro (successeur d'Alpha Go) qui a appris à jouer au jeu de Go et à dépasser les Hommes simplement en apprenant les règles du jeu et en jouant contre soi-même. En quelques jours l'algo a redécouvert 3000 ans de techniques humaines et en a inventé d'autres ! Et nul besoin de base de données de parties humaines au départ dans ce cas.
Donc, pour le principe, si, on peut faire de l'IA sans une montagne de données.
Ensuite, dans les cas où il faut des données, on ne parle pas forcément de données privées d'internautes. Une donnée, pour faire simple, c'est une info de ce monde qu'on a digitalisée. On peut en créer sans fin, par exemple en filmant depuis le ciel notre sol avec des drones...
Sébastien Thrun, chercheur en IA assisté de 2 ingénieurs, et d'une multitude d'étudiants via le MOOC Udacity (dont seulement les meilleures contributions étaient rémunérées via des prix) a pu recréer un algo capable de conduire en autonomie sur une route juste après avoir digéré 20 films du trajet, avec des images parfois trop sombres pour les humains, sans données radar, juste des images du spectre visible des humains. Ceci a pris 48 heures à sa petite équipe aidée d'étudiants, et il dit que cela aurait pris 6 mois à une entreprise comme Facebook. N'importe qui de son niveau d'étude en Europe aurait pu le faire, pas besoin d'être un GAFA et d'avoir bcp de données utilisateurs pour cela. Grâce au deep learning, la petite équipe de Sébastien Thrun a pu produire en 3 mois une IA de conduite autonome presque aussi douée que celle de Google qui a demandé 7 ans de travaux car reposant sur d'autres techniques moins abouties.
Le même S. Thrun a développé un logiciel, toujours grâce au deep learning, qui reconnaît mieux que les meilleurs dermatos les mélanomes, juste après avoir digéré 129 000 photos. On ne parle pas de millions ou de milliards de photos ici. La forteresse supposée des GAFAMs semble moins imprenable tout d'un coup...
_____
Ce qui freine l'éclosion de géants européens, c'est surtout la fragmentation du continent sur le plan réglementaire. Il n'y a pas de marché européen homogène dans lequel un acteur peut naître et gagner une taille critique assez rapidement de façon à pouvoir ensuite faire face à la concurrence des acteurs extra-européens. Homogénéiser cette réglementation est bien le souhait d'E.M, les choses semblent donc aller dans le bon sens...