Des choix conscients, c'est-à-dire avoir le courage de sortir de la bulle technologique

Grzegorz Stech : J'ai récemment eu l'impression, peut-être à tort, qu'il n'y a pas aujourd'hui de percée technologique. D'autres versions de quelque chose apparaissent, avec des nombres plus élevés. Où pensez-vous que nous en sommes aujourd’hui ? Sommes-nous en train de rouler, de faire de grands pas ? Et si oui, qui est derrière cela ?

Natalia Hatalska : Il se passe beaucoup de choses ! Peut-être même trop, trop vite. Et qui est derrière tout ça ? Une science qui a au moins plusieurs années d’avance sur les affaires. Bien sûr, nous nous demandons : comment peut-on avancer, puisque ce sont des entreprises innovantes, de nouvelles startups sont constamment créées et font souvent de grandes choses. Cependant, si l’on y réfléchit plus profondément, les entreprises monétisent en réalité ce qui a été créé dans le monde scientifique. Ce fut le cas d’Internet, une technologie inventée par une unité de recherche d’une agence gouvernementale américaine, puis commercialisée et monétisée. Lorsque les scientifiques travaillent sur des solutions révolutionnaires, ils ne pensent généralement pas à les monétiser. Ils sont « excités » par la science elle-même. Toutefois, pour que les technologies, qui sont en réalité des applications pratiques des acquis scientifiques, soient popularisées dans la société, elles doivent atteindre une certaine maturité. Les scientifiques travaillent sur l’intelligence artificielle depuis les années 1960, on pourrait donc dire qu’il ne s’agit pas du tout d’une nouvelle technologie. Et pourtant, ce qui se passe aujourd’hui dans la société et dans les entreprises basées sur l’intelligence artificielle est une véritable révolution et j’ai l’impression de participer à cette révolution. Le lancement de l’intelligence artificielle générative sous la forme de ChatGPT et d’autres solutions similaires change notre façon de fonctionner.

La technologie s’est donc accélérée ?

Nous ne pourrons peut-être même pas suivre le rythme. J'ai récemment lu un article qui disait que la quantité de contenu généré par l'intelligence artificielle augmente à un tel rythme que nous risquons de faire s'effondrer les modèles basés sur l'intelligence artificielle. Tout s'accélère. En 1999, Netflix a été lancé et il a fallu 3,5 ans pour acquérir le premier million d'utilisateurs. En novembre 2022, ChatGPT avait besoin de 5 jours pour obtenir le premier million, l'année dernière, lors du lancement d'un de ses services sociaux, Meta avait besoin d'une heure pour atteindre le million.

Et je reviendrai à la première pensée : la science est à la base de ces changements. Mais la technologie est son utilisation pratique. Et en fin de compte, c’est nous, la société, qui sommes les bénéficiaires.

La seule question est de savoir si et comment nous pouvons en être bénéficiaires.

Nous bénéficions par exemple de l'Internet mentionné ci-dessus, qui – je le souligne encore une fois – a été inventé par une unité scientifique. Le problème est différent. La commercialisation de la science entraîne également la diffusion de produits qui soit ne sont pas bons pour nous, soit que nous ne savons pas nécessairement bien les utiliser. Par exemple, les algorithmes dans les médias sociaux – les hypothèses étaient excellentes, les algorithmes étaient censés nous aider à maîtriser une énorme quantité de contenu et à simplifier nos vies. En fin de compte, nous avons été enfermés dans des bulles d’informations, nourries d’informations personnalisées, de musique et de films.

La tendance que nous appelons l’anti-science se renforce : elle vise à saper les autorités et les théories du complot se répandent. D’une certaine manière, nous perdons confiance dans la science parce qu’elle est appropriée par les entreprises technologiques. L’essence de la science est qu’elle est ouverte et accessible à tous. Cette valeur peut être construite sur cette base et de nombreux scientifiques peuvent le faire en même temps, comme pendant la pandémie de Covid-19, lorsque les scientifiques du monde entier avaient accès à des bases de données ouvertes et grâce à cela, les vaccins ont pu être créés plus rapidement. La deuxième chose importante est la reproductibilité de la science. Les scientifiques publient des articles importants dans des revues scientifiques, chacun a accès à ces connaissances et peut répéter une expérience donnée, recréer des recherches, vérifier et enrichir des connaissances.

Et si je comprends bien, des entreprises technologiques émergent en opposition à la science ouverte ?

Les entreprises technologiques, géants mondiaux, disposent d’énormes sommes d’argent et de leurs propres départements de R&D. Lorsqu’ils entrent dans la science, ils ferment en un sens le libre accès au savoir. D’une part, les recherches qu’ils publient ne sont pas suffisamment précises pour être reproduites. D’un autre côté, des brevets apparaissent et, de fait, des guerres de brevets sont menées pour, entre autres, empêcher les autres de travailler sur une solution donnée. Amazon, par exemple, le fait en déposant plusieurs milliers de demandes de brevet par mois pour s'approprier un domaine donné. Google, Meta et bien d'autres font de même.

Cela pourrait-il nous affecter d’une manière ou d’une autre ? Je veux parler de la mainmise de zones de plus en plus vastes par des entreprises technologiques.

Très. Nous sommes coincés dans des bulles, la polarisation s’approfondit et le sentiment de peur et d’anxiété augmente. Nous assistons à une crise de confiance croissante à plusieurs niveaux et impliquant les entreprises, les gouvernements et la science.

C'est une telle boucle, car aujourd'hui encore, nous voulons croire que la technologie nous aidera à résoudre des problèmes urgents au niveau mondial, mais d'un autre côté, nous tombons dans sa toile.

Nous devrons payer pour résoudre certains problèmes avec d’autres. La technologie résout simultanément un problème et en crée un autre. Soit immédiatement, soit à long terme. C'était le cas d'Internet, qui était censé résoudre le problème de la communication et de l'accès à l'information, et même s'il l'a fait, il a en revanche créé toute une série de problèmes dont nous n'avions aucune idée. Nous n’avons pas été en mesure de prévoir les problèmes de confidentialité, de surveillance, d’algorithmique, de bulles d’information et de polarisation croissante.

Peut-être alors – à l'ère de la technologie globale, devrions-nous ralentir et évaluer avec sang-froid ce qui va se passer ensuite ?

C'est très difficile en pratique. En 2000, était-on capable de prévoir toutes les menaces que j'évoquais ? NON. C'est pareil aujourd'hui. Bien sûr, je veux que cela soit différent, afin que nous puissions l'analyser avant de mettre en œuvre la technologie, en évaluant son impact sur la société. Cela devrait particulièrement s’appliquer aux technologies qui modifient tellement notre fonctionnement. Comme l’intelligence artificielle, dont les risques doivent être surveillés. Et pourtant, aujourd’hui, les dépenses liées à une telle évaluation des risques sont des milliers de fois inférieures à celles liées au développement de l’IA.

Si je devais le noter, je le décrirais comme une sorte d’euphorie sans plus de réflexion.

Analyse des risques et des impacts ? C’est une excellente hypothèse, mais je crains qu’en bâtissant une activité basée sur la vente de technologies et de technologies en général, les organisations n’aient pas besoin d’être disposées à analyser les menaces. Je préférerais qu'il y ait ici une marge d'action pour des institutions et des experts indépendants qui puissent rester à l'écart et dire « stop, est-ce la bonne voie ? »

Nous vivons dans un monde d’incertitude totale, avec un rythme de changement rapide. Nous disposons d’énormes quantités de données, et en même temps, ces données ne rendent pas notre monde plus compréhensible. Je voulais changer cela pour que les données – comme dans la science – apportent de la valeur à la société. Notre Trend Map est une analyse continue des sources disponibles, des données quantitatives et qualitatives qui nous permettent d’estimer certains phénomènes au niveau mondial. Nous faisons cela depuis 2018, nous développons constamment cet outil depuis 7 ans. Cette année, la carte se compose de 81 tendances, attribuées à 7 mégatendances, placées sur la carte selon 4 perspectives temporelles : maintenant-nouvelle-suivant-au-delà. La perspective Au-delà concerne les changements qui attendent le monde dans au moins 15 ans. D’une part, grâce à une telle carte, les entreprises peuvent déterminer où elles en sont aujourd’hui et si elles suivent les tendances, mais d’un autre côté, je considère la carte comme un guide pour les sociétés quant à la direction vers laquelle nous nous dirigeons.

Cette année, par exemple, la zone Beyond présente une IA générale et une super IA. L’intelligence artificielle générale est le niveau d’intelligence artificielle qui se veut au niveau de l’intelligence humaine. La super intelligence artificielle est le niveau d’intelligence artificielle censé dépasser l’intelligence de toute l’humanité. De telles technologies n’existent pas encore, mais tout indique que nous allons dans cette direction et que cela aura d’énormes conséquences sur notre fonctionnement en tant que monde. Dans le prochain fuseau horaire, c'est-à-dire dans une période de 5 à 15 ans, nous avons par exemple identifié tout un domaine lié à la révolution neurotechnologique, où des technologies appropriées existent déjà, mais où des réglementations juridiques appropriées sont encore nécessaires.

Il est important d’identifier non seulement les tendances technologiques, mais également les tendances sociales, comme le dépeuplement.

Quel est le lien entre les tendances sociales et les tendances technologiques ? J'essaie de comprendre ces liens.

Notre monde est un système fermé, donc tout affecte tout. Si nous assistons à une tendance au dépeuplement et que nos sociétés sont fondées sur le développement, cela aura également des conséquences économiques. Comment construire une économie basée sur la croissance quand il n’y a personne qui puisse travailler, investir ou acheter ? Le dépeuplement en tant que tendance sociale est également étroitement lié aux tendances technologiques. Comment? Les gens n’ont pas d’enfants non seulement parce qu’ils n’en veulent pas, mais aussi parce qu’ils ne peuvent tout simplement pas en avoir. Nous sommes aujourd’hui confrontés à une épidémie d’infertilité chez les femmes et les hommes. Et cela, à son tour, provoque le développement intensif de technologies connues sous le nom de ART, technologies de procréation assistée, c'est-à-dire des technologies qui permettent d'avoir des enfants. Les tendances se chevauchent.

Si l’on observe aujourd’hui le développement de l’intelligence artificielle générative, l’une des conséquences sur le plan social est l’analphabétisme fonctionnel, les gens perdent la capacité de lire avec compréhension et de formuler clairement leurs pensées.

Ce sont des conséquences très graves. La seule question est de savoir si cela sera perceptible au niveau du régulateur, qui pourra imposer certaines actions pour prévenir tous les phénomènes dont nous parlons ici.

Une réglementation est nécessaire, mais ce n’est pas la seule réponse. L'éducation et le choix conscient sont importants. Je sais que nous, en tant qu'humains, n'avons souvent pas envie de faire l'effort et qu'il est plus facile de suivre le courant général. Mais je suis partisan de prendre la responsabilité de la vie, d’apprendre, de vérifier, de chercher et de faire des choix conscients. Personne ne fera ça à notre place. C'est donc à vous de décider si vous voulez savoir comment fonctionnent les médias sociaux, comment ils vous mettent dans des bulles, comment fonctionnent les algorithmes, comment ils vous stimulent émotionnellement, influencent la polarisation. Et vous pouvez décider en toute connaissance de cause si vous souhaitez y participer ou non.

Natalia Hatalska, PDG et fondatrice d'infuture.institute, experte en analyse et prévision des tendances. Le Financial Times l'a inscrite sur la liste New Europe 100. Reconnue comme l'une des 50 femmes les plus influentes de Pologne, récompensée à deux reprises lors du plébiscite « Qui écoutent les entreprises polonaises ? » comme l'une des 10 autorités les plus importantes du monde des affaires polonais. Récompensée par le titre Digital Shaper pour sa contribution au développement de l'économie numérique en Pologne. Auteur du best-seller « L'Âge des paradoxes. La technologie nous sauvera-t-elle ?