Le futur n’est plus ce qu’il était (une conférence de Charles Stross)

La Sortie de l'opéra en l'an 2000

J’ai passé outre mon aversion habituelle pour les médias non-écrits et j’ai visionné la toute récente présentation de Charles Stross au 34e Chaos Communication Congress, intitulée Dude, you broke the future  – tout un programme!

En plus d’être un auteur intéressant à lire, Charles Stross est également un auteur intéressant à suivre, notamment pour ses réflexions sur la science-fiction et la futurologie. Et, donc, le moment présent.

Comme il s’agit d’une vidéo faisant la bagatelle d’une heure en anglais – il en existe une version doublée, cela dit, et Stross va mettre en ligne une transcription de sa présentation sur son site – je vais vous faire un petit résumé de certains de ses points-clés.

D’abord, il y a le problème que l’avenir est de plus en plus difficile à deviner. Pour imaginer à quoi ressemblerait le monde dans dix ans, il lui suffisait autrefois de considérer que 90% des choses sont déjà là, 9% est en préparation et seul le 1% restant est un gros point d’interrogation.

Aujourd’hui, le ratio est plus de l’ordre de 80/15/5 et, d’une part, ça ne va pas aller en s’arrangeant et, d’autre part, 5% de surprises, souvent d’ailleurs au format « purée c’est quoi ce plan débile? » Stross en profite pour tailler un costard aux aficionados du transhumanisme, en affirmant que c’est une théorie qui ressemble beaucoup à une hérésie chrétienne réchauffée, y compris la ration de miracles.

En partant de cette pique, il lance l’idée que les intelligences artificielles existent déjà, des « IA lentes » présentes depuis pas mal de temps, vu qu’il s’agit de corporations.

Une des craintes qui entourent les IA, c’est la notion de « maximisateur de trombones », c’est-à-dire avoir un processus qui cherche à atteindre – par exemple, fabriquer des attaches-trombones – à un point tel qu’il devient une menace pour le reste de l’environnement – par exemple en transformant tout le métal disponible en attaches-trombones.

Stross explique que les corporations sont, d’une certaine façon, des maximisateurs, que ce soit pour leurs objectifs propres ou, plus généralement, pour maximiser leurs profits et le revenus de leurs actionnaires. C’est même une condition de survie pour elles.

C’est un problème, parce que les corporations sont devenus aussi des acteurs politiques qui ont un impact sur l’environnement – au sens large du terme. Cette évolution du champ politique est, à son avis, un gros, gros problème, que la technologie va rendre encore pire.

À l’origine, il y a la mise en place de la monétisation du web par la publicité, qui a conduit à une « course aux armements » sur la question du profilage des utilisateurs. Surtout quand la haine et la peur sont d’aussi bons conducteurs pour l’attention humaine que la beauté.

Charles Stross imagine donc, en se basant sur les exemples récents autour des élections américaines et françaises (et le vote sur le Brexit), que des technologies comme le deep learning appliqué au profilage publicitaire a un gros potentiel disruptif.

De plus, ce même deep learning combiné à des nouvelles technologies sur le trucage audio et vidéo comporte le risque d’avoir, dans les prochaines décennies, une impossibilité de distinguer un document vidéo falsifié d’un vrai. Ça commence déjà à poser problème avec le porno, mais ce n’est que le début.

Enfin, il y a le risque d’avoir des systèmes qui combinent géolocalisation, discours de haine, ludification avec le côté addictif des applications gratuites pour smartphones et là, ça va vraiment être terrifiant: il imagine une app pour générer des flash-mobs pour harceler ou même agresser des personnes qui ne sont Pas Comme Nous.

Il conclut ce panorama par « bienvenue au XXIe siècle »! C’est sympa de finir l’année sur ce point, non? Et puis quelqu’un qui dit que l’histoire est l’arme secrète des auteurs de science-fiction ne peut qu’avoir mon approbation enthousiaste.

EDIT (2 janvier 2018): Charles Stross a mis la retranscription de sa conférence en ligne.

(Image: « La Sortie de l’opéra en l’an 2000″, par Albert Robida, via Wikimedia Commons, domaine public.)

Alias

Stéphane “Alias” Gallay, graphiste de profession, quinqua rôliste, amateur de rock progressif, geek autoproclamé et résident genevois, donc grande gueule. On vous aura prévenu.

Vous aimerez aussi...

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

CommentLuv badge

%d blogueurs aiment cette page :