Comment se préparer dès maintenant à la Résistance contre les machines tueuses ?

Attention les amis, je ne parle même pas de machine autonome décidant de butter l’humain par elle-même, sur ce sujet les avis divergent sur la date mais convergent sur la perspective : nous sommes universellement tellement niais que nous y arriverons ; ce n’est pas pour demain, mais nous y arriverons.
Non, je parle des machines « presque » autonomes, avec un humain derrière.
Et là, on y est déjà.

795643-une-libe-robots-tueursHier, Libération faisait sa Une sur ses angoisses techno-alarmistes face aux armes autonomes, preuve que le sujet devient mainstream. Vous verrez que sous peu les robots-killers remplaceront au palmarès des marronniers le pouvoir des franc-maçons ou le classement des hôpitaux de France. En attendant nous sommes quand même un certain nombre à nous inquiéter de l’évolution du marché de la mort automatisée. Savoir qu’Elon Musk, Steve Wozniak, Stephen Hawking et un bon millier d’experts en I.A. s’angoissent sur le sujet n’est pas là pour réconforter mes vilains pressentiments.
Dans leur lettre ouverte, ces sommités demandent « d’interdire préventivement les armes autonomes offensives sans contrôle significatif d’un être humain ».
Et là : je m’inquiète. Parce que si la solution pour nous sauver des robots tueurs, c’est « le contrôle significatif d’un être humain », alors autant dire que c’est mort. Plié. Kaput. On l’a dans le derrière. Autant j’aurais pu faire confiance à un T1000 autonome bien programmé, autant s’il y a un humain dans le coup nous sommes farcis. Pour peu que cet humain ait à sa disposition un attirail législatif de type Loi de Surveillance ou un truc de ce goût-là, alors là ce serait le pompon ! Heureusement qu’on n’a pas cela chez nous… Hein ? Si ? Ah merde.

bateauDu coup je m’inquiète, parce que je ne suis pas Isaac Asimov ni Alain Damasio, mais si je me projette un peu, j’imagine bien que les robots, qui ne sont que des carcasses métalliques avec du soft dedans (comme des aspirateurs, mais en plus agressifs), s’appuieront sur des données froides pour agir : ils obéiront à des tâches programmées via les datas. Ils devront croiser les données pour, par exemple, supprimer tous les hommes à peau noire entre 20 et 50 ans sortant de l’eau sans papier sur les côtes méditerranéennes. Une politique des quotas d’un genre nouveau, une sorte de tri dynamique d’intérêt général qui devrait plaire à Eric Ciotti, c’est quand même plus efficace que de détruire les bateaux des passeurs Libyens.

Revenons à un exemple plus calme. Je suis au gouvernement, je n’aime pas trop les gens qui critiquent le système, ils sont une menace pour ma démocratie, c’est mon appréciation et c’est moi qui possède le « contrôle significatif ». J’envoie donc mes robots-aspirateurs « regrouper » les empêcheurs de gouverner en rond, en faisant du porte-à-porte à la recherche de toutes les Sarah Connor en herbe. La scène se passe en octobre 2028.

« Bonjour vous êtesterminator_01 Cyrille de Lasteyrie ? »
– Oui…
– Veuillez me suivre, vous êtes accusé d’avoir critiqué le gouvernement à partir du 7 mai 2017 à 20h04 et plus de 2846 fois depuis, contrevenant à la Loi de Renseignement de juillet 2015.
– Moi ? Noooooon. On m’a piqué mon mot de passe.
– Vous mentez, votre pouls est de 234, votre taux de sudation est de 65% et votre voix est plus aigüe de 43%.
– P’tain vous déconnez pas vous ? Je peux prévenir ma femme, elle fait les courses.
– Votre femme est déjà au Centre de Traitement des Menaces pour la Sécurité de l’Etat, elle vous attend…
– J’arrive ! Je prends un pull et j’arrive…
– Cette tactique de fuite élémentaire a été utilisée 8215 fois le mois dernier : ne tentez pas de partir par la porte de service ni de vous munir d’une arme ou ne serions obligés de vous pulvériser.
– Ok. Je vois le genre… Vous êtes très méchant.

drones-for-sale1-550x300Après cela, on peut aussi imaginer une petite guerre entre robots buteurs de migrants et aspirateurs à rebelles. Pendant ce temps-là, nous tous, les amibes archaïques même pas augmentées, on comptera les points en attendant qu’on vienne nous buter chercher. Ça dépendra des fichiers dans lesquels nous serons rangés.

By the way, j’ai lu qu’Amazon demandait un couloir aérien pour ses drones. Ça va être marrant le ciel, quand les drones d’Amazon croiseront les drones de Greenpeace, les drones de Daesh, les drones de la police, le drone de Noël du gamin, et tous les autres drones… On aura les cervicales bloquées vers l’arrière à force de regarder le ciel en attendant d’être happés par Eagle-Eye-Cop, le drone qui t’arrache du sol parce qu’un jour t’as buté un lion qui s’appelait Cecil.

Ok.
Donc on fait quoi ?
On arrête de travailler sur l’IA ?
On se déconnecte pour sortir du radar ?
On fume des substances rigolotes en attendant qu’ils viennent nous chercher ?
On crée des commissions d’éthique ?
On crée des contre-robots ?

Là, tout de suite, maintenant, je n’ai pas de solution.
Si vous en avez n’hésitez pas à partager. Merci d’avance.

Homme-robot

5 réflexions au sujet de « Comment se préparer dès maintenant à la Résistance contre les machines tueuses ? »

  1. Bonjour, j’ai vu dernièrement « Ex machina » une belle fiction sur l’IA. Continuons à faire ce type de films d’anticipation, comme les fameux terminators. Mais effectivement c’est assez flippant.

  2. Ce qui est flippant c’est la toute puissante perfection qu’accordent certains aux algorithmes ! Les algorithmes ne peuvent se tromper, puisqu’ils sont programmés pour effectuer des tâches selon les règles décrites par son créateur.
    Mais les algorithmes sont loins d’être parfaits. Chaque jour nous le constatons, ce sont des usines à bugs. Et plus les algorithmes se complexifient, plus ils proposent des niveaux d’abstraction et de conceptualisation élevés, et plus ils forment alors des systèmes complexes que plus personne ne maîtrise, ne contrôle et ne peut anticiper son comportement.
    Les programmes créés à partir de ces algorithmes prennent vie depuis que les réseaux se multiplient. Une nouvelle conscience digitale est en train de se développer et de nous échapper…

    Le 100% algorithmique me semble une pure folie (cf les bourdes récentes de Google et Flickr).
    L’algorithmique supervisé par l’humain me semble dangereux (plus l’homme a de pouvoir, plus il en abuse à des fins personnelles)
    L’humain supervisant l’algorithme… une utopie !

    Que faire ?
    S’interroger est déjà une première étape nécessaire, mais non suffisante…

Les commentaires sont fermés.