De la DARPA à PALANTIR, en passant par les drones de Gaza et les révélations de Snowden — comment la Silicon Valley est devenue le bras armé numérique de l'Amérique. Et pourquoi ça devrait vous faire flipper.

La grande illusion libertaire

 

Il fut un temps — disons les années 90 à 2000 — où la Silicon Valley vendait du rêve. Liberté, méritocratie, autorégulation du marché, gouvernement dégagé. Les pubs Apple vous invitaient à  “think different”, à briser les règles. Le code était supposé libérer l'humanité. C'était mignon. 
 

Aussi naïf qu'une startup nation qui croit que la disruption va remplacer l'État-providence.
 

Aujourd'hui, on a remplacé le peace & love par des drones qui bombardent sans sommation. Mais n'anticipons pas.
 

Définition — Complexe militaro-industriel : terme popularisé par Eisenhower en 1961 pour désigner l'alliance entre l'armée américaine et l'industrie privée. En clair : quand fabriquer des missiles rapporte plus que fabriquer des écoles.
 

Car la vérité, c'est que la tech n'a jamais été aussi libertaire qu'elle le prétendait. La Silicon Valley est née sous perfusion du Pentagone. 
 

En 1958, la DARPA (Defense Advanced Research Projects Agency), une agence du ministère de la Défense américain, est créée pour développer un réseau de communication capable de survivre à une attaque nucléaire. Ce réseau deviendra... Internet. Oui, cet Internet, celui qui vous sert des vidéos de chats et des théories du complot. Merci à l'armée.
 

Définition — DARPA : L'agence qui a financé la création d'Internet, du GPS et des microprocesseurs. Une sorte de père Noël technologique... sauf que ses cadeaux sont destinés à gagner des guerres avant de vous rendre la vie plus facile.
 

🔶Le GPS ? Militaire. 

🔶Les microprocesseurs ? Militaires. 

🔶Google Earth ? Militaire (racheté à une boîte de renseignement). 

🔶HP construisait des radars pour l'armée avant de fabriquer vos imprimantes qui coincent tous les trois mois.

Le 11 septembre, ou comment transformer la peur en business plan

 

Le 11 septembre 2001, tout change. Non seulement parce que des avions percutent des tours, mais parce que les Américains, légitimement traumatisés, acceptent de troquer un peu de liberté contre une promesse de sécurité. Le Patriot Act est signé le 26 octobre 2001, une loi qui donne aux agences fédérales le pouvoir de collecter vos données sans trop vous demander votre avis.
 

Définition — Patriot Act : loi antiterroriste américaine adoptée après le 11 septembre. Son nom est un acronyme (Uniting and Strengthening America by Providing Appropriate Tools Required to Intercept and Obstruct Terrorism), mais tout le monde l'appelle surtout "le truc qui permet à la NSA de lire vos SMS sans mandat".
 

C'est là que débarque Peter Thiel. Vous ne connaissez pas Peter Thiel ? C'est ce type qui a cofondé PayPal, qui a financé Facebook, et qui pense que la démocratie est un frein à l'innovation. Un personnage. En mai 2003, il cofonde Palantir — nom tiré des palantíri du Seigneur des Anneaux, ces pierres de vision qui permettent de voir à distance. Rien que ça. Leur promesse : utiliser les données pour détecter les actes malveillants avant qu'ils ne se produisent. De la voyance algorithmique, quoi.
 

Définition — Palantir : Entreprise américaine de data analysis fondée par Peter Thiel et Alex Karp. Spécialité : vendre aux gouvernements et aux armées des logiciels capables de fouiller des montagnes de données pour trouver des suspects, des terroristes, ou — accessoirement — des migrants en situation irrégulière.
 

Gotham : quand Batman bosse pour l'armée

 

En 2009, Palantir vend son logiciel Gotham aux unités militaires américaines en Irak et en Afghanistan. Le nom n'est pas choisi au hasard : Gotham, c'est la ville de Batman, ce justicier qui opère en dehors des règles. Subtile métaphore, n'est-ce pas ?
 

Gotham remplace un système appelé DCGS (Distributed Common Ground System), dont la lenteur et la complexité faisaient pleurer dans les chaumières du Pentagone. Là où le DCGS était une brouette rouillée, Gotham se présente comme une Formule 1 de l'investigation numérique. Il traite des masses de données colossales, réduit le temps d'enquête, et optimise la kill chain.
 

Définition — Kill chain : Concept militaire désignant le processus complet qui va de l'identification d'une cible à son élimination. Littéralement "chaîne de la mort". Palantir promet de la rendre plus courte. Youpi.
 

Palantir objecte : Gotham ne décide pas de tuer, il se contente d'identifier des suspects. La décision finale revient à un humain. Rassurant, non ? Sauf qu'avec des masses de données aussi immenses, si l'algorithme vous désigne comme suspect, c'est déjà un sacré problème. 
 

Et quand le même outil est utilisé par l'ICE (Immigration and Customs Enforcement), la police de l'immigration américaine, ce sont des centaines de familles qui se retrouvent déchirées par des raids algorithmiques.

Foundry : la même tambouille, mais pour les entreprises

 

Palantir ne s'arrête pas aux militaires. En 2016, l'entreprise lance Foundry, une version civilisée de Gotham destinée aux entreprises. Le logiciel aide Airbus à accélérer sa production d'A350 de 33 %, et la Société Générale l'utilise pour analyser ses données bancaires.
 

Mais posons-nous la question : est-ce vraiment une bonne idée de confier les données stratégiques d'entreprises européennes à une boîte qui travaille main dans la main avec les services de renseignement américains ? Certains disent non. On les traite de paranos. En attendant, Palantir est devenu un acteur central de la santé, des finances, de l'assurance et de l'énergie.
 

Définition — Data : Mot fourre-tout qui désigne vos informations personnelles, vos achats, vos likes, vos déplacements, votre fréquence cardiaque, et tout ce que les entreprises peuvent monnayer sans vous demander la permission.

La valse des revolving doors

 

Ce qui est fascinant avec Palantir, c'est son ballet permanent avec le pouvoir. Des employés de Palantir deviennent ministres. Des ministres deviennent employés de Palantir. C'est ce qu'on appelle les revolving doors (portes tournantes) — un terme poli pour dire que les frontières entre l'État et le privé sont devenues aussi poreuses qu'une passoire.
 

Définition — Revolving doors : Pratique où des hauts fonctionnaires quittent leur poste pour travailler dans le privé, et inversement. Cela pose des questions sur les conflits d'intérêts, mais personne n'a l'air de s'en soucier vraiment.
 

Peter Thiel, le cofondateur, est un donateur majeur de Donald Trump. Alex Karp, l'autre cofondateur, déclare que "la Silicon Valley est un échec" parce que les ingénieurs créent des logiciels impressionnants sans aucune idée de comment organiser la société. Deux hommes, deux visions opposées, mais une même conclusion : la technologie doit sauver l'Occident.
 

Et tant pis pour la démocratie si elle gêne.

La Nouvelle-Orléans, laboratoire de la police prédictive

En 2018, Palantir déploie un système de police prédictive à La Nouvelle-Orléans. Le principe : utiliser des algorithmes pour classifier les individus, cartographier leurs relations sociales, et prédire où et quand les crimes vont se produire. Vous avez déjà vu Minority Report ? C'est un peu ça, mais sans Tom Cruise pour sauver la mise.
 

Définition — Police prédictive : Utilisation d'algorithmes pour anticiper les crimes avant qu'ils ne se produisent. Problème : les algorithmes reproduisent les biais racistes des données historiques. Résultat : on surveille plus les quartiers pauvres et les minorités. Surprise.
 

Le problème de ces systèmes, c'est qu'ils cherchent des corrélations, pas des coupables. Si vous êtes ami avec une personne fichée, si vous habitez dans un quartier surveillé, si vous avez posté un truc un peu ambigu sur Twitter à 3h du matin... l'algorithme vous ajoute à sa liste. Sans procès, sans recours, sans que vous le sachiez.

Gaza et le "génocide algorithmique"

 

En 2021, des enquêtes révèlent que Palantir a fourni ses outils à l'armée israélienne pour prioriser des cibles à Gaza. Des ONG parlent de "génocide algorithmique". Le terme est lourd, mais il traduit une réalité glaçante : quand un algorithme décide qui doit être bombardé, à quelle vitesse, et avec quelle munition, on est entré dans une nouvelle ère de la guerre.
 

Définition — Génocide algorithmique : Terme employé par des organisations de défense des droits humains pour décrire l'utilisation de l'intelligence artificielle dans la sélection des cibles militaires, conduisant à des pertes civiles massives.
 

Palantir se défend en disant que ses outils ne font qu'analyser des données, que la décision finale revient à l'humain. Mais quand on reçoit une liste de cibles générée par un algorithme, avec des centaines de noms, dans un contexte de guerre, combien de temps prend-on à vérifier chaque entrée ? Pas longtemps. Et l'humain devient une simple signature au bas d'une décision déjà prise par la machine.

Snowden, le lanceur d'alerte qui a tout cassé

 

En 2013, un informaticien de 29 ans du nom d'Edward Snowden fait exploser le mythe de la tech innocente. En tant qu'administrateur système de la NSA (National Security Agency), il découvre que les géants américains — Google, Microsoft, Facebook, Yahoo — collaborent massivement avec les services de renseignement via des programmes comme PRISM, XKEYSCORE et Upstream.
 

Définition — NSA : National Security Agency, le service de renseignement électronique américain. Ce sont eux qui écoutent tout le monde, y compris les Alliés, y compris les Français, y compris vous.
 

Définition — PRISM : Programme de surveillance qui permet à la NSA d'accéder aux données stockées par Google, Facebook, Microsoft, Apple et d'autres. Officiellement avec un mandat. Officieusement, on ne sait pas trop.
 

Le choc est mondial. Les GAFAM, ces entreprises qui affichaient "Don't be evil" comme credo, sont prises la main dans le sac à livrer les données de leurs utilisateurs aux services de renseignement. La Silicon Valley devient petit à petit la "Vallée de la Surveillance".Google : la chute de l'empire du bien
 

Google, le géant à la devise autrefois vertueuse "Don't be evil" (ne sois pas méchant), incarne parfaitement cette transition. L'entreprise était connue pour sa transparence radicale : des réunions hebdomadaires appelées TGIF où les employés pouvaient poser n'importe quelle question, même embarrassante, aux fondateurs Larry Page et Sergey Brin. Les ingénieurs y débattaient de l'avenir de l'entreprise, de l'éthique du code, du rôle de la technologie dans la société.
 

Mais la réalité géopolitique a rattrapé le rêve californien. En 2018, Google signe le projet Maven avec le Pentagone : utiliser l'intelligence artificielle pour analyser des images de drones. Des milliers d'ingénieurs se révoltent, des démissions en série s'ensuivent, et Google finit par annuler le contrat.
 

Définition — Projet Maven : Projet du Pentagone visant à utiliser l'IA pour analyser automatiquement les images de drones. Google a participé avant de faire machine arrière sous la pression de ses employés.
 

Sauf que les contrats militaires sont bien trop lucratifs. En 2021, Google, Amazon et Microsoft signent l'accord Nimbus avec le gouvernement israélien et l'armée israélienne : 1,2 milliard de dollars de services cloud et d'IA. Google objecte : ce n'est pas pour des travaux militaires. Mais quand on livre les infrastructures et l'intelligence artificielle à une armée qui bombarde des civils, la distinction devient un peu hypocrite.
 

Définition — Cloud : Pour faire simple, ce sont des serveurs distants où vous stockez vos données au lieu de les garder sur votre disque dur. Le problème, c'est que vous ne savez jamais vraiment où elles sont ni qui y a accès.

La leçon de Face Miner : quand un jeu vidéo en dit plus que tous les essais

 

Il existe un jeu vidéo, Face Miner, qui raconte mieux que n'importe quel article les dangers de l'automatisation. Vous y jouez le rôle d'un employé d'une entreprise qui classe des photos de visages — exactement le genre de travail forcé à une échelle délirante dont on a besoin pour entraîner les algorithmes.
 

Définition — Face Miner : Jeu vidéo indépendant qui parodie les mécaniques d'entraînement de l'IA. Vous commencez par cliquer sur des visages, puis vous automatisez le processus, jusqu'à ce que la machine devienne plus intelligente que vous — et que l'entreprise détruise l'environnement sans que personne n'intervienne.
 

Au début, vous cliquez manuellement. Puis vous développez un autoclicker. Puis vous améliorez votre CPU, votre RAM, votre refroidissement. L'IA devient plus efficace, classifie des milliers de visages par seconde, rapporte des millions. Mais la planète chauffe, les messages de vos collègues deviennent inquiétants, et vous finissez par comprendre que votre technologie sert des fins de surveillance de masse.
 

La force de ce jeu, c'est qu'il vous met dans la peau de l'exploiteur, pas de la victime. Vous êtes celui qui appuie sur les boutons, qui regarde les serveurs surchauffer, qui ignore les signaux d'alarme par cupidité. Et vous comprenez que le problème n'est pas la machine : c'est celui qui la contrôle.

La guerre asymétrique, ou quand les drones remplacent les soldats

 

En Ukraine, la guerre moderne a pris un nouveau visage : celui des drones équipés d'IA. Pas de fatigue, pas de peur, pas de remords. Des essaims de drones qui frappent les infrastructures critiques en un clin d'œil. Les soldats face à ces machines sont dépassés, transformés en chair à canon par des algorithmes qui optimisent les frappes mieux que n'importe quel stratège humain.
 

Définition — Guerre asymétrique : Conflit où les deux camps n'ont pas des forces équivalentes. Exemple : une armée high-tech équipée de drones contre des soldats à pied. L'IA accentue cette asymétrie à un niveau jamais vu.
 

Les nations riches, dotées de technologies avancées, peuvent désormais faire la guerre sans perdre de soldats. Les autres n'ont qu'à se faire bombarder et espérer que la conscience de l'Occident se réveille. Spoiler : elle ne se réveille pas souvent.

Alors ? On fait quoi, maintenant ?

 

Voilà où nous en sommes. Le grand rêve libertaire de la Silicon Valley s'est transformé en cauchemar sécuritaire. 
 

🔶Les mêmes outils qui vous recommandent des vidéos sur YouTube servent aux armées pour identifier des cibles. 
 

🔶Les mêmes algorithmes qui optimisent vos livraisons Amazon aident la police à surveiller les quartiers. 
 

🔶Les mêmes data centers qui hébergent vos selfies sont utilisés pour des programmes de surveillance de masse.
 

Et franchement, ce n'est pas l'intelligence artificielle le problème. Comme le dit bien la conclusion de la vidéo dont est tiré ce résumé : le plus grand danger qui menace l'humanité, aujourd'hui comme hier, c'est l'humain lui-même. Trop fier pour savoir s'arrêter, trop égoïste pour éviter sa propre destruction, trop naïf pour croire que "cette fois, ça sera différent".
 

Définition — Intelligence Artificielle (IA) : Technologie qui permet à des machines d'effectuer des tâches normalement réservées à l'intelligence humaine (reconnaissance d'images, compréhension du langage, prise de décision). Ce n'est pas une "conscience" — du moins pas encore. Ce n'est pas "SkyNet". C'est juste un outil extrêmement puissant entre les mains d'êtres qui ne sont pas toujours fiables.
 

Alors non, Palantir n'est pas le Sauron numérique qu'il faut détruire à tout prix. Google n'est pas l'empire du Mal. Les ingénieurs qui codent ces systèmes ne sont pas des monstres. Mais nous avons un problème de gouvernance démocratique de la technologie, et ce problème est massif.
 

Les choix technologiques d'aujourd'hui sont les structures politiques de demain. 
 

Si on laisse les décisions les plus importantes — qui vit, qui meurt, qui va en prison, qui est surveillé — entre les mains d'algorithmes opaques contrôlés par des entreprises privées sans contrôle démocratique, on n'a pas fini de pleurer.
 

_______________________________________________________________________________________________________________________
 

Source : 

La vidéo de la chaîne TRY
https://www.youtube.com/watch?v=9eRI3EmqohI&