L'idiot regarde l'ASIC dans laquelle on grave des accélérateurs de calculs matriciels nécessaires à faire l'IA, le sage regarde le corpus d'apprentissage et comment le truander.
Un maillon qui au grès des tensions entre de ses clients (moutons qui pratiquent la régression linéaire multifactorielle rebrandée IA) et les fournisseurs (ASML et Taïwan) qui ont tout deux intérêts à sa disparition on ne sent pas la situation d'avenir pour étendre les capacités de fondeurs dans le marché en l'état ...
Si en IA il y a le pari de la force brute (moar data, moar GPU, moar electric powa), il y a aussi le pari du fourbe radin.
Le camps de la Force Brute est celui d'une compétition en budget sur l'achat de moyen de production ou seule la position dominante l'emporte par accumulation de gains physiques.
La force brute nécessite des poches profondes comme celle de la Royauté anglaise.
Que la France n'a pas. Disons que la dette française n'est pas l'investissement le plus alléchant de la planète.
Donc, aller se battre sur un marché d'investissement en machine outil dont l'aval et l'amont dépend de gens qui nous aiment pas, sent terriblement le « on peut pas dire qu'on a échoué, on dirat que ça n'as pas marché ».
À peine prévisible. Sinon, on peut juste pas investir 1 Milliard sur les 8 prévus en éducation ?
Je veux pas dire, on est pas obligé de gagner la bataille de l'IA sur le marché du silicium, on peut y aller sur le terrain du cerveau.
Prenez un pré-traitement humain de donné qui a détection égal vous ferait économiser votre graph d'apprentissage d'un facteur 2 ?
Rien n'interdit d'utiliser du cerveau humain pour gagner. L'IA c'est simplement une moulinette à qui on donne des séries de catégories en entrées liées les unes aux autres et qui sort en sortie un oracle pour répondre à une question précise avec une confiance à 95%. Genre probabilité pour une femme, pauvre, arabe, noire de devenir présidente de France sous 4 ans ?
Et son corpus d'apprentissage.
À quoi sert l'IA commercialement, là où ça fait son succès ?
À remplacer du bullshit job consistant à faire des oracles concernant la santé financière d'un prospect.
L'IA répond à des questions précises comme : présentez ma pub uniquement à des gens qui achèteraient mon produit.
Et ça marche.
Ça répond aussi à des questions comme : « cette personne peut-elle rembourser une dette sur 20 ans ? »
Imaginons que notre femme, arabe, noire, moche, bègue, polyrhumatisée, JEUNE, mère célibataires, handicapées demande un emprunt de 4 Millions d'€ pour espérer remporter l'élection présidentielle, l'IA doit sans préjugés décider si elle a une chance de remporter l'élection et décider oui ou non si le lui accorder.
Dans son circuit de traitement, les résultats de millions de réponses réelles avec connaissance précise à toute ces questions ont permis d'identifier des règles qui au final si on fait rentrer une info genre « est femme » ou « est arabe », l'IA a déjà tranché -depuis son corpus d'apprentissage- que la réponse était OUI ou NON.
Un corpus inconsciemment misogyne ou raciste, mais mesurables au vu des rapports des décisions réelles en faveurs des assoces de consommateurs il y a bien du racisme intégré dans le corpus d'apprentissage.
La question n'est pas de savoir si le racisme est bien ou mal d'un point de vue éthique ici, mais froidement égoïste de celui qui veut faire un algo efficient.
Le problème de causation et corrélation, ou couplage en science n'est pas nouveau. Comment on s'auto-contamine nos propres outils qui partent en sucette.
Est-ce une bonne idée d'introduire un prédicteur qui marche à 100% sur RACE ou GENRE quand il y a une boucle de couplage entrée sortie amplificatrice ?
Vois tu : si ton IA apprend de données, c'est celle de la bureaucratie moderne où l'on coche des cases pour dire ce que l'on est. Un formulaire qui fait un vecteur de données, des quels des humains tirent des oracles pour aiguiller leurs formulaire à la prochaine étape.
Les formulaires d'aujourd'hui, servant à mesurer la qualité de prédiction des IA, inflluenceront les décisions de l'IA de demain.
L'IA apprend en remettant des pièces dans le jukebox en favorisant le poids de ses biais.
La question n'est pas de savoir si le racisme est justifié ou pas, juste de poser la question de : veut-on une boucle d'amplification explosive dans un apprentissage ?
Le poids de la dimension par la capacité disruptive qu'aurait une aggravation exponentielle des biais racistes d'une itération à la suivante, plus vite que le biais ne progresse réellement dans le corpus d'apprentissage humain risque de laisser un faux positif devenir un vrai discriminant. Je ne parle pas que du racisme. Dans les décisions financière en fait c'est plus souvent le code postal.
Ce magnifique prédicteur de toute une série de préjugés que l'on peut réduire à un chiffre anodin : des entrées dans un cadastre.
Toi tu habites dans le XVIé ? Les portes du crédit te sont ouvertes. Toi l'habitante de la cité HLM de Guéret en Creuse, lol non.
Les vrais ghettos sont ceux des riches. Ils sont le sésame pour déclencher le cheat code des IA.
Et voilà, j'aimerais faire une brigade de guérillas adverse aux IA qui empoisonnent les données personnelles utilisés par les marketeux leur permettant de savoir à qui accorder et refuser les prêts, montrer les bonnes affaires, devenir le robin des bois du numérique anti IA, qui apprends que c'est à St Denis dans le 93 que t'as les darones qui ont besoin que tu lui DISE OUI à tout crédit aux conditions les plus aventageuses.
Des faux dealers de vrais données personnelles altérées pour empoisonner les IA ennemies des données qui feront péter ses oracles numériques en donnant des réponses opposées à ses préjugés.
L'opération ANARCH - IA ou Arnaqu-IA ou Atillah le UN (1) où l'on saborde pour une poignée de pesos investit dans quelques grains bien placés dans les rouages de l'industrie de l'IA (ses corpus de données d'apprentissage) pourrait grâce à une politique opportuniste de terre brûlée (je l'aura p'tet pas, mais tu l'aura pas non plus et ça va pas me coûter cher) être le meilleur investissement que la France pourrait faire en IA.
Bref, cher gouvernement, filez moi un milliard et je vous garantit qu'on crame les magificient SEVEN (anciennement GAFAM) les majors de l'IA et le marché même de l'IA tout en démontrant que c'est dangereux, Imaginez si les pauvres devenaient riches, et les riches pauvres car les IA décidant des crédits et leurs taux d'intérêts étaient sous influencent de données corrompues ?
Ce serait pas le fun plus qu'une usine déjà condamnée avant même que le béton soit coulé ?
No comments:
Post a Comment