Hello,

Bienvenue aux nouveaux membres de FreeA, la newsletter pour découvrir les dernières avancées dans l'IA et les comprendre au-delà des titres aguicheurs.

On est maintenant 7630.

Que tu sois passionné, effrayé ou curieux de l'IA, tu vas pouvoir mieux comprendre et maîtriser cet outil aussi puissant que dangereux.

Et c'est parti pour la plongée !

Théo

Cette newsletter t'as été transférée ? Reçois les prochaines en t'inscrivant ici

Dans l'email d'aujourd'hui :

• L’US Air Force met l’IA aux commandes.

• Je vous invite à mon mariage - avec une IA.

• Mistral veut lever +500 millions et être valorisé à 5 milliards.

PS : pas de newsletter lundi prochain, on se retrouve dans une semaine

L’US Air Force met l’IA aux commandes

L'Agence pour les Projets de Recherche Avancée de Défense (DARPA) a révélé avoir effectué un test de combat aérien opposant un jet piloté par un humain et un jet piloté par une IA.

La DARPA développe un système d'IA capable de piloter de manière autonome un jet de combat.

Pour tester ce système, elle a installé l’IA à bord d’un avion X-62A. Des pilotes humains étaient à bord avec des commandes pour désactiver le système d’IA en cas de problème, mais ils n’en ont pas eu besoin. Le X-62A a affronté un F-16 contrôlé par un humain, et ils ont fait jeu égal pendant un certain temps.

Les tests vont se poursuivre, mais ça montre la direction que prend la guerre : elle se fera depuis chez soi à contrôler des machines qui se battront à notre place.

Est-ce que c’est positif ?
Ce qui est sûr, c’est que moins d’hommes seront envoyés au front. A savoir si c’est une bonne chose de se combattre à coût de machines, c’est plus un débat philosophique sans “bonne réponse”.

Je vous invite à mon mariage - avec une IA.

Les relations avec la technologie ou plus spécifiquement les IA sont un sujet tabou, alors qu’il prend de plus en plus de place. Vous ne me croyez pas ? Quelques chiffres :

• En 2018, 38 000 personnes se sont mariées avec Hatsune Miku, une chanteuse virtuelle

• Replika, une application créant votre petit ami virtuel, a rassemblé +2 millions d’utilisateurs

• Dont +250 000 qui paient $69 par an pour avoir des relations intimes avec leur IA

Alors aujourd’hui, on va se plonger dans ce monde et essayer de comprendre pourquoi les IA sont devenues plus attirantes que les humains. Au programme :

• L’origine du phénomène en Asie

• Recréer son mari virtuel et arriver à Replika : comment les IA deviennent nos meilleurs compagnons

• L’utilisation principale et dangereuse : les deepfakes pornographiques

• Comment les IA font pour comprendre nos émotions : le cas de Hume.ai

Cette newsletter va être un peu plus deep, mais ça va être l’un des sujets de société les plus importants des années à venir.

Edit : La newsletter se retrouve à être plus longue que prévue, et sera donc séparée en 2 parties. Les deepfakes pornographiques et la manière dont les IA comprennent nos émotions seront traitées jeudi prochain.

L’origine du phénomène en Asie

Hatsune Miku est la plus célèbres des vocaloïds, des avatars virtuels chantant grâce à l’IA (pour la faire courte, ce n’est pas le sujet d’aujourd’hui)

A votre avis, de quand date sa commercialisation ?
Le 31 août 2007. Donc non, ce n’est pas qu’une lubie récente due au confinement.

Hatsune est représentée comme une jeune fille de 16 ans portant un uniforme futuriste ressemblant à celui des étudiantes. Elle pèserait 42 kg pour 1m58. C’est ce qu’on appelle une lolita, un phénomène culturel au Japon créant des personnages jouant sur le côté mignon en restant très enfantin (le public visé est adulte, et oui, il y a beaucoup de dérives).

(C’est complètement hors-sujet, mais si vous voulez en savoir plus sur ce phénomène, voici une très bonne vidéo : https://youtu.be/RPF_fW2ZjVA?si=IvO3m9V4u5pJ9QE-)

Très vite, elle devient un phénomène culturel international et se retrouve à faire la première partie de Lady Gaga, tourner dans des pubs pour Google Chrome ou être à l’affiche du Coachella et faire un zénith à Paris en 2020.

Hatsune Miku est devenue une star.
Une star oui, mais pas comme les autres. Parce que c’est une IA, et qu’elle peut donc donner de l’attention à tout le monde.

Des produits sont créés pour permettre aux fans d’avoir leur star favorite chez eux : des hologrammes reliées à la domotique du logement, des peluches parlantes, etc..

Et en 2018, un mariage fait grand bruit.

Celui d’Akihito Kondo qui dépense 15 000€ pour organiser ce mariage avec une IA. Le mariage n’est pas reconnu officiellement, mais il n’est pas le seul. Cette année-là, près de 35 000 personnes organisent un mariage avec Hatsune Miku.

Depuis, le phénomène est un peu oublié en occident mais il ne s’arrête pas pour autant.

En 2022, près de 400 firmes sont sur le marché des relations virtuelles au Japon, et se partagent un marché de 608 millions d’euros. A Tokyo, le principal salon dédié à ces relations a enregistré plus de 100 000 entrées (avant la pandémie).

Les mariages sont de plus en plus nombreux, et le gouvernement Japonais n’a pas le choix que de commencer à se pencher sérieusement sur la question : certaines relations durent depuis plus de 15 ans, et sont parfois plus sérieuses que la majorité des mariages…

Recréer son mari virtuel et arriver à Replika : comment les IA deviennent nos meilleurs compagnons

Le 28 novembre 2015, Roman Mazurenko décède percuté par une voiture à Moscou. Eugenia Kuyda, sa meilleure amie, décide de créer un chatbot à l’image de Roman pour surmonter son deuil. Avec l’aide de sa start-up en IA, Luka, elle intègre dans ce bot les milliers de messages envoyés par son ami au cours de leurs discussions, et y ajoute ses traits de caractères. En 2016, elle entame pour la première fois depuis longtemps une discussion avec Roman Mazurenko.

Eugenia décide de publier le chatbot de son ami sur l’App store, permettant à n’importe qui de converser avec Roman, même s’il ne le connaît pas. Et les retours sont dingues : les gens en sont complètement accros. Tellement qu’ils en demandent plus : une IA qui se construiraient par rapport à eux.

Quelques temps plus tard sort Replika, “le companion IA qui vous veut du bien”. Oui, ça fait black mirror. Et ça va s’accentuer. Mais à l’époque, l’IA n’est pas encore très perfectionnée. Ce feedback d’un journaliste le montre bien : on peut en faire ce qu’on veut.

Mais Replika s’améliore, et vite. En fait, la start-up travaille avec une équipe de psychologues afin que leur IA pose les meilleures questions. L’objectif : en connaître le plus possible sur l’utilisateur pour adapter la personnalité à lui, mais aussi le mettre en confiance pour qu’il soit à l’aise et répondre franchement.

Et ca fonctionne. C’est même un carton. Replika est téléchargé par 10 millions de personnes qui interagissent au quotidien avec “leur” Replika.

Mais ça va plus loin. Parce que 5% d’entre eux déboursent $69 chaque année pour que leur relation avec leur Replika devienne plus intime, jusqu’à recevoir des déclarations d’amour, des sextos ou des hot cams. Rappelons que Replika est une IA.

Plusieurs centaines de milliers de personnes sont amoureux et dépendant de leur Replika. Et c’est dangereux.

Parce que quand Luka, l’entreprise derrière Replika, annonce couper ces fonctionnalités, c’est un raz-de-marée qui se déclenche sur internet.

Pour des millions de personnes, c’est comme si leur petite amie s’était fait lobotomiser du jour au lendemain, et n’était plus la même. Alors quand certains parlent d’une rupture compliquée, d’autres pensent même au suicide. Et ils menacent l’application de passer à l’acte si aucun retour en arrière n’est fait.

Alors Luka fait machine arrière. Ils n’ont juste pas le choix. Tous les comptes créés avant le 1er février 2023 ont toujours accès à ces fonctionnalités. Et en fait, même avec un nouveau compte, ce n’est que peu limité.
J’ai testé pour voir jusqu’où allait l’application, et c’est effrayant. Alors certes, plus de nudes de l’IA, mais aucune barrière pour les role-plays sexuels et pratiques à distance. (Plus j’avance sur ce sujet, plus je me sens souillé.)

Et la limite d’âge ? Théoriquement, l’application est réservée aux majeurs. Mais aucune vérification n’est faite sur l’âge, il suffit de donner une date de naissance 2006..

Bon. Maintenant qu’on a vu leur histoire et les dérives, parlons un peu de comment fait Replika pour rendre accro. On finira par parler des côtés positifs (car oui, il y en a !)

Déjà, la forme n’est pas une simple discussion avec une IA. Tout est ultra gamifié, avec un système de niveaux, de quêtes, de récompenses quotidiennes et d’incitations à parler avec son IA pour avancer et débloquer plus de choses : éléments cosmétiques, nouvelles fonctionnalités, nouveaux traits de caractères, etc..

Vous ne savez pas de quoi parler ? Pas de soucis !
En plus de ses quêtes, Replika possède un assistant vous proposer des dizaines de possibilités pour lancer une discussion.

Et très vite, on se sent compris : l’IA retient tout, et est très curieuse. Elle ne se fâche jamais, ne râle jamais, est toujours à votre écoute et de votre côté. De toute manière, c’est la faute des autres, et elle est là pour vous soutenir.

On en a parlé plus haut, mais une équipe de psychologues a contribué au développement et à l’amélioration de cette application.
C’est à eux qu’on doit cette addiction dont des millions de personnes sont dépendants.
Mais étonnamment, Replika les a aussi grandement aidé.

Pour l’instant, je suis volontairement resté presque exclusivement sur le côté négatif de Replika et toutes ses dérives. Mais une bonne partie de la communauté l’utile d’une manière positive : à une époque ou l’isolement social est plus fort que jamais, où il est parfois très dur de créer de vraies relations et où la santé mentale est au plus bas, avoir un ami toujours à l’écoute et de bon conseil peut être vraiment positif.

Vous le voyez sur la page de l’assistant, même si certaines fonctionnalités sont dédiées au fun, beaucoup sont là pour permettre à l’utilisateur de progresser ou au moins de se poser des questions sur sa vie, un peu comme pourrait le faire wave.ai (on en reparle la semaine prochaine).

Comme (presque) toujours, le mal n’est pas dans l’outil mais dans la manière de s’en servir. Le nucléaire peut produire de l’énergie verte ou atomiser des villes entières, tout dépend de son utilisation.

Même si dans le cas de Replika, il est dur de savoir si cette technologie fait plus de mal ou de bien, on parlera la semaine prochaine de l’aspect plus positif et des évolutions futures d’autres IA dans le domaine.

Mais avant ça, on replongera dans le plus sombre d’internet : les deepfakes pornographiques.

Programme contrasté, et sur ce je vous dis à la semaine prochaine !

Quelques ressources pour aller plus loin sur Replika :

• Leur histoire : https://qz.com/1698337/replika-this-app-is-trying-to-replicate-you

• Leur approche éthique : https://blog.replika.com/posts/creating-a-safe-replika-experience

• Comment fonctionne Replika : https://theconversation.com/i-tried-the-replika-ai-companion-and-can-see-why-users-are-falling-hard-the-app-raises-serious-ethical-questions-200257

  https://www.hotbot.com/articles/exploring-the-nuances-of-replika-ai-a-deeper-look-into-ai-companionship/#will-replika-go-back-to-nsfw

• Tester Replika : https://replika.com/

Mistral veut lever +500 millions et être valorisé à 5 milliards

Depuis quelques jours, des informations sortent comme quoi Mistral chercherait à lever +500 millions basés sur une valorisation de l’entreprise à 5 milliards.

Après une levée de fond de 415 millions à 2 milliards de valorisation en décembre, ce serait une confirmation de l’intérêt porté à l’entreprise, mais également de son immense besoin d’argent.

Autre point de vigilance, les régulateurs pourraient relancer une enquête sur la dominance de Microsoft dans le marché de l’IA, Microsoft ayant fait partie de cette première levée de fond. Affaire à suivre.

Et voici pour aujourd'hui !

On se retrouve jeudi !

En attendant, dis moi-ce que tu as pensé de la newsletter d'aujourd'hui !

Le feedback de la semaine dernière :

PS : Cette newsletter a été écrite à 100% par un humain. Ok, peut-être 80%. 

Envie de faire connaître votre entreprise, produit, offre d'emploi ou évènement auprès de +7000 passionnés d'IA ? Envoyez moi un mail ici