Hello,

Bienvenue aux nouveaux membres de FreeA, la newsletter pour découvrir les dernières avancées dans l'IA et les comprendre au-delà des titres aguicheurs.

On est maintenant 7650.

Que tu sois passionné, effrayé ou curieux de l'IA, tu vas pouvoir mieux comprendre et maîtriser cet outil aussi puissant que dangereux.

Et c'est parti pour la plongée !

Théo

Cette newsletter t'as été transférée ? Reçois les prochaines en t'inscrivant ici

Oui, j’ai disparu pendant plusieurs semaines. J’ai eu quelques soucis perso qui m’ont éloigné de mon clavier, mais je suis de retour !

Dans l'email d'aujourd'hui :

• Je suis Ambassadeur Vivatech.

• Votre fille a un deepfake d'elle - nu - sur internet.

• GPT-4o + les annonces de Google.

Je suis Ambassadeur Vivatech

Il y a quelques temps, j’ai été mis en contact avec la responsable influence de Vivatech. C’était peut de temps avant l’évènement, mais on a tout de suite senti qu’il fallait travailler ensemble, rien que pour préparer les prochaines éditions.

Mais dès celle de cette année, qui commence mercredi prochain, je suis un ambassadeur officiel de Vivatech.

Qu’est ce que ça veut dire ?

Qu’en plus d’avoir un espace dédié sur le salon pour dédié aux créateurs sur le salon et de pouvoir demander des mises en relation, j’ai surtout pu obtenir une réduction sur le prix des places pour vous !

Il vous suffit de rentrer le code “TheoVivaTech2024“ pour obtenir une remise de 20% au moment de prendre vos billets sur la boutique juste ici : https://www.vivatechnology.com/get-your-pass

Je sais qu’on est proche de l’évènement, mais si vous voulez profiter de l’un des plus grands salons mondiaux dédiés à la tech, vous savez ce qu’il vous reste à faire 🙂.

Votre fille a un deepfake d'elle - nu - sur internet.

Cet article est la suite d’une première partie sur les relations humains avec la technologie, et plus spécialement les IA, publiée dans la dernière newsletter.
Si vous l’avez manqué, vous pouvez la retrouver ici :

La dernière fois, on a vu :

• L’origine du phénomène en Asie

• Recréer son mari virtuel et arriver à Replika : comment les IA deviennent nos meilleurs compagnons

Aujourd’hui, au programme :

• L’utilisation principale et dangereuse : les deepfakes pornographiques

• Comment les IA font pour comprendre nos émotions : le cas de Hume.ai

L’utilisation principale et dangereuse : les deepfakes pornographiques

Votre fille a un deepfake d'elle - nue - sur internet.
Et ça crée un problème. Grave.

Le risque de sextorsion.

Vous ne me croyez pas ?
On peut créer un deepfake pornographique en 5 minutes.

Avec les outils de génération d’images en entraînant un modèle sur des photos de vous, ou plus simplement en superposant votre tête sur celle d’une actrice pornographique.

Demain, quelqu’un peut envoyer une fausse sextape de vous à tous vos contacts, sans que vous ne puissiez rien y faire.
Le résultat, c'est des vies détruites.

96% des deepfakes sont consacrées à la pornographie.
8 des 10 sites pornographiques les plus consultés contiennent des deepfakes.

La seule manière de s'en protéger, c'est de ne plus rien croire.
De tout considérer comme faux.

Sauf que ça ne fonctionne pas.
Parce que ça crée un brouillage.

Être incapable de discerner le faux, c'est être incapable de communiquer.
Pour l'homme, animal social, c'est impossible..

Alors tous les acteurs de l'IA appellent à une régulation.
Un contrôle sur la génération de deepfakes pour limiter ses dérives.

Plus de 400 personnes issues de différents secteurs, notamment du monde universitaire, du spectacle et de la politique, ont signé une lettre ouverte en février.

La lettre, intitulée "Disrupting the Deepfake Supply Chain", contient des recommandations sur la manière de réglementer les deepfakes, notamment la criminalisation totale de la pédopornographie par deepfake, des sanctions pénales pour toute personne créant ou facilitant sciemment la diffusion de deepfakes nuisibles et l'obligation pour les entreprises d'IA d'empêcher leurs produits de créer des deepfakes nuisibles.

Car oui, pour l’instant, réaliser un deepfake de quelqu’un sans son consentement n’est pas illégal tant qu’une autre infraction n’est pas commise (diffamation, usurpation d’identité, etc..)

Le problème, c’est que ça n'avance pas assez vite.
Les décisions politiques mettent toujours du temps.
Dans le meilleur des cas, quelques années.

Mais demain, la vie de ma soeur peut se faire détruire par un deepfake.
Il suffit qu’un de ses camarades de classe lui en veuille pour n’importe quelle raison d’ado stupide au collège, qu’il décide de prendre 10 minutes de son temps pour créer un deepfake pornographique d’elle et qu’il le diffuse partout dans son collège.

La jeunesse de ma soeur serait ruinée.
Et à cet âge là, dans ces situations là, on peut prendre des décisions stupides (sans parler des séquelles psychologiques)

J'ai besoin de solutions immédiates contre les deepfakes.
Alors comme on dit, il faut combattre le mal par le mal.

Utiliser de l'IA pour détecter les différences entre les deepfakes et la réalité.
Plusieurs outils se sont construis pour répondre à ce nouveau besoin.

Parmi eux :

• https://thesentinel.ai/, le plus performant et utilisé par les gouvernements, mais aussi plus complexe d’utilisation

• Fakecatcher, d’intel, est censé détecter en temps réel les deepfakes de la même manière

• Weverify vise à traquer et pointer du doigt les deepfakes sur les réseaux sociaux pour éviter la tromperie

Pour aller plus loin sur les outils disponibles

Pour autant, ce n’est pas forcément une solution parfaite. C’est un jeu de chat et de la souris entre les outils de création de deepfakes et ceux visant à les détecter, et le chat ne peut pas tout le temps gagner.

C’est la première fois, mais j’avoue ne pas voir de solution viable pour résoudre ce problème. Sincèrement, je ne sais pas. Quand je vois à quel point les plus grands experts sur l’IA sont complètement paniqués sur ce sujet et cherchent presque une solution magique via la régulation, j’ai peur.

Alors la prévention va être plus importante que jamais. Parlez-en avec vos enfants. Montrez-leur ce qui existe afin qu’ils soient conscients que ça peut arriver, et qu’ils osent vous en parler.

Pour contrer les deepfakes pornographiques, soyons plus humains que jamais.

Pour aller plus loin :

Là, je suis censé parler de Hume. Sauf que ce sujet sur les deepfakes m’a pris plus de temps que prévu, et que cette newsletter est déjà longue. Alors plutôt que de vous surcharger, on parlera de ça la prochaine fois !

GPT-4o + les annonces de Google

Vous n’avez pas pu le manquer, OpenAI et Google ont tous les deux annoncé de grosses nouvelles en même temps, à une journée d’intervalle.

L’intégration de l’IA partout pour Google, et l’annonce de son dernier modèle chez OpenAI, GPT-4o.

Je ne vais pas m’étendre plus sur le sujet parce que je vais y dédier la newsletter de lundi, à la fois sur toutes les choses qu’ils ont annoncé mais également pour prendre un peu de recul : quel est vraiment l’impact de ces annonces, quelles sont les grandes tendances des prochains mois, est-ce qu’on a atteint un palier, etc..

En attendant, je vous souhaite une bonne semaine, et voici des liens pour aller plus loin !

Et voici pour aujourd'hui !

On se retrouve lundi !

En attendant, dis moi-ce que tu as pensé de la newsletter d'aujourd'hui !

PS : Cette newsletter a été écrite à 100% par un humain. Ok, peut-être 80%.