Hello,

Aujourd’hui, on parle (enfin) du caching d’anthropic, d’un outil IA qui fait de bruit depuis quelques semaines car il vous permet de coder très facilement même sans être développeur, et un petit sondage sur un sujet dont j’aimerai vous parler. Ah, et mon TEDx sur l’IA est sorti !

Théo

Le caching, c’est quoi, et comment ça fonctionne ?

Il y a deux semaines, je vous parlais d’Anthropic et leur dernière innovation en date, le caching, permettant de réduire les coûts et la latence par 90 et 85%.

Et vous avez été nombreux à vouloir en savoir plus :

Concrètement, le prompt caching consiste “juste” à stocker le prompt “système” une fois (ce qui coûte légèrement plus cher, environ 25%), pour ensuite pouvoir le réutiliser pour seulement 10% du prix et de la latence pendant 5 minutes.

Après 5 minutes, il faut à nouveau stocker le prompt.

Ce qu’on appelle le prompt système, c’est le texte qu’on veut garder tout au long de la conversation, la partie statique. C’est comme les custom instructions de ChatGPT, les projets sur Claude, ou le RAG, pour ceux à qui ça parlera.

(Si vous voulez en savoir plus sur le RAG, j’en ai parlé dans mon édition dédié aux méthodes de prompting avancées, vous pouvez la retrouver ici : )

Ce prompt système peut-être très long, et contenir par exemple des livres, des papiers de recherche ou des bases de données.

De l’autre côté, la partie qui sera réellement “process” par l’IA, ce sera le prompt dynamique, à savoir les instructions demandées à chaque fois, généralement beaucoup plus courtes.

Si vous ne voyez pas l’intérêt, laissez moi vous donner quelques exemples :

• Analyser le code d’une application : plus besoin de recharger l’intégralité du code à chaque fois, il suffit de poser ses questions sur le code

• Assister la recherche : si l’intégralité ou une grande partie des papiers de recherche du domaine dans lequel vous cherchez est stockée et vous permet de poser des questions facilement pour peu cher, vous gagnez beaucoup de temps (et d’argent)

• Aider les étudiants : l’intégralité du programme peut être stockée et permettre à l’étudiant de poser des questions variées facilement. D’ailleurs, j’ai un projet lié à ça, je vous en reparlerai :)

• Aider le support client : on voit de plus en plus de supports clients IA apparaître, car ils coûtent moins cher et sont relativement efficaces. Sauf qu’ils coûtent quand même cher, et sont frustrants, parce qu’ils sont mal conçus. Par contre, avec cette innovation, de nombreuses améliorations sont possibles et permettraient d’enfin créer des services clients partiellement automatisés ET agréables.

Attention : le prompt caching s’utilise uniquement avec l’API, lorsqu’on fait appel à Claude depuis du code. Son utilisation concerne surtout les personnes concevant des choses liées à l’IA, mais je trouvais ça intéressant pour vous de comprendre son fonctionnement.
Dites moi ce que vous en avez penser :

Pour en lire plus :

https://huggingface.co/blog/airabbitX/is-prompt-caching-the-new-rag
https://www.anthropic.com/news/prompt-caching
https://docs.anthropic.com/en/docs/build-with-claude/prompt-caching#how-prompt-caching-works

Mon TEDx sur l’IA est enfin sorti !

Il y a quelques mois, je vous parlais de mon TEDx sur l’IA.
Je vous avais promis de vous partager la vidéo lorsqu’elle sortirait, mais je n’avais plus de nouvelles depuis un moment, et j’avoue avoir été légèrement inquiet.

Mais il y a quelques jours, j’ai eu l’excellente surprise d’apprendre que mon TEDx venait d’être publié sur la chaine officielle TEDx.

Vous pouvez le voir directement en cliquant sur l’image, ou en passant par le lien suivant : https://youtu.be/lzTk7QkytuE?si=tMWCOPesg3XpArCP

C’est le résultat d’un an de travail, j’espère que vous trouverez le résultat à la hauteur !

Ca m’aiderait grandement pour la suite que vous regardiez et que vous me fassiez votre retour sur de potentiels points à améliorer :

Vous pouvez créer un logiciel en quelques heures.

Depuis quelques semaines, un outil fait de plus en plus de bruit.
Vous l’avez même peut-être déjà vu passer, beaucoup d’influenceurs l’ont mis en avant.

Pourquoi ?

Parce que Cursor AI permet à n’importe qui de développer facilement grâce à de l’IA.

Le principe ?

Cursor AI est un éditeur de code, comme Visual Studio Code que vous connaissez peut-être.

Sauf que Cursor AI intègre une IA permettant d’aller beaucoup plus vite, de comprendre plus facilement le code et surtout d’enfin permettre aux débutants de coder.

Par contre, il faut être honnête : ça demande du travail.
Ce n’est pas magique ; il ne suffira pas d’appuyer sur un bouton.

Il faut comprendre ce qu’écrit l’IA en terme de code (elle peut l’expliquer), réfléchir et “accompagner” la conception de la structure du code, et surtout guider l’IA avec des directives et demandes précises.

Absolument rien d’impossible, même pour un débutant, mais il y a un peu moins l’effet “whaouh” de ChatGPT (alors que c’est bien plus puissant dans les possibilités que ça ouvre).

Maintenant, ça reste un sujet relativement niché sur un usage particulier de l’IA. Alors votez ! Dites moi si vous voulez un article dédié à Cursor IA qui explique son fonctionnement et les possibilités à travers un challenge !

Et voici pour aujourd'hui !

On se retrouve jeudi !

En attendant, dis moi-ce que tu as pensé de la newsletter d'aujourd'hui !

PS : Cette newsletter a été écrite à 100% par un humain. Ok, peut-être 80%.