Vous voulez savoir ce qu’est un « agent » IA ou une IA « agentique »? Comment l’implémenter? Et, surtout, contrôler sa production?
Andrew Ng, qui sait de quoi il parle, propose une excellente entrée en matière dans son cours en ligne « Agentic AI »: https://learn.deeplearning.ai/courses/agentic-ai/lesson/pu5xbv/welcome!
Quelques éléments particulièrement intéressants:
- La distinction entre agent IA et IA agentique
- La prudence indispensable avec ce type d’application: nécessité de travailler dans des environnements de type ‘bac à sable’ pour éviter tout dommage, vu la plus ou moins grande autonomie de ces IA agentiques (voir à ce propos «Human Compatible: AI and the Problem of Control», de Stuart Russell, plus que jamais d’actualité)
- Processus réflectifs, avec ou sans outil externe
- L’intérêt du planning avec exécution de code
- Un chapitre particulièrement intéressant sur les différentes méthodes d’évaluation possibles pour les process ainsi définis: end-to-end/par composant, critères objectifs ou subjectifs (à ce sujet, voir aussi les résultats, très intéressants aussi, récemment publiés par Arvind Narayanan, Sayash Kapoor et al.: Rigorous AI agent evaluation is much harder than it seems )
- Agent vs. multi-agent, différents types de design
- Et on met les mains dans le cambouis! Enfin, dans le python, plus exactement.
Des informations intéressantes aussi dans leur nouveau format court, Governing AI Agents, en collaboration avec databricks.