Je vous invite de tout coeur à visionner la vidéo suivante publiée cette semaine par Andrej Karpathy sur Youtube. Andrej Karpathy est un des chercheurs les plus en pointe en IA. Il est un des cofondateurs d’ OpenAI et combine l’ excellence technique avec un remarquable talent pédagogique.
La vidéo fait le tour du fonctionnement et des perspectives des modèles de langage. Le niveau est plus technique que celui de mes articles habituels tout en restant très accessible.
Dans la vidéo, Andrej Karpathy explique successivement :
- comment les modèles de langage génèrent le texte;
- l’ entraînement des modèles de langage;
- le principe de fonctionnement des modèles de langage;
- le passage d’ un modèle généraliste à un modèle conversationnel;
- les agents : utilisation d’ outils par les modèles de langage;
- le futur des modèles de langage : multimodalité, raisonnement, auto-amélioration;
- le modèle de langage comme futur système d’ exploitation;
- risques et failles de sécurité spécifiques aux modèles de langage.
Vous pouvez visionner la vidéo ici :
J’ en profite aussi pour vous rappeler la liste des chercheurs en IA à suivre sur X/twitter (dont Andrej Karpathy fait évidemment partie), que j’ avais publié dans un article précédent que vous pourrez consulter ici.
Artificiellement Intelligent 