Ressources - LLM : Comprendre & Utiliser

Phase 3 - IA Generative Open Source

1. Documentation

Attention Is All You Need

Le paper fondateur des Transformers par Vaswani et al. (2017). Lecture essentielle pour comprendre l'architecture.

Gratuit
Lire le Paper

The Illustrated Transformer

Explication visuelle et intuitive de l'architecture Transformer par Jay Alammar.

Gratuit
Consulter

Outlines Documentation

Guide officiel pour la génération structurée avec contraintes grammaticales.

Gratuit
Documentation

LangChain Documentation

Framework complet pour développer des applications LLM avec chaînage, mémoire, agents.

Gratuit
Documentation

Prompt Engineering Guide

Guide complet et maintenu des techniques de prompt engineering par DAIR.AI.

Gratuit
Guide

LMSYS Chatbot Arena

Plateforme de benchmark crowdsourced avec classement Elo des modèles LLM.

Gratuit
Arena

2. Livres

Build a Large Language Model (From Scratch)

Par Sebastian Raschka. Construction step-by-step d'un LLM de type GPT en PyTorch.

Manning

Natural Language Processing with Transformers

Par Tunstall, von Werra, Wolf. Guide pratique HuggingFace avec code.

O'Reilly

Speech and Language Processing

Par Jurafsky & Martin. Référence académique complète du NLP, draft gratuit en ligne.

Gratuit
Draft PDF
Designing Machine Learning Systems

Par Chip Huyen. MLOps et engineering des systèmes ML en production.

Prompt Engineering for LLMs

Par John Berryman & Albert Ziegler. Techniques avancées de prompting.

O'Reilly

Generative Deep Learning (2nd ed)

Par David Foster. Couvre Transformers, Diffusion, GANs avec TensorFlow/Keras.

O'Reilly

The Alignment Problem

Par Brian Christian. Philosophie et enjeux de l'alignement de l'IA.

Site

Deep Learning (Livre Goodfellow)

Par Goodfellow, Bengio, Courville. Fondations mathématiques du deep learning.

Gratuit
Version web

3. Cours

Neural Networks: Zero to Hero

Par Andrej Karpathy. Série vidéo construisant un GPT from scratch en PyTorch.

Gratuit
YouTube

Stanford CS224n: NLP with Deep Learning

Cours universitaire complet sur le NLP moderne avec Transformers.

Gratuit
Site du cours

fast.ai Practical Deep Learning

Approche top-down pour le deep learning pratique, inclut NLP et vision.

Gratuit
Cours

DeepLearning.AI LLM Courses

Cours courts par Andrew Ng sur LangChain, Vector DBs, fine-tuning, prompting.

Gratuit
Catalogue

HuggingFace NLP Course

Cours officiel HuggingFace couvrant Transformers library et fine-tuning.

Gratuit
Cours

Full Stack LLM Bootcamp

Par The Full Stack. Construction d'applications LLM de bout en bout.

Gratuit
Bootcamp

MIT 6.S191: Intro to Deep Learning

Cours MIT avec module sur LLMs et applications génératives.

Gratuit
Site

LLM University (Cohere)

Modules interactifs sur embeddings, classification, génération par Cohere.

Gratuit
LLM U

4. Outils

Outlines

Génération structurée avec contraintes JSON Schema, regex, grammaires CFG.

Open Source
GitHub

vLLM

Serveur d'inférence haute performance avec PagedAttention et batching continu.

Open Source
GitHub

Ollama

Exécution locale de LLMs avec CLI simple. LLaMA, Mistral, Phi, etc.

Open Source
Site

LangChain

Framework pour applications LLM : chains, agents, RAG, memory, tools.

Open Source
GitHub

Gradio

Création rapide d'interfaces web pour modèles ML avec partage facile.

Open Source
Site

FastAPI

Framework web Python moderne pour APIs REST haute performance.

Open Source
Docs

Promptfoo

Testing et evaluation de prompts avec assertions, benchmarks, comparaisons.

Open Source
Site

LiteLLM

Interface unifiée pour 100+ APIs LLM (OpenAI, Anthropic, Azure, etc.).

Open Source
GitHub

5. Benchmarks

MMLU (Massive Multitask Language Understanding)

57 tâches de connaissances (STEM, humanities, social sciences). 15,908 questions.

Gratuit
GitHub

HumanEval

164 problèmes de programmation Python pour évaluer la génération de code.

Gratuit
GitHub

GSM8K

8,500 problèmes mathématiques niveau école primaire testant le raisonnement.

Gratuit
GitHub

LMSYS Chatbot Arena

Classement crowdsourced avec Elo ratings basé sur votes humains.

Gratuit
Leaderboard

Open LLM Leaderboard (HuggingFace)

Évaluation automatisée sur ARC, HellaSwag, MMLU, TruthfulQA.

Gratuit
Leaderboard

AlpacaEval

Évaluation automatique avec LLM-as-judge sur 805 instructions diverses.

Gratuit
GitHub

6. Communautés

r/LocalLLaMA

Subreddit actif sur LLMs open source, quantization, fine-tuning local.

Gratuit
Reddit

HuggingFace Forums

Forums officiels pour questions sur transformers, datasets, deployment.

Gratuit
Forums

LangChain Discord

Serveur Discord très actif avec support et discussions sur LangChain.

Gratuit
Discord

Prompt Engineering Community Discord

Communauté dédiée au prompt engineering, partage de techniques.

Gratuit
Discord

LMSYS Discord

Communauté autour de Chatbot Arena, Vicuna, FastChat.

Gratuit
Discord

AI Twitter/X Lists

Suivre chercheurs et praticiens : @karpathy, @ylecun, @AndrewYNg, @soumithchintala.

Gratuit
Twitter