Parameter-efficiënte fijnafstemming (PEFT)

Definitie

Parameter-efficiënte fine-tuning (PEFT) is een techniek om grote, vooraf getrainde modellen aan te passen aan nieuwe taken door slechts een kleine subset van parameters bij te werken in plaats van het hele model.

Doel

Het doel is om de rekenkosten en de opslagbehoefte te verminderen, terwijl de sterke taakprestaties behouden blijven.

Belang

• Maakt finetuning haalbaar voor organisaties met weinig middelen.
• Vermindert de CO2-voetafdruk in vergelijking met volledige modeltraining.
• Maakt efficiënte taakwisseling in productie mogelijk.
• Gerelateerd aan methoden zoals LoRA en adapters.

Hoe het werkt

1. Selecteer een groot, vooraf getraind basismodel.
2. Identificeer parametersubsets (bijv. adapters van lage rang).
3. Train alleen deze subsets op doeltaakgegevens.
4. Houd de overige parameters bevroren.
5. Implementeren met minimale resourceoverhead.

Voorbeelden (echte wereld)

• LoRA (Low-Rank Adaptation): veelgebruikt bij het verfijnen van LLM's.
• Hugging Face PEFT-bibliotheek: efficiënte toolkit voor fijnafstemming.
• Google-onderzoek: adapters voor meertalige NLP-taken.

Referenties / Verder lezen

• Hu et al. “LoRA: aanpassing van grote taalmodellen op lage rang.” arXiv.
• Houlsby et al. “Parameter-efficiënt transferleren voor NLP.” ACL.
• Documentatie voor Hugging Face PEFT.