Feinabstimmung
Was ist Feinabstimmung (KI)?
Unter Feinabstimmung versteht man beim maschinellen Lernen die Änderung der Parameter eines vorab trainierten Modells, um einer bestimmten Aufgabe oder einem bestimmten Datensatz gerecht zu werden. Das Modell wird anhand von aufgabenbezogenen Daten neu trainiert, wobei das bisherige Wissen erhalten bleibt.
- Wie funktioniert die Feinabstimmung?
- Der Prozess der Feinabstimmung
- Feinabstimmung mit HPE
Wie funktioniert die Feinabstimmung?
Bei der Feinabstimmung handelt es sich um ein Transfer-Lernen, bei dem das Modell sein Wissen nutzt, um bei einer ähnlichen Aufgabe besser abzuschneiden. Die Feinabstimmung eines vorab trainierten Modells führt zu besseren Ergebnissen mit weniger Computing-Ressourcen und Trainingszeit als bei einer Neuentwicklung. Sie ist für moderne Workflows des maschinellen Lernens von entscheidender Bedeutung, da sie für Natural Language Processing und Computer Vision eingesetzt wird, um Modelle an neue Aufgaben oder Datensätze anzupassen.
Feinabstimmung und RAG
| Aspekt | Feinabstimmung | RAG (Retrieval Augmented Generation) |
|---|---|---|
| 1. Methodologie | Passt die vortrainierten Modellparameter für bestimmte Aufgaben oder Datensätze an. | Verwendet einen Abrufmechanismus zur Ergänzung von Generierungsaufgaben und kombiniert Abruf- und Generierungsmodelle. |
| 2. Trainingsdaten | Erfordert aufgabenspezifische Trainingsdaten für die Feinabstimmung. | Kann große Textkorpora sowohl für Such- als auch für Generierungskomponenten nutzen. |
| 3. Anpassungsfähigkeit | Bessere Anpassungsfähigkeit an ein breites Spektrum von Aufgaben und Bereichen. | In erster Linie für Aufgaben geeignet, bei denen es um die Generierung mit kontextbezogener Informationsbeschaffung geht. |
| 4. Leistung | Kann mit aufgabenspezifischer Feinabstimmung hohe Leistungen erzielen. | Die Leistung hängt in hohem Maße von der Qualität und Relevanz der abgerufenen Informationen ab. |
| 5. Anwendungsfälle | Weit verbreitet in verschiedenen Bereichen wie NLP, Computer Vision und so weiter. | Besonders vorteilhaft für Aufgaben wie die Beantwortung von Fragen, Dialogsysteme und die Erstellung von Inhalten, die kontextbezogene Informationen erfordern. |
