미세 조정
미세 조정(AI)이란?
기계 학습에서 미세 조정은 사전 교육된 모델의 매개변수를 특정 작업 또는 데이터 세트에 적합하게 변경하는 작업을 의미합니다. 이전의 전문성을 유지하면서 대상 작업과 관련한 데이터로 모델을 다시 교육합니다.
- 미세 조정의 작동 원리
- 미세 조정 프로세스
- HPE를 통한 미세 조정
미세 조정의 작동 원리
미세 조정은 모델이 기존의 전문성을 기반으로 관련 작업에서 더 나은 결과를 제공하는 전이 학습과 유사합니다. 사전 교육된 모델을 미세 조정하면 처음부터 시작하는 것보다 적은 컴퓨팅 리소스와 교육 시간으로 더 나은 결과를 얻을 수 있습니다. 이는 현대식 기계 학습 워크플로에서 매우 중요합니다. 자연어 처리와 컴퓨터 비전에서 새로운 작업이나 데이터 세트에 따라 모델을 조정하는 데 사용되기 때문입니다.
미세 조정과 RAG 비교
| 방식 | 미세 조정 | RAG(검색 증강 생성) |
|---|---|---|
| 1. 방법 | 사전 교육된 모델 매개변수를 특정 작업 또는 데이터 세트에 적합하게 조정합니다. | 검색 메커니즘을 사용하여 생성 작업을 보완하고, 검색 모델과 생성 모델을 결합합니다. |
| 2. 교육 데이터 | 미세 조정을 위한 작업별 교육 데이터가 필요합니다. | 검색 구성요소 및 생성 구성요소 모두에 대규모의 텍스트 말뭉치를 사용할 수 있습니다. |
| 3. 적응성 | 광범위한 작업과 도메인에 더 적합합니다. | 기본적으로 컨텍스트 정보 검색을 활용한 생성 관련 작업에 적합합니다. |
| 4. 성능 | 작업별 미세 조정으로 우수한 성능을 달성할 수 있습니다. | 성능은 검색된 정보의 품질과 관련성에 따라 큰 차이가 납니다. |
| 5. 사용 사례 | NLP, 컴퓨터 비전과 같은 다양한 도메인에서 널리 사용됩니다. | 컨텍스트 정보가 필요한 질문 응답, 대화 시스템, 콘텐츠 생성 등의 작업에서 특히 유용합니다. |
