เชื่อม FM, จัดการข้อมูล, RAG & Promptบทที่ 5/16 · ~11 นาที
Customize FM: Fine-tuning, Distillation & SageMaker
เมื่อไหร่ควรปรับแต่งโมเดล เลือกวิธีไหน และ deploy/จัดการ lifecycle อย่างไร
| วิธี | ข้อมูลที่ใช้ | ผลลัพธ์ |
|---|---|---|
Fine-tuning | คู่ prompt–completion ที่ติด label | โมเดลทำงานเฉพาะได้ดีขึ้น ตาม format/สไตล์ |
Continued pre-training | เอกสารดิบจำนวนมาก (unlabeled) | โมเดลเข้าใจศัพท์/โดเมนเฉพาะ |
Distillation | prompt ของงานจริง + teacher model สร้างคำตอบ | student model เล็ก ถูก เร็ว แต่แม่นใกล้ teacher |
Custom Model Import | weights ของโมเดล open-source ที่ปรับมาเอง | ใช้งานผ่าน Bedrock API แบบ serverless |
ฝั่ง SageMaker AI
- LoRA / adapters (PEFT) — เทรนเฉพาะพารามิเตอร์ส่วนเล็ก ประหยัด GPU และ host หลาย adapter บน base model เดียวได้ (inference components)
- SageMaker Model Registry — เก็บ version ของโมเดล, สถานะอนุมัติ (approval), ใช้ใน CI/CD และ rollback เมื่อ deploy พัง
- SageMaker JumpStart — deploy โมเดล open-source ได้เร็ว
- โมเดลที่ customize ใน Bedrock มักต้องใช้ Provisioned Throughput (หรือ on-demand สำหรับบางโมเดลที่รองรับ)
เช็กความเข้าใจ
บริษัทมี chatbot ที่ใช้โมเดลใหญ่ คุณภาพดีแต่แพงและช้า ต้องการลดต้นทุนโดยคงคุณภาพใกล้เคียงสำหรับงานเฉพาะนี้ ควรทำอะไร?
อ่านจบแล้ว? ลองทำข้อสอบเรื่องนี้เลย
การดึงความรู้ออกมาใช้ทันทีหลังอ่าน (retrieval practice) ช่วยให้จำได้นานขึ้นมาก