ที่มาภาพ: TechRadar
Meta ปรับโครงสร้างสตอเรจเพื่อให้ GPU ฝึก AI ทำงานต่อเนื้องโดยไม่ต้องรอข้อมูล
⚡ สรุป 30 วิ
Meta ปรับโครงสร้างสตอเรจโดยบูรณาการเมทาดาต้าและแคชหลายระดับ ทำให้ GPU ฝึก AI ไม่ต้องรอข้อมูลเป็นชั่วโมง โหลดชุดข้อมูลจาก 150 นาทีเหลือ 10 นาที…
Meta ปรับโครงสร้างระบบจัดเก็บข้อมูลเพื่อให้ GPU ที่ใช้ฝึกโมเดล AI ทำงานต่อเนื่องโดยไม่ต้องรอคอยข้อมูล — การเปลี่ยนแปลงนี้ทำให้ระยะเวลาการโหลดชุดข้อมูลจากหลายชั่วโมงเหลือเพียงไม่กี่นาทีและลดค่าใช้จ่ายที่เกิดจาก GPU ค้างอยู่โดยไม่มีงานทำ
Overview
Meta ดูแลคลัสเตอร์จัดเก็บข้อมูลระดับเอ็กซาบายต์ที่สนับสนุน Facebook, Instagram, Reality Labs, ระบบโฆษณา และฐานข้อมูลภายใน — ระบบพื้นฐานนี้ชื่อ Tectonic ซึ่งรวมการจัดการออบเจกต์สตอเรจ, ไฟล์ซิสเต็ม, บล็อกดีไวซ์และการวางตำแหน่งข้อมูลระหว่าง HDD กับ SSD ตามรายงานของ TechRadar การเปลี่ยนแนวทางจากไฟล์สตอเรจแบบดั้งเดิมไปเป็น BLOB storage เริ่มต้นเมื่อชุดข้อมูล AI มีขนาดมหาศาลต้องการวิธีเข้าถึงที่รวดเร็วและสอดคล้องกัน
Storage Bottlenecks
ปัญหาหลักของ Meta คือขั้นตอนค้นหาเมทาดาต้าซ้ำหลายชั้นที่ทำให้เวลาหน่วงเพิ่มขึ้นอย่างมีนัยสำคัญ เมื่อ GPU เซิร์ฟเวอร์ส่งคำขอข้อมูลไปยังสตอเรจ การรอผลจากการตรวจสอบเมทาดาต้าเป็นสาเหตุหนึ่งของการหยุดทำงาน (stall) ของ GPU ซึ่งตามที่วิศวกรของบริษัทระบุ ทำให้ค่าใช้จ่ายในการดำเนินงานสูงขึ้นและความก้าวหน้าในงานวิจัยล่าช้า การรอคอยข้อมูลนี้ยังขยายระยะเวลาการพัฒนารุ่น AI ทั้งหลายอีกด้วย
Redesign Architecture
เพื่อแก้ไขข้อจำกัดดังกล่าว Meta ได้ทำการออกแบบใหม่ของระบบเมทาดาต้าโดยใช้ ZippyDB เป็นฐานข้อมูลสเกลเดียวที่รวมสคีม่าเป็นรูปแบบเชิงบูรณาการ พร้อมกับให้ไคลเอนต์ฝังตัวสามารถดึงข้อมูลโดยตรงจากระดับสตอเรจแทนการผ่านแอปพลิเคชันเซิร์ฟเวอร์ การเปลี่ยนแปลงนี้ทำให้เวลาตอบสนองของเมทาดาต้าลดเหลือ 1‑2 ms และช่วยลดความซับซ้อนของการเรียกข้อมูลหลายขั้นตอน นอกจากนี้ยังได้วางระบบ BLOB‑storage ระดับภูมิภาคใกล้กับคลัสเตอร์ GPU เพื่อลดระยะทางในการส่งผ่านข้อมูล
Caching Strategy
Meta ใช้วิธีการแคชหลายระดับเพื่อให้ข้อมูลที่ต้องใช้บ่อยอยู่ใกล้กับ GPU มากที่สุด โดยมีโครงสร้างดังต่อไปนี้
- **L1: หน่วยความจำของ GPU (host memory) ที่ไม่ได้ใช้งานถูกนำมาเป็นแคชแบบใช้‑ครั้งเดียว
- **L2: SSD ภายในเครื่องแม่ข่ายที่ทำหน้าที่เก็บข้อมูลสำรองระยะสั้น
- **L3: ระบบ BLOB‑storage แบบแฟลช‑แบ็คที่ตั้งอยู่ในภูมิภาค
ระดับ HDD ยังคงเป็นแหล่งข้อมูลต้นฉบับแต่จะถูกเรียกใช้เฉพาะเมื่อข้อมูลไม่พบในแคช ทั้งนี้อัตราการเจาะจังหวะของแคช (cache hit rate) เฉลี่ยอยู่ที่ **80 % ซึ่งช่วยให้การเข้าถึงเมทาดาต้าทำได้ภายใน 1‑2 ms ตามที่วิศวกรบรรยาย
Performance Gains
ผลลัพธ์จากการปรับโครงสร้างแสดงให้เห็นถึงความเร็วที่เพิ่มขึ้นอย่างชัดเจน การโหลดชุดข้อมูลซึ่งเคยใช้เวลาประมาณ 150 นาที ตอนนี้ทำได้ใน 10 นาที เพียงเท่านั้น อีกกรณีหนึ่งที่ต้องใช้เวลา 89 ชม. ในกระบวนการเดิม สามารถเสร็จสิ้นภายใน 3‑4 ชม. หลังจากเปิดใช้งานระบบใหม่ การลดเวลาการคอยของ GPU ทำให้ค่าใช้จ่ายต่อชั่วโมงของอุปกรณ์ราคาแพงนี้ลดลงอย่างมีนัยสำคัญ
Implications
นักวิเคราะห์ด้านเทคโนโลยีเช่น Jukan จาก Citrini ชี้ว่าตอนก่อนหน้านี้การประเมินค่าระบบสตอเรจมักพิจารณาเพียง ค่าใช้จ่ายต่อเทราไบต์ เท่านั้น แต่เมื่อ GPU ต้องรอข้อมูลช้า เวลาเงียบของอุปกรณ์สามารถทำให้ต้นทุนรวมสูงกว่าการลงทุนในโซลูชั่นแฟลช‑แคชชิ่ง การเปลี่ยนไปใช้งาน SSD และระบบแคชหลายระดับจึงเป็นการตัดสินใจที่คุ้มค่าทางเศรษฐกิจเมื่อพิจารณาถึงต้นทุนของเวลาที่ GPU ไม่ได้ทำงานเต็มประสิทธิภาพ
Summary
Meta ปรับโครงสร้างสตอเรจด้วยการรวมเมทาดาต้าแบบบูรณาการและแคชหลายระดับ ทำให้ GPU ที่ใช้ฝึก AI ลดเวลาเงียบจากหลายชั่วโมงเหลือเพียงไม่กี่นาที การเปลี่ยนแปลงนี้ช่วยเพิ่มประสิทธิภาพของการลงทุนอุปกรณ์ราคาแพงและเร่งความเร็วในการพัฒนานวัตกรรม AI ของบริษัท.
แชร์บทความนี้:
ชอบบทความแบบนี้?
สมัคร AI Automate Weekly Newsletter — รับเคล็ดลับ AI + how-to ใหม่
ทุกสัปดาห์ตรงถึง inbox ฟรี ไม่มีสแปม
แหล่งข่าวต้นฉบับ
- ชื่อต้นฉบับ
- 'A disk in a planet-scale computer': Meta has so many expensive GPUs that it's buying SSDs to kill idle time
- ผู้เขียน
- Efosa Udinmwen
- แหล่ง
- TechRadar
- วันที่เผยแพร่
- 2 สิงหาคม 2569 เวลา 00:35
