Majestic Labs สลับ GPU ด้วยคอร์ Arm + RAM LPDDR6 ขนาด 128 TB เพื่อต่อต้าน Memory‑Wall

Prometheus เซิร์ฟเวอร์ของ Majestic Labs เปิดตัวโดยเปลี่ยนจากการใช้ GPU ของ Nvidia เป็นหน่วยประมวลผล AI ที่ผสาน Arm cores กับเครื่องยนต์เวกเตอร์และเทนเซอร์แบบ RISC‑V พร้อมหน่วยความจำ LPDDR6 สูงสุดถึง 128 TB บนบอร์ดเดียว ทำให้ระบบสามารถเข้าถึง “1000× มากกว่า” หน่วยความจำต่อโปรเซสเซอร์ตามที่บริษัทอ้างอิง ซึ่งอาจเปลี่ยนแนวทางการออกแบบศูนย์ข้อมูล AI ขององค์กรขนาดใหญ่ได้

Overview

Majestic Labs ก่อตั้งในปี 2023 โดยทีมวิศวกรเก่า​จาก Google และ Meta ที่มุ่งเน้นแก้ไขข้อจำกัดด้านหน่วยความจำของงาน inference AI บริษัทระบุว่าการผสาน GPU ราคาสูงกับ HBM ทำให้ระบบเป็น “memory‑bound” อย่างพื้นฐาน การเปิดตัวเซิร์ฟเวอร์ Prometheus จึงเป็นการลองแนวคิดใหม่โดยใช้ **Ignite AI Processing Units (AIU) แทน GPU ซึ่งประกอบด้วยคอร์ Arm หลายคอร์พร้อมกับโมดูลเวกเตอร์และเทนเซอร์แบบ RISC‑V

ระบบนี้ถูกออกแบบให้ทำงานในชั้น rack ขนาด 40U โดยสามารถวางได้สี่เครื่องต่อ rack ทั้งหมดใช้พลังงานประมาณ 120 kW และระบายความร้อนด้วยระบบ cold‑plate liquid cooling แทนการใช้พัดลมอากาศ ทำให้ความหนาแน่นของเซิร์ฟเวอร์สูงขึ้นโดยไม่เพิ่มภาระด้านไฟฟ้า

Architecture & Memory Design

Prometheus สามารถติดตั้งได้สูงสุด 12 AIU ต่อเครื่อง โดยเมมโมรีีจะถูกจัดสรรเป็นพูลเดียวที่ต่อเนื่องและสอดคล้องกันจาก 8 TB ถึง 128 TB LPDDR6 การเชื่อมต่อหน่วยความจำทำผ่านชิปเล็ตการรวมเมมโมรี (memory aggregation chiplets) ที่ใช้สายทองแดงยาวได้ถึงหนึ่งเมตร แทนการผูกเมมโมรีโดยตรงกับแพ็กเกจ GPU

ข้อแตกต่างสำคัญคือ:

• LPDDR6 ให้แบนด์วิดท์ต่อ GB สูงกว่า DDR5 แต่ต้นทุนต่ำกว่าการผลิต HBM3e
• การใช้ชิปเล็ตช่วยให้ระบบสามารถขยายเมมโมรีได้อย่างยืดหยุ่นโดยไม่ต้องออกแบบ GPU‑specific memory stack

แนวทางนี้ทำให้ Prometheus สามารถอ้างว่าให้ “fast memory” มากกว่า 50 เท่าจากการเปรียบเทียบกับ Nvidia DGX B300** ที่มี HBM3e เพียง 2.3 TB และ DDR5 สูงสุด 4 TB

Performance & Power Claims

บริษัทระบุว่าการรวมเมมโมรีแบบต่อเนื่องทำให้ interconnect bandwidth ของระบบเพิ่มขึ้น **1.7× เมื่อเทียบกับการเชื่อมต่อ GPU‑HBM ปัจจุบัน นอกจากนี้ Prometheus ยังอ้างว่า “หนึ่ง rack ของ Majestic มีความจุของ fast memory เท่ากับ 25 rack Nvidia NVL72 Vera Rubin” แต่ใช้พลังงานน้อยกว่าเพียงส่วนเดียว

ตามที่ Majestic Labs ประกาศ ราคาของเซิร์ฟเวอร์นี้อาจต่ำกว่าระบบ GPU ที่ให้ประสิทธิภาพเทียบเคียง 10–50 เท่า และการใช้ไฟต่อ rack ก็ลดลงด้วย อย่างไรก็ตาม ตัวเลขเหล่านี้ยังคงเป็นการคาดการณ์จากบริษัทเองและยังไม่มีผลทดสอบอิสระเพื่อยืนยัน

Market Position & Pricing

Prometheus ได้รับการออกแบบให้สอดคล้องกับมาตรฐาน OCP (Open Compute Project) ทำให้ผู้ใช้สามารถติดตั้งในศูนย์ข้อมูลที่รองรับ OCP อยู่แล้วได้โดยไม่ต้องปรับโครงสร้างเพิ่มเติม ระบบยังสนับสนุนเฟรมเวิร์ก AI ยอดนิยมเช่น PyTorch, vLLM และ OpenAI Triton เพื่อให้โมเดลที่มีอยู่สามารถทำงานบน Prometheus ได้โดยไม่ต้องแก้ไขโค้ด

ทีมผู้บริหารประกอบด้วย CEO Ofer Shacham, President Sha Rabii และ COO Masumi Reynders โดยบริษัทมีพนักงานประมาณ 40 คน กระจายระหว่างเทลอาวีฟและลอสแอนเจิลส์ การระดมทุนรอบ Series A ในปลายปี 2025 ได้รับเงิน 100 ล้านดอลลาร์ และรายงานว่าได้รับคำสั่งซื้อจากองค์กรขนาดใหญ่, neoclouds และ hyperscalers อยู่แล้ว อย่างไรก็ตาม รายละเอียดเชิงเทคนิคบางส่วน เช่น จำนวนชิปเล็ตที่จำเป็นต่อการจัดการ 128 TB เมมโมรี ยังคงไม่เปิดเผยอย่างชัดเจน

Validation & Outlook

แม้ว่าตัวเลขจาก Majestic Labs จะดูโดดเด่น แต่หลายประเด็นยังต้องรอการตรวจสอบจากหน่วยงานภายนอก เช่น จำนวนจริงของ memory aggregation chiplets ที่จำเป็นสำหรับคอนฟิก 128 TB (โดยประมาณอาจต้องใช้ 64,000 die LPDDR6 ขนาด 2 GB) ซึ่งแสดงให้เห็นว่าการออกแบบอาจซับซ้อนกว่าที่สื่อสาร

ผู้ซื้อระดับองค์กรที่กำลังพิจารณาย้ายจาก GPU ของ Nvidia ไปยังโซลูชันใหม่ จะต้องรอผลการ benchmark อิสระและการตรวจสอบด้านความเสถียรของระบบก่อนตัดสินใจ การยอมรับในวงกว้างจึงขึ้นอยู่กับความสามารถของ Prometheus ในการพิสูจน์ว่ามันให้ประสิทธิภาพตามที่โฆษณาไว้จริงหรือไม่

Summary

Majestic Labs เปิดตัวเซิร์ฟเวอร์ Prometheus ที่สลับ GPU ด้วย AIU บนคอร์ Arm และเมมโมรี LPDDR6 สูงสุด 128 TB เพื่อลดต้นทุนและเพิ่มความจุหน่วยความจำต่อโปรเซสเซอร์ แม้ว่าบริษัทจะอ้างว่าตัวเลขประสิทธิภาพเหนือกว่า GPU‑HBM อย่างมาก แต่ยังต้องรอการทดสอบจากภายนอกเพื่อยืนยันข้อเรียกร้องเหล่านี้.