Anthropic เปิดตัวโมเดล Fable 5 สาธารณะ พร้อมจำกัดการเข้าถ…

Anthropic ประกาศเปิดให้สาธารณชนใช้งานโมเดล Fable 5 รุ่นใหม่ที่มีประสิทธิภาพสูง ขณะเดียวกันบริษัทเลือกคง Mythos ไว้ในระดับจำกัดหลังจากพบว่าการเปิดเผยเต็มรูปแบบอาจก่อให้เกิดความเสี่ยงด้านความปลอดภัยไซเบอร์ รายงานจากโครงการ Project Glasswing แสดงให้เห็นว่าผู้ใช้จำนวนประมาณ 150 องค์กรได้ตรวจพบจุดบกพร่องวิกฤติกว่า 10,000 รายการในระบบของตนเอง

Overview

Anthropic เป็นบริษัทปัญญาประดิษฐ์ที่มุ่งเน้นการพัฒนาโมเดลภาษาขนาดใหญ่ที่มีการควบคุมความเสี่ยงอย่างเข้มงวด การเปิดตัว Fable 5 ในฐานะผลิตภัณฑ์สาธารณะเป็นก้าวสำคัญที่บริษัทคาดว่าจะเพิ่มการนำ AI ไปใช้ในงานต่าง ๆ ทั้งด้านธุรกิจและการวิจัย อย่างไรก็ตาม บริษัทได้แยกโมเดล Mythos ออกเป็นเวอร์ชันที่จำกัดการเข้าถึง เนื่องจากความกังวลเกี่ยวกับการนำไปใช้ในกิจกรรมที่อาจทำลายระบบความปลอดภัยของผู้ใช้

การตัดสินใจนี้สอดคล้องกับแนวโน้มของอุตสาหกรรม AI ที่ให้ความสำคัญกับการจัดการความเสี่ยงก่อนการปล่อยโมเดลสู่ตลาด บริษัทได้อ้างว่าการปกป้องข้อมูลและระบบของลูกค้าเป็นหัวใจสำคัญของการพัฒนาเทคโนโลยีขั้นสูง

Fable 5 Details

Fable 5 ถูกออกแบบให้มีความสามารถในการประมวลผลภาษาธรรมชาติได้เร็วกว่าโมเดลก่อนหน้า ทั้งในแง่ของการตอบสนองต่อคำสั่งที่ซับซ้อนและการสร้างข้อความที่มีความสอดคล้องสูง แม้ว่ารายละเอียดเชิงเทคนิคของโมเดลจะไม่ได้เปิดเผยเต็มที่ บริษัทได้ระบุว่ามีการปรับปรุงโครงสร้างเครือข่ายและอัลกอริธึมการฝึกเพื่อเพิ่มประสิทธิภาพการเรียนรู้

นอกจากนี้ Anthropic ยังให้ความสำคัญกับมาตรการ Safety ภายใน Fable 5 โดยรวมฟีเจอร์การตรวจจับและปิดกั้นข้อความที่อาจเป็นอันตรายหรือก่อให้เกิดการบิดเบือนข้อมูล การเปิดให้ใช้งานสาธารณะนั้นมาพร้อมกับ API ที่ผู้พัฒนาสามารถเข้าถึงได้ผ่านระบบคลาวด์ของบริษัท

Mythos Restrictions

โมเดล Mythos ได้รับการทดสอบในขั้นต้นภายใต้โครงการ Project Glasswing ตั้งแต่เดือนเมษายนที่ผ่านมา โดยมีการเชิญชวนองค์กรประมาณ 150 แห่งให้ทดลองใช้งานอย่างจำกัด ผู้ใช้เหล่านี้รายงานว่าพบจุดบกพร่องด้านความปลอดภัยสำคัญกว่า 10,000 รายการในระบบของตนเอง ซึ่งรวมถึงช่องโหว่ที่อาจถูกใช้เพื่อการเจาะระบบหรือการเก็บข้อมูลโดยไม่ได้รับอนุญาต

ตามข้อมูลของ Anthropic การเปิดตัว Mythos อย่างเต็มรูปแบบอาจทำให้ความสามารถด้านการวิเคราะห์และสร้างโค้ดของโมเดลถูกนำไปใช้เพื่อค้นหาและทำลายช่องโหว่ในระบบคอมพิวเตอร์ขององค์กรอื่น ๆ จึงตัดสินใจให้โมเดลอยู่ในระดับ “restricted” จนกว่าจะมีการเสริมมาตรการป้องกันเพิ่มเติม

Security Findings

ผลการทดสอบจาก Project Glasswing แสดงให้เห็นว่าแม้โมเดล AI จะมีศักยภาพในการช่วยแก้ปัญหาทางเทคนิคได้ดี แต่ก็สามารถทำหน้าที่เป็นเครื่องมือในการสำรวจและโจมตีระบบได้เช่นกัน การรายงาน 10,000 จุดบกพร่องที่สำคัญบ่งบอกว่าผู้ใช้ได้ใช้ Mythos เพื่อสแกนหาช่องโหว่ในโครงสร้างพื้นฐานของตนเองและพบข้อบกพร่องที่อาจเป็นเป้าหมายของผู้ไม่ประสงค์ดี

Anthropic ย้ำว่าการรวบรวมข้อมูลเหล่านี้เป็นส่วนหนึ่งของกระบวนการ “responsible disclosure” ซึ่งบริษัทจะทำงานร่วมกับผู้ใช้เพื่อแก้ไขและอัปเดตระบบให้ปลอดภัยยิ่งขึ้นก่อนที่จะพิจารณาขยายการเข้าถึงของ Mythos

Industry Impact

การตัดสินใจของ Anthropic สะท้อนถึงความท้าทายที่บริษัทเทคโนโลยี AI ต้องเผชิญเมื่อต้องสมดุลระหว่างนวัตกรรมและความปลอดภัย การเปิดตัว Fable 5 อย่างสาธารณะอาจกระตุ้นให้คู่แข่งเช่น OpenAI และ Google พิจารณาปรับนโยบายการเปิดเผยโมเดลของตนในทิศทางเดียวกัน

นอกจากนี้ ผู้กำกับดูแลด้านเทคโนโลยีและกฎหมายอาจใช้กรณีของ Mythos เป็นตัวอย่างในการกำหนดกรอบการปฏิบัติที่ชัดเจนสำหรับการจัดการความเสี่ยงของ AI ระดับสูง การเน้นความสำคัญของการทดสอบภายในก่อนเปิดตัวอาจกลายเป็นมาตรฐานใหม่ในอุตสาหกรรม

Summary

Anthropic เปิดตัวโมเดล Fable 5 ให้ใช้งานสาธารณะพร้อมกับการรักษา Mythos ในระดับจำกัดหลังจากการทดสอบพบ 10,000 จุดบกพร่องความปลอดภัยจากองค์กร 150 แห่ง การตัดสินใจนี้เน้นความสำคัญของการจัดการความเสี่ยงในเทคโนโลยี AI และอาจส่งผลต่อแนวทางของอุตสาหกรรมโดยรวม.