เมื่อวันที่ 26 มิถุนายน มีรายงานว่า Etched สตาร์ทอัพชิปสัญชาติอเมริกันเกิดใหม่ ได้เปิดตัวชิป AI ตัวแรกชื่อ Sohu ชิปนี้แสดงให้เห็นถึงประสิทธิภาพที่น่าอัศจรรย์เมื่อใช้โมเดลขนาดใหญ่ ซึ่งเหนือกว่า NVIDIA H100 ยักษ์ใหญ่ในอุตสาหกรรมถึง 20 เท่า แม้จะเปรียบเทียบกับชิปตัวท็อป B200 ที่เปิดตัวในเดือนมีนาคมปีนี้ Sohu ก็แสดงประสิทธิภาพที่เหนือกว่าถึง 10 เท่า

ความก้าวหน้าครั้งสำคัญของชิป Sohu อยู่ที่การบูรณาการสถาปัตยกรรม Transformer เข้ากับตัวชิปโดยตรง Uberti ซีอีโอของ Etched กล่าวว่า Sohu ผลิตขึ้นโดยใช้กระบวนการ 4 นาโนเมตรขั้นสูงของ TSMC ไม่เพียงแต่เหนือกว่า GPU และชิป AI ทั่วไปอื่นๆ อย่างมากในด้านประสิทธิภาพการอนุมาน แต่ยังบรรลุจุดสูงสุดใหม่ในด้านประสิทธิภาพการใช้พลังงานอีกด้วย

สำหรับเทคโนโลยี Transformer นั้น Sohu ถือเป็นชิปที่เร็วที่สุดในตลาดอย่างไม่ต้องสงสัย โดยแสดงให้เห็นประสิทธิภาพที่แตกต่างกันอย่างมีนัยสำคัญเมื่อเทียบกับผลิตภัณฑ์อื่นๆ เป็นที่น่าสังเกตว่าผลิตภัณฑ์ AI กระแสหลักในปัจจุบัน เช่น ChatGPT, Claude, Gemini และ Sora ล้วนขับเคลื่อนโดยสถาปัตยกรรม Transformer

ในฐานะชิป Transformer ASIC (Application-Specific Integrated Circuit) ตัวแรกของโลก การใช้งานแบบผสานรวมของ Sohu จึงมีความสำคัญเป็นพิเศษ การทดสอบแสดงให้เห็นว่าเซิร์ฟเวอร์ที่ติดตั้งชิป Sohu 8 ตัวสามารถจับคู่กับประสิทธิภาพของคลัสเตอร์ที่มี GPU H160 100 ตัว โดยเฉพาะอย่างยิ่ง เซิร์ฟเวอร์ที่มีชิป Sohu 8 ตัวสามารถประมวลผลโทเค็น Llama 500,000B ได้สูงสุด 7 โทเค็นต่อวินาที ซึ่งถือเป็นตัวเลขที่ไม่เคยมีมาก่อนในอุตสาหกรรม

Etched ซึ่งเป็นบริษัทที่อยู่เบื้องหลังชิปที่โดดเด่นนี้ตั้งอยู่ในเมืองคูเปอร์ติโน รัฐแคลิฟอร์เนีย แม้จะก่อตั้งเมื่อสองปีที่แล้วด้วยทีมงานเพียง 35 คน แต่ผู้ก่อตั้ง Gavin Uberti (ผู้ออกจากมหาวิทยาลัย Harvard และอดีต OctoML และ Xnor.ai ) และ Chris Zhu พร้อมด้วยผู้เชี่ยวชาญด้านเทคนิคผู้ช่ำชอง Robert Wachen และอดีต CTO ของ Cypress Semiconductor Mark Ross ประสบความสำเร็จในการพัฒนาชิปนี้ที่ออกแบบมาสำหรับ AI รุ่นขนาดใหญ่ ซึ่งแสดงให้เห็นถึงความกล้าหาญทางเทคนิคที่น่าเกรงขามและศักยภาพที่ไร้ขอบเขต