Am 26. Juni wurde berichtet, dass das aufstrebende amerikanische Chip-Startup Etched seinen ersten KI-Chip namens Sohu auf den Markt gebracht hat. Dieser Chip zeigt bei der Ausführung groß angelegter Modelle eine erstaunliche Leistung und übertrifft den H100 des Branchenriesen NVIDIA um bis zu das 20-Fache. Selbst im Vergleich zum Top-Chip B200, der im März dieses Jahres auf den Markt kam, zeigt Sohu eine über 10-fach höhere Leistung.

Der große Durchbruch des Sohu-Chips liegt in der direkten Integration der Transformer-Architektur in den Chip selbst. Laut Uberti, CEO von Etched, wird Sohu im fortschrittlichen 4-Nanometer-Prozess von TSMC hergestellt. Er übertrifft nicht nur GPUs und andere Allzweck-KI-Chips bei der Inferenzleistung bei weitem, sondern erreicht auch neue Höhen bei der Energieeffizienz.

Was die Transformer-Technologie betrifft, ist Sohu zweifellos der schnellste Chip auf dem Markt und weist im Vergleich zu anderen Produkten einen erheblichen Leistungsunterschied auf. Es ist erwähnenswert, dass aktuelle Mainstream-KI-Produkte wie ChatGPT, Claude, Gemini und Sora alle auf der Transformer-Architektur basieren.

Als weltweit erster Transformer ASIC-Chip (Application-Specific Integrated Circuit) sind die integrierten Anwendungen von Sohu besonders bemerkenswert. Tests haben gezeigt, dass ein mit 8 Sohu-Chips ausgestatteter Server die Leistung eines Clusters aus 160 H100-GPUs erreichen kann. Insbesondere kann ein Server mit 8 Sohu-Chips bis zu 500,000 Llama 7B-Token pro Sekunde verarbeiten, eine in der Branche beispiellose Zahl.

Etched, das Unternehmen hinter diesem herausragenden Chip, hat seinen Sitz in Cupertino, Kalifornien. Obwohl es erst vor zwei Jahren mit einem Team von nur 35 Leuten gegründet wurde, sind seine Gründer Gavin Uberti (ein Harvard-Abbrecher und ehemaliger OctoML- und Xnor.ai Mitarbeiter) und Chris Zhu haben zusammen mit den erfahrenen technischen Experten Robert Wachen und dem ehemaligen CTO von Cypress Semiconductor Mark Ross diesen für KI in großen Modellen konzipierten Chip erfolgreich entwickelt und damit ihre enorme technische Kompetenz und ihr grenzenloses Potenzial unter Beweis gestellt.