Der schnellste KI-Chip ist leistungsstark wie ein ganzer Supercomputer
Durch die enorme Anzahl von vier Billionen Transistoren pro WSE-3-Chip wird eine Leistung erbracht, die doppelt so hoch ist wie bei dem bereits beeindruckenden Vorgängermodell. Die Effizienzsteigerung und die Leistungsverbesserung stehen hier im Vordergrund.
Die Größe eines WSE-3-Chips entspricht etwa der einer Pizza-Box - ganz schön groß für einen Chip. Die Leistung eines ganzen Raums voller Server erreicht so eine Kühlschrank große Einheit. Diese Skalierbarkeit ist schlichtweg beeindruckend.
Mit 44 GB on-chip SRAM und 900.000 KI-Kernen ist der CS-3 in der Lage, eine Spitzenleistung von 125 petaFLOPS zu erzielen. Theoretisch sollte dies ausreichen um sich unter den Top 10 der schnellsten Supercomputer der Welt zu platzieren, doch Tests stehen noch aus um dies zu bestätigen.
Die externe Speicherkapazität des CS-3 reicht von 1,5 TB über 12 TB bis hin zu gigantischen 1,2 Petabytes (PB) sprich 1.200 TB. Damit können AI-Modelle mit bis zu 24 Billionen Parametern trainiert werden – ein wahrlich beeindruckender Schritt in Richtung leistungsstärkerer KI-Systeme.
Die Skalierbarkeit des CS-3 ermöglicht es bis zu 2.048 Einheiten zu einem Supercomputer zu bündeln, der eine Leistung von bis zu 256 exaFLOPS erbringen kann. Derzeit bewegen sich die leistungsstärksten Supercomputer der Welt knapp über einem exaFLOP, sodass der CS-3 eine neue Ära der Rechenleistung einläuten könnte.
Es scheint, als ob die Entwicklung von KI-Modellen unaufhaltsam voranschreitet und mit dem CS-3-Chip wird dieser Prozess nur weiter beschleunigt. Es ist wohl nur eine Frage der Zeit, bis KI-Systeme nicht nur unsere Arbeitswelt, sondern auch unsere Freizeitgestaltung revolutionieren werden.
Quelle: https://www.cerebras.net/press-release/cerebras-announces-third-generation-wafer-scale-engine