2,6 Triliun Transistor, Hasil 100%

Bonus gede Pengeluaran SGP 2020 – 2021. Prize khusus yang lain-lain dapat dipandang secara berkala via info yang kita sisipkan dalam laman itu, serta juga siap ditanyakan pada petugas LiveChat support kami yang siaga 24 jam On-line guna melayani segala maksud antara pemain. Ayo segera gabung, dan dapatkan jackpot Lotere serta Kasino On the internet terbesar yg ada di tempat kita.

Dalam beberapa tahun terakhir, banyak sekali prosesor yang memasuki pasar dengan tujuan tunggal untuk mempercepat kecerdasan buatan dan beban kerja pembelajaran mesin. Karena kemungkinan jenis algoritme pembelajaran mesin yang berbeda, prosesor ini sering kali difokuskan pada beberapa area utama, tetapi satu hal membatasi semuanya – seberapa besar Anda dapat membuat prosesor. Dua tahun lalu Cerebras meluncurkan revolusi dalam desain silikon: prosesor sebesar kepala Anda, menggunakan area seluas 12 inci pada wafer seperti yang dimungkinkan oleh desain persegi panjang, dibangun di atas 16nm, dengan fokus pada beban kerja AI dan HPC. Hari ini perusahaan meluncurkan produk generasi kedua, dibangun di atas TSMC 7nm, dengan lebih dari dua kali inti dan lebih dari dua kali lipat semuanya.

Mesin Skala Wafer Generasi Kedua

Prosesor baru dari Cerebras dibuat berdasarkan yang pertama dengan berpindah ke proses N7 TSMC. Hal ini memungkinkan logika untuk memperkecil, serta sampai batas tertentu SRAM, dan sekarang chip baru memiliki 850.000 inti AI. Pada dasarnya hampir semua hal tentang chip baru lebih dari 2x:

Skala Cerebras Wafer
AnandTech Skala Wafer
Mesin Gen1
Skala Wafer
Mesin Gen2
Meningkatkan
AI Core 400.000 850.000 2.13x
Manufaktur TSMC 16nm TSMC 7nm
Tanggal peluncuran Agustus 2019 K3 2021
Ukuran Die 46225 mm2 46225 mm2
Transistor 1200 miliar 2600 miliar 2.17x
(Massa jenis) 25,96 mTr / mm2 56,246 mTr / mm2 2.17x
SRAM terpasang 18 GB 40 GB 2.22x
Bandwidth Memori 9 PB / dtk 20 PB / dtk 2.22x
Bandwidth Fabric 100 Pb / dtk 220 Pb / dtk 2.22x
Biaya $ 2 juta + lengan + kaki

Seperti prosesor aslinya, yang dikenal sebagai Wafer Scale Engine (WSE-1), WSE-2 baru menampilkan ratusan ribu inti AI dengan ukuran besar 46225 mm.2 silikon. Di ruang itu, Cerebras telah mengaktifkan 2,6 triliun transistor untuk 850.000 inti – sebagai perbandingan, CPU AI terbesar kedua di pasaran adalah ~ 826 mm2, dengan 0,054 triliun transistor. Cerebras juga mengutip memori onboard 1000x lebih banyak, dengan SRAM 40 GB, dibandingkan dengan 40 MB pada Ampere A100.


Saya dengan Skala Wafer Gen1 – terlihat sama, tetapi dengan kurang dari setengah inti.

Core terhubung dengan 2D Mesh dengan data FMAC. Cerebras mencapai hasil 100% dengan merancang sistem di mana setiap cacat produksi dapat dilewati – awalnya Cerebras memiliki inti ekstra 1,5% untuk memungkinkan cacat, tetapi kami telah diberitahu bahwa ini terlalu berlebihan karena proses TSMC sangat matang. Sasaran Cerebras dengan WSE adalah untuk menyediakan platform tunggal, dirancang melalui paten inovatif, yang memungkinkan prosesor yang lebih besar berguna dalam kalkulasi AI, tetapi juga telah diperluas ke dalam rangkaian beban kerja HPC yang lebih luas.

Membangun WSE Generasi Pertama

Kunci dari desain ini adalah pengompilasi grafik khusus, yang menggunakan pyTorch atau TensorFlow dan memetakan setiap lapisan ke bagian fisik chip, memungkinkan komputasi asinkron saat data mengalir. Memiliki prosesor sebesar itu berarti data tidak pernah mati dan menunggu di memori, membuang-buang daya, dan dapat terus dipindahkan ke tahap perhitungan berikutnya secara pipelined. Kompiler dan prosesor juga dirancang dengan mempertimbangkan ketersebaran, memungkinkan pemanfaatan tinggi terlepas dari ukuran batch, atau dapat mengaktifkan algoritme pencarian parameter untuk berjalan secara bersamaan.

Untuk Cerebras generasi pertama WSE dijual sebagai sistem lengkap yang disebut CS-1, dan perusahaan memiliki beberapa lusin pelanggan dengan sistem yang diterapkan dan berjalan, termasuk sejumlah laboratorium penelitian, perusahaan farmasi, penelitian bioteknologi, militer, dan minyak dan industri gas. Lawrence Livermore memiliki CS-1 yang dipasangkan dengan Superkomputer ‘Lassen’ 23 PFLOP. Pittsburgh Supercomputer Center membeli dua sistem dengan hibah $ 5 juta, dan sistem ini dilampirkan ke superkomputer Neocortex mereka, memungkinkan AI simultan dan komputasi yang ditingkatkan.

Produk dan Kemitraan

Cerebras menjual sistem CS-1 lengkap hari ini sebagai kotak 15U yang berisi satu WSE-1 bersama dengan 12×100 GbE, dua belas catu daya 4 kW (6 redundan, daya puncak sekitar 23 kW), dan penerapan di beberapa institusi dipasangkan dengan HPE SuperDome Flex . Sistem CS-2 baru berbagi konfigurasi yang sama, meskipun dengan lebih dari dua kali lipat inti dan menggandakan memori on-board, tetapi masih dalam kekuatan yang sama. Dibandingkan dengan platform lain, prosesor ini disusun secara vertikal di dalam desain 15U untuk memungkinkan kemudahan akses serta pendingin cair internal di prosesor sebesar itu. Perlu juga dicatat bahwa pintu depan tersebut dibuat dari satu bagian aluminium.

Keunikan desain Cerebras adalah mampu melampaui batas manufaktur fisik yang biasanya disajikan di bidang manufaktur, yang dikenal sebagai batas reticle. Prosesor dirancang dengan batas ini sebagai ukuran maksimum sebuah chip, karena sulit untuk menghubungkan dua area dengan koneksi cross-reticle. Ini adalah bagian dari saus rahasia yang dibawa Cerebras ke meja, dan perusahaan tetap menjadi satu-satunya yang menawarkan prosesor dalam skala ini – paten yang sama yang dikembangkan Cerebras dan diberikan untuk membuat keripik besar ini masih berlaku di sini, dan WSE generasi kedua akan dibangun ke dalam sistem CS-2 dengan desain yang mirip dengan CS-1 dalam hal konektivitas dan visual.

Kompiler dan paket perangkat lunak yang sama dengan pembaruan memungkinkan setiap pelanggan yang telah menguji beban kerja AI dengan sistem pertama untuk menggunakan sistem kedua pada titik mereka menerapkannya. Cerebras telah mengerjakan implementasi tingkat yang lebih tinggi untuk memungkinkan pelanggan dengan model TensorFlow dan PyTorch standar yang sangat cepat mengasimilasi kode GPU mereka yang ada dengan menambahkan tiga baris kode dan menggunakan kompiler grafik Cerebras. Kompiler kemudian membagi seluruh 850.000 inti menjadi segmen-segmen dari setiap lapisan yang memungkinkan aliran data dalam mode pipeline tanpa stall. Silikon juga dapat digunakan untuk beberapa jaringan secara bersamaan untuk pencarian parameter.

Cerebras menyatakan bahwa dengan memiliki solusi chip tunggal yang besar berarti bahwa penghalang untuk metode pelatihan terdistribusi di 100-an chip AI sekarang jauh lebih jauh sehingga komplikasi berlebih ini tidak diperlukan di sebagian besar skenario – untuk itu, kami melihat CS- 1 penyebaran sistem tunggal yang terpasang pada superkomputer. Namun, Cerebras ingin menunjukkan bahwa dua sistem CS-2 akan menghasilkan 1,7 juta inti AI dalam rak standar 42U, atau tiga sistem untuk 2,55 juta dalam rak 46U yang lebih besar (dengan asumsi ada daya yang cukup untuk semua sekaligus!), Menggantikan selusin rak perangkat keras komputasi alternatif. Di Hot Chips 2020, Kepala Arsitek Perangkat Keras Sean Lie menyatakan bahwa salah satu manfaat utama Cerebras bagi pelanggan adalah kemampuan untuk mengaktifkan penyederhanaan beban kerja yang sebelumnya membutuhkan rak GPU / TPU, tetapi dapat berjalan pada satu WSE dengan cara komputasi yang relevan.

Sebagai sebuah perusahaan, Cerebras memiliki ~ 300 staf di Toronto, San Diego, Tokyo, dan San Francisco. CEO Andrew Feldman memberi tahu saya bahwa sebagai perusahaan mereka sudah menguntungkan, dengan lusinan pelanggan sudah menggunakan CS-1 dan lebih banyak lagi yang sudah menguji CS-2 dari jarak jauh saat mereka membuka sistem komersial. Selain AI, Cerebras mendapatkan banyak minat dari pasar komputasi performa tinggi komersial yang khas, seperti minyak dan gas dan genomik, karena fleksibilitas chip memungkinkan dinamika fluida dan simulasi komputasi lainnya. Penyebaran CS-2 akan dilakukan akhir tahun ini di Q3, dan harganya telah meningkat dari ~ $ 2-3 juta menjadi ‘beberapa’ juta.


Dengan Godzilla untuk referensi ukuran

Bacaan Terkait