US AI cip "kuda hitam" untuk membunuh, cip terbesar dalam sejarah

Menurut beberapa laporan media asing, baru-baru ini, permulaan cip AS AI CerebrasSystems melancarkan cip terbesar yang pernah, cip itu disebut & quot; TheCerebrasWaferScaleEngine & quot; (selepas ini dirujuk sebagai WSE) mempunyai 1.2 trilion transistor.

Dalam sejarah cip, pada tahun 1971, pemproses Intel 4004 pertama hanya mempunyai 2,300 transistor, dan pemproses mikro-peranti terkini yang paling baru hanya mempunyai 32 bilion transistor. Samsung juga telah membina cip memori flash (cip eUFS) dengan 2 trilion transistor, tetapi ia tidak sesuai untuk pengkomputeran AI.

WSE, cip memecah rekod terbesar, dilahirkan untuk pengkomputeran AI.

Data menunjukkan bahawa cip 42,225-persegi-mm mempunyai 400,000 teras yang disambungkan bersama oleh rangkaian komunikasi rangkaian intra-mesh berskala halus, semua-perkakasan yang menyediakan 100 PB daripada jumlah jalur lebar sesaat. Lebih banyak teras, lebih banyak memori tempatan, dan latency yang rendah, seni bina jalur lebar memberikan arsitektur terbaik untuk mempercepatkan kerja AI. WSE adalah 56.7 kali lebih besar daripada GPU terbesar dan mempunyai 18GB on-chipsram.

Sebenarnya, kebanyakan cip hari ini adalah integrasi pelbagai cip berdasarkan silikon 12-inci. Tetapi cip dari CerebrasSystems adalah cip berasingan di mana transistor saling berkaitan pada wafer silikon kristal tunggal. Reka bentuk yang saling berkaitan membolehkan semua transistor beroperasi pada kelajuan tinggi secara keseluruhan.

Terangkan secara terang-terangan, produk ini adalah pembelajaran komputer sepenuhnya, lebih daripada kuasa pengiraan dan lebar jalur penyimpanan, maaf, tahap orang atau perbendaharaan kata baru - memukul bait (Petabytes, 1PB = 1024TB = 10 ^ 6GB = 2 ^ 50bit), kelajuannya kira-kira 3,000 kali bahawa pemproses grafik terbesar NVIDIA (GPU, kuasa pengkompulanan titik terapung, biasanya digunakan dalam penyelidikan berkaitan AI), dan lebar jalur penyimpanan adalah 1000 kali.

Keupayaan yang begitu kuat ini datang daripada transistornya yang 1.2 trilion pada cip tersebut. Adalah diketahui bahawa pemproses Intel 4004 mempunyai 2,300 transistor pada tahun 1971. Menurut Moore's Law, "setiap 18 bulan, jumlah transistor pada cip beregu," Pada tahun ini, harus ada transistor 1 triliun dan satu lagi transistor, dan kuasa pengkomputeran yang dapat direalisasikan meningkat satu titik. Kedua, reka bentuk seni bina cip dan interkoneksi cip dan skema komunikasi juga sangat maju, menjadikan sinergi antara 1.2 trilion transistor sangat segerak, menunda tahap nanosecond. Pada masa ini, transistor 1.2 trilion ini seperti Transistor disegerakkan.

Dalam bidang kecerdasan buatan, saiz cip adalah sangat penting. Kerana maklumat proses keriput besar lebih cepat, masa untuk menghasilkan jawapan lebih pendek. Mengurangkan masa pemerhatian, atau & quot; masa latihan, & quot; membolehkan penyelidik untuk menguji lebih banyak idea, menggunakan lebih banyak data, dan menyelesaikan masalah baru. Google, Facebook, OpenAI, Tencent, Baidu, dan ramai lagi percaya bahawa batasan asas perkembangan kecerdasan buatan hari ini adalah terlalu lama untuk melatih model. Oleh itu, mengurangkan masa latihan akan menghilangkan kesesakan utama dalam kemajuan industri.

Sudah tentu, pembuat cip biasanya tidak menghasilkan cip besar kerana alasan. Pada satu wafer, beberapa kotoran biasanya muncul semasa proses pembuatan. Kekotoran sedikit boleh menyebabkan kegagalan cip, dan bahkan memecahkan beberapa cip. Jika hanya satu cip dibuat di wafer tunggal, kebarangkalian ia mengandungi kekotoran adalah 100%, dan kekotoran akan menyebabkan cip gagal. Tetapi reka bentuk cip CerebrasSystems adalah marginal, memastikan bahawa satu atau sedikit kekotoran tidak akan membatalkan seluruh cip.

CEO Cerebras SystemsFeldman berkata dalam satu kenyataan, & quot; Cip WSE syarikat itu direka untuk kecerdasan buatan dan mengandungi inovasi asas yang menyelesaikan cabaran teknikal yang menghadkan saiz cip selama beberapa dekad, seperti hubungan silang, hasil, output kuasa. Dan pembungkusan. Setiap keputusan seni bina adalah untuk mengoptimumkan prestasi kerja kecerdasan buatan. Akibatnya, cip WSE menyediakan beratus-ratus atau beribu-ribu kali penyelesaian yang sedia ada bergantung kepada beban kerja, dengan sedikit kuasa dan ruang. prestasi. & quot;

Peningkatan prestasi ini dicapai dengan mempercepatkan semua elemen latihan rangkaian saraf. Rangkaian neural adalah gelung maklum balas pengiraan pelbagai peringkat. Semakin cepat input masuk melalui gelung, lebih cepat gelung belajar atau & quot; kereta & quot ;. Cara untuk mendapatkan masukan melalui gelung lebih cepat adalah untuk mempercepat perhitungan dan komunikasi dalam gelung.

Dalam seni bina komunikasi, seni bina komunikasi kluster memecah jalur lebar dan kelewatan yang disebabkan oleh sebahagian daripada penggunaan kuasa dalam teknologi komunikasi tradisional kerana penggunaan pemproses relay di WSE. Dengan menggunakan struktur pelbagai dua dimensi untuk menyambungkan pemproses berasaskan 400,000 WSE bersama-sama, seni bina kluster mencapai latensi rendah dan jalur lebar yang tinggi, dengan lebar keseluruhan sehingga 100 duri sesaat (1017 bait sesaat). . Walaupun tiada perisian tambahan dipasang, struktur kluster seperti itu dapat menyokong pemprosesan maklumat global, dan maklumat yang diterima diproses oleh pemproses yang sama.

Untuk produk ini, pengeluaran besar-besaran dan pelesapan haba mungkin menjadi cabaran utama. Walau bagaimanapun, kemunculan WSE, sorotan sendiri adalah cukup.

Penganalisis Utama Linley Group Linley Gwennap berkata dalam satu kenyataan: & quot; CerebrasSystems telah membuat kemajuan yang hebat dalam teknologi pakej skala wafer, dan prestasi pemprosesan pada cip silikon jauh melebihi imaginasi orang lain. Mencapai kejayaan ini, syarikat telah menyelesaikan beberapa siri kejuruteraan yang mencabar industri ini selama beberapa dekad, termasuk membolehkan komunikasi berkecepatan tinggi ke tahap, menyelesaikan kecacatan pembuatan, pembungkusan cip besar itu, menyediakan bekalan kuasa berketumpatan tinggi dan penyejukan sistem. CerebrasSystems Membawa bersama jurutera teratas dari pelbagai disiplin, mewujudkan teknologi baru dan menyampaikan produk dalam beberapa tahun adalah pencapaian yang mengagumkan. & Quot;

Piri penganalisis dan pengasas utama TiriasResearch Jim McGregor berkata dalam satu kenyataan: & quot; Setakat ini, pemprograman grafik yang telah disusun telah memenuhi permintaan besar untuk kecerdasan buatan untuk kuasa pengkomputeran. Penyelesaian hari ini akan mempunyai beratus-ratus grafik yang dikonfigurasikan semula ini. Pemproses dihubungkan bersama-sama dan mengambil bulan untuk memasang, menggunakan beratus-ratus kilowatt kuasa, dan secara meluas mengubah perisian perisikan buatan, bahkan bulan untuk mencapai fungsi. Sebaliknya, WSE cip tunggal Saiz mutlak cip membolehkan lebih banyak pengiraan, memori prestasi yang lebih tinggi, dan jalur lebar yang lebih besar. Cip WSA mengelakkan sambungan longgar, memori lambat, berasaskan cache, dan integrasi melalui teknik integrasi pakej skala wafer. Keterbatasan prestasi tradisional yang wujud dalam cip pemproses grafik yang berpusatkan.

Ditubuhkan pada tahun 2016, CerebrasSystems telah menjadi misteri dan rendah dalam industri sejak penubuhannya, memberi tumpuan kepada menyediakan produk data untuk latihan pusat data. Ia telah dinamakan & quot; 100 syarikat yang paling dinanti-nantikan di dunia & quot; oleh CBInsights. Mengikut data, syarikat itu menyelesaikan pembiayaan Siri $ 25 juta pada tahun 2016. Pelabur itu adalah Benchmark kapitalis ternama terkenal, dan kemudian menerima pelbagai pusingan pembiayaan. Sehingga September 2017, ia menerima sejumlah $ 112 juta dalam pembiayaan, bernilai $ 860 juta.

Latar belakang pasukan pengasas syarikat juga sangat kuat. Pengasas dan Ketua Pegawai Eksekutif Andrew Feldman, yang mengasaskan syarikat cip SeaMicro, telah diperolehi oleh AMD pada tahun 2012 dengan harga $ 334 juta. Selepas SeaMicro diperolehi oleh AMD, rakan sekelas asalnya kebanyakannya memasuki AMD untuk meneruskan kerja mereka, jadi ketika Andrew Feldman memimpin untuk meneruskan usahanya, banyak rekan lama memilih untuk mengikutinya, dan kebanyakan anggota pasukan utama lainnya kebanyakannya dengan pengasas Andrew Feldman.

Salah satu perkara yang patut disebutkan ialah Gary Lauterbach. Pada tahun 1990-an, ketika Sun berada di tengah-tengah hari, Gary Lauterbach berkhidmat sebagai pereka kanan syarikat itu. Kemudian, di SeaMicro, beliau terlibat terutamanya dalam reka bentuk pelayan kuasa rendah. Boleh dikatakan bahawa syarikat itu mengumpulkan sejumlah besar penggunaan kuasa rendah pada awal penciptaan. Veteran reka bentuk cip, ini sudah pasti menang untuk permulaan purata.

Kemudian, pada tahun 2018, seorang lagi kelas berat menyertai Celebras Systems, dan bekas naib presiden seni bina dan pusat data CTO Dhiraj Mallick secara rasmi berkhidmat sebagai naib presiden kejuruteraan dan perniagaan. Semasa masa jabatannya di Intel, suku kedua pendapatan 2018 meningkat sebanyak $ 1 bilion tahun ke tahun. Pada separuh pertama 2018, pendapatan pusat data syarikat meningkat kepada $ 10 bilion. Ia adalah teknologi yang dikenali dan jenius perniagaan. Dia juga seorang rakan lama AndrewFeldman di SeaMicro dan AMD. Syarikat itu sekarang mempunyai 194 pekerja.

CerebrasSystems mempunyai cara yang jauh untuk di masa depan, tetapi tidak sukar untuk membayangkan bahawa AI membawa gelombang seni bina komputer dan teknologi pembungkusan cip. Kita boleh menjangkakan bahawa kita akan menyaksikan cip AI yang lebih menarik dan tidak dijangka.