ビットメインのAIチップが正式にデビュー、「マイニングマシン」の覇者からの衝撃的なショット

長らく噂されていたBitmainの人工知能チップがついにリリースされました。
昨日開催されたAI WORLD 2017世界人工知能大会で、ビットメインのCEOであるチャン・ケトゥアン氏は同社の人工知能ブランドSOPHON（算峰、「宇宙を計算し、認知知能を豊かにする」という意味）を発表し、世界初のテンソル加速コンピューティングチップBM1680やボードSC1/SC1+、インテリジェントビデオ分析サーバーSS1などの重量級製品を披露した。このブランド名は、SF小説『三体』に由来しており、BitmainのAIチップに対する野心を反映しています。
マイニングマシンのリーダーから人工知能へ<br/>劉慈欣の小説「三体」に登場するSOPHONは知能ロボットです。それは地球のテクノロジーを封じ込めるためにトリソラ人によって作られた強力な人工知能です。人工知能が急成長を遂げている今日、Bitmain は新しい AI ブランドを SOPHON と名付けましたが、その意味は明らかです。
過去2年間、人工知能の急激な発展により、多くのチップメーカーがさまざまな形で参入してきましたが、その中で最も代表的なのがNvidiaのGPUとXilinxのFPGAです。同時に、AI専用に設計されたASICチップも多数発売され、世界的なAIチップ競争は白熱した段階に突入しました。 ASIC チップの一貫した支持者である Bitmain の Zhan Ketuan 氏は、ASIC は CPU や GPU よりも設計が簡単で、ディープラーニング アルゴリズムの実装に適していると考えています。そのため、彼らは人工知能を支援するために ASIC チップを発売することを選択しました。 SOPHON TPU チップ BM1680 は、この分野における同社の新たな試みです。

BM1680チップのアーキテクチャ図によると、これはディープラーニングアプリケーション向けのテンソルコンピューティング加速処理専用のカスタムチップであり、CNN、RNN、DNNなどのディープニューラルネットワークの推論予測（Inference）とトレーニング（Training）に適しています。このチップは 64 個の NPU で構成されており、特別に設計された NPU スケジューリング エンジンは強力なデータ スループットを提供し、Neuron プロセッサ コアにデータを入力できます。 BM1680 は改良されたシストリック アレイ構造を採用しています。 1 つのチップで 2TFlops の単精度高速コンピューティング機能を提供できます。オンチップの 32MB SRAM は高帯域幅を備えています。チップの外側にDDR4メモリインターフェースがあります。 1 つのチップで最大 16GB の DDR メモリをサポートできます。これは BM1680 によって配信されたデータです。
Bitmain は、高度にカスタマイズされた BMDNN チップ リンク テクノロジーをチップに統合し、高速 SerDes 上で安定性、柔軟性、低遅延のリンクを提供します。これにより、複数の BM1680 チップが統合システムとして連携して動作し、より高い処理能力を提供できます。 BM1680はデビュー後すぐにAIチップの分野でダークホースとなり、これはBitmainの背景と密接に関係しています。
2013 年に設立された Bitmain は、超高性能コンピューティングの研究開発に重点を置いた企業です。同社は、数多くのカスタマイズされた ASIC チップと完全なシステムの開発と量産に成功しています。ビットコイン専用のマイニングマシンは彼らの重要な製品の一つです。世界中のマイニングマシンの80％、あるいは90％が同社によって提供されていると報告されています。過去数年間、同社は最新のニーズを満たすために、マイニングマシン用の ASIC チップの反復も推進してきました。公式データによると、Bitmainが独自に開発した第5世代チップBM1387は、世界で最も消費電力が低く、最も高性能なコンピューティング加速チップであり、その量産規模は数十億個に達します。この研究開発プロセスの中で、ASIC の設計と開発に関する経験が蓄積され、AI チップの発売は自然な流れとなりました。
このチップに加えて、Bitmain は 2 つのディープラーニング加速カードとインテリジェントビデオ分析 Sophon SS1 も導入し、人工知能の普及を加速しました。
公式紹介によると、Bitmain は Sophon SC1 と SC1+ という 2 つのディープラーニング アクセラレーション ボード製品を提供しています。 SC1 には高性能 BM1680 チップが搭載されており、SC1+ はデュアル BM1680 カスケード アーキテクチャです。チップは高速 SerDes Chiplink を介して相互接続され、ディープラーニング コンピューティングに新たな加速エクスペリエンスをもたらします。
SC1 と SC1+ のアーキテクチャは類似しており、どちらも PCIE バスを介してシステムに接続されます。最大 2TFlops/4TFlops (単精度) のシングルカード コンピューティング能力と、最大 32MB のシングルチップ オンチップ SRAM を備えています。より大きな SRAM は、ニューラル ネットワーク モデル全体をロードするのに適しています。同時に、ボードには 16GB または 32GB の DDR4 メモリが搭載されており、大容量のストレージは、より大きなニューラル ネットワーク モデルを保存するのに適しています。

「このカードでは、Googlenet、VGGなどの従来のネットを実行できます。カードをサーバーに挿入すると、顔検出、歩行者検出、属性分析、顔認識などを実現できます」とZhan Ketuan氏は強調した。

SOPHON SS1 は、最新の SOPHON SC1/SC1+ ディープラーニング アクセラレータ カードと画像認識アルゴリズムの深い理解に基づいて構築されたディープラーニング サーバーであり、Bitmain のもう 1 つの新製品です。ビデオ監視やインターネット画像などのさまざまなアプリケーション シナリオに強力なディープラーニング アクセラレーション機能を提供するように設計されています。
Bitmain は、SOPHON SS1 がビデオおよび画像認識技術向けの完全なディープラーニング ソリューション セットを提供することを明らかにしました。システムのコアコンポーネントは、PCIE インターフェイスを介してアプリケーション システムに接続された 2 つの SOPHON SC1 (または SC1+) ディープラーニング アクセラレータ カードです。 SS1 のアプリケーション システムは、起動、ストレージ管理、ディープラーニング SDK 調整のために X86 CPU 上に構築されています。 SS1 システム全体は、電源、冷却、ネットワーク、マルチシステム相互接続、およびファイル システムを統合し、4 ラック ユニット (4U) シャーシに凝縮されています。お客様はこれを基盤として迅速な二次開発やシステム統合を実現し、ユーザーによるディープラーニングシステムの活用を最大限に促進できます。

Bitmain サーバーは、顔/身体検出、機械と非人間のビデオ構造分析、およびその他の DEMO を統合して、業界アプリケーション ソリューションの機能とシナリオを実証し、ビデオ分析およびセキュリティ業界ソリューションを実装します。人物検出、車検出などを表示します。 BITMAIN はビデオ構造化 API も迅速に反復します。
SOPHON には、ハードウェア、ドライバー、命令セット、線形代数アクセラレーション コア数学ライブラリ、RUNTIME ライブラリ、BM Deploy の推論展開ツール、FFT アクセラレーション ライブラリ、ディープラーニング フレームワーク (Caffe、Darknet、Tensorflow、MXNet など) に至るまで、フルスタックのソフトウェアとハ​​ードウェア、およびあらゆるレベルのツール チェーン機能を開発する能力があることは特筆に値します。ソフトウェアとハ​​ードウェアの共同設計と統合最適化を真に実現し、ハードウェア上でディープラーニング アプリケーションの最適なパフォーマンスを実現します。

Bitmainのロードマップによれば、第2世代チップ1682は来月リリースされる予定だ。また、16ナノメートルプロセスを使用し、消費電力は約30ワット、計算能力は約3Tです。第3世代チップは来年9月に発売される予定。 12ナノメートルプロセスを採用し、消費電力は依然として約30ワット、計算能力は6Tに達する。これには問題はないはずです。このチップでは、より高いデータ精度と 16 ビットおよび 8 ビットのみをサポートします。 Zhan Ketuan 氏は付け加えた。

人工知能に関するある程度の理解: マイニングマシンチップから、競争の激しい人工知能チップ市場への参入に至るまで、Zhan Ketuan 氏によると、彼らは以下の考慮事項に基づいてこの決定を下しました。彼らの視点から見ると、ビットコインである程度成功を収めた後、彼らは手にハンマーを持ち、至るところに釘が打たれているように感じた。釘を探す過程で、ディープラーニングはハンマーで打つのに最適な釘であることを発見し、ディープラーニングコンピューティングチップの開発に着手したのです。
チップの開発と選択に関して言えば、ディープラーニングコンピューティングにとって最大の課題は依然として大規模クラスターの電力消費とチップの電力消費を含む電力消費であると考えています。もう一つの大きな課題は、メモリーウォールです。しかし、彼らはディープラーニングが実際には多次元行列計算に基づいていることを明らかにし、クラウドベースのディープラーニングはテンソル処理へと進むべきだと主張しました。

多次元行列に対して様々な計算を行う方法を検討しています。 Tensor 計算を実行する方法を考え出した後、従来の CPU アーキテクチャはもはや適切ではないという結論に達し、ディープラーニングに使用される高性能クラウド チップのアーキテクチャは、徐々に Tensor アーキテクチャに移行する必要があると判断しました。そのため、彼らはチップにシストリック アレイ アーキテクチャを選択しました。このアーキテクチャは、ハードウェアを使用して多次元データ転送とコンピューティング タスクのスケジューリングを実装し、非常に高いパフォーマンスを実現できるため、クラウドでの高速化に適しています。これは Google の TPU と同じアーキテクチャであることは注目に値します。
チャン・ケトゥアン氏はクラウドチップについての見解を述べた後、端末ディープラーニングについても見解を述べた。「これはさらに難しいと考えている」この種のアーキテクチャは、単一チップの電力消費によって制限され、あまり大きくすることはできません。一般的に言えば、このようなチップが 10 ワットを超えることは難しいため、このようなアーキテクチャを設計するのは非常に困難な作業です。
最後に、ジャン・ケトゥアン氏は、ビットメインのディープラーニングとAIの分野における使命や目標は、デジタル通貨で同社が行ってきたことと同じであると指摘した。チップと製品を少しずつ、世代から世代へと継続的に改良することで、製品を完璧かつ最高のものにし、ディープラーニング アクセラレーション サービスを必要とするユーザーとアプリケーションにサービスを提供するよう努めています。
彼はまた、AI業界間の協力の必要性も強調した。今日の時代では、ビジネス上の協力が競争よりも重要です。特に人工知能の分野には、私たちが開発を待つ未開の地が無数にあります。このパイを大きくするために私たちは協力し合うべきです。オープンソースを含むパートナーとのより緊密な連携により、ゆっくりとエコシステムを構築することができます。
半導体産業オブザーバーの李守鵬氏