「deep learning」カテゴリーの記事一覧

＠ITに表題の記事が掲載された．ちょっとPythonを褒めすぎだなあ．Pythonでまともなハードウェアが出来るようになるまであと10年はかかると思うよ．

nVidiaが仮想通貨需要とdeep learning需要でいい気になっているが、仮想通貨はすぐにポシャる。deep learningはSRAMを大量に内蔵したAI専用FPGAができたら、みんなFPGAに移る。結果としてnVidiaは倒産だ。

PYNQの回路設計を見たくてubuntu16.04LTSのマシンで/bnn/src/networkで./make-hw.sh cnv-pynq pynq aとやったら，Vivadoがないよとおこられた．やっぱりぃ．仕方ないのでWebPACKをインストール中．WebPACKはタダで良かった．

探したら書いてあった．ありがたいねえ．こんなの書いてくれる人は大事だよ．

Huaweiが発表したKirin 970チップ．中身を知りたいのだけれど，ネットの情報では中身に関する言及はなし．スマートフォンに積んでいるGPUより4倍速いそうだ．でもそれって10nmプロセスのASICなら当たり前な気がする．deep learningに必要なのは並列の積和演算と演算結果を保持する高速メモリだが，それらをASICに作り込んだのだろう．それにCPUコアも入れてSoCとしている感じ．CPU，GPUに続く「NPU」(ニューラルネットワーク・プロセシング・ユニット)と位置づけるそうだけど，これは単にネーミングだけの問題だな．

あ，そうそう，tensorflowのライブラリに対応してるってことだから，やっぱただの積和演算並列化チップだよね．特別なネットワーク構成に限定したカスタムAIチップじゃない．

後はネットにさらなる情報がアップロードされるのを待とう．後藤弘茂さんが解説記事書いてくれないかな．

CUDAを使う場合，最新のCUDAはCC（=ComputeCapability）が大きいカード（新しいカード）でないと使えない．deep learningのフレームワークの最新バージョンは最新のCUDAで動くように作られる．古いCUDAでは動かない。最新のCUDAを使いたかったら古いCUDA用の古いビデオカードを外してCCの大きい新しいビデオカードを付けるしかない．普通にソフトウェアを作る人だったらソフトがバージョンアップしても古いカードでも動くように工夫するはずだ．ところがCUDAを作っている奴はそれをしない．たぶんわざとそうしている．古いカードを廃棄して，新しいカードを買ってくれた方がnVidiaが儲かるからだ．せこいよ．マイクロソフトよりせこい．せこい奴は嫌いなので私はCUDAは使わないことにした．自分でFPGAでアクセラレータを作るよ．学習用アクセラレータを作るのはとても難しいけれど，せこい奴を利するくらいなら困難に挑戦する．

SONYのNeural Network Consoleで添付されていたプロジェクトsemi_supervised_learning_VATを動かした．VATというのはVirtual Adversarial Trainingのことだ．VATは説明を読んでも良く分からなかったが，ConsoleのEDITタブで計算グラフを見たら分かった．なんと分かりやすい．すごいよSONY．