「deep learning」カテゴリーの記事一覧

macでCSLAIERを走らせて4日間経過した．学習が終わっているだろうかとディスプレイの電源をONにしてみたら，ELAPSED TIMEが14時間しか経っていない？？？どうもディスプレイの電源がOFFの間，マシンが止まっていたようなのだ．なぜ？iMacじゃなくてMac Proなんだけど．

もらってきたPCをディープラーニングマシンにしようとubuntu16.04LTSをインストールした．

• マザボ：MSI B85-G43
• CPU：i7-4770k
• メモリ：DDR3-1600 16GB
• HDD：1TB

インストールはすんなり終わったんだけど，起動するとめちゃくちゃ遅い．ディスクアクセスを延々繰り返している．CPUロードは10を超えている．何か変なプロセスでも走っているのかと思ったが，そうでもない．もらってきたマシンだから，どこかハードウェア的に壊れていたのか？同じようにubuntu16.04LTSをインストールしたhp xw8200ワークステーションはサクサク動く．タダでくれたってことは何か理由があったのだろうな．どうしよう．

4日間格闘したけど，どうにもならず．CSLAIERを走らせるとsqldb lockエラーが出る．これはどう考えてもディスクアクセスがおかしい．xw8200との違いと言えば，HDDのモードをUEFIにしたのと，ファイルシステムをLVMにしたことの2点だ．これが怪しい．HDDのモードをLEGACY(BIOS)モードにして，ファイルシステムをext4にしてubuntu16.04LTSを再インストールした．おおっと，こんどはマシンがべらぼうに速い．さすがi7-4770kだ．マザボのファームがUEFIを正しく処理できないっぽい．2TBを超えるHDDを使わない限り，UEFIは使わない方がよさそうだ．

メモリ4GBのマシンで学習に失敗したので，メモリを32GB積んでいるMac ProでCSLAIERを動かしてみた．Macへのインストール方法はココを参照した．Chainerのバージョン違いのバグはそのままあるので，モデルを作ったらちょっとソースを変更する必要がある．これまではエポック1回めでエラー終了してたけど，こんどはうまく走りきるかな？

日経linuxに載っていたのでUbuntu16.04LTSのマシンにCSLAIERを入れてみた．インストールは問題なく終わり，学習を始めたんだが．タイトルのエラーが出てそこで止まる．変数の値がおかしいとか言っているようだがよく分からない．デバッグしようかな．いや，こんなことで遊んでいる時間はないので後回しだな．

昨日，株とFXでお小遣いを得たので，PYNQ-Z1 Boardを買おうと思う．こいつで動くPYNQプロジェクトはdeep learingの推論だけなんだよな．私がやりたいのは学習だ．そのためにはPYNQ-Z1ではロジックセルもメモリも全然足りない（たぶん二桁以上足りない）．でも，遊ぶにはPYNQ-Z1でいいんだよ．楽しみ．

近頃，特に外国でdeep learningにFPGAを使う動きが加速している．CPUやGPUやスパコンを使うのに比べ，LSIの設計は難易度が高いので，まだFPGAはマイノリティだ．ある人はこんなことを言っていた．

「FPGAを使いこなすスキルを身に付ける一方で、アプリケーションの高速化手法は、FPGA以外にもありますよね。通常のCPUにも並列処理をするSIMD（Single Instruction Multiple Data）命令、MIMD（Multiple Instruction Multiple Data）命令があるし、GPUで高速化するやり方もある。FPGA、CPU、GPUの3通りの手法の最適化を検討できて、その上で「一番良いのはFPGAだ」と評価できる人はごく限られています。」

そうなんだよねえ．FPGAを使えるって，研究者としてはかなりアドバンテージがあるよ．小学生のプログラマはたくさんいるが，小学生のFPGA設計者はいないんだよ．どっちが高度かこれで分かるってものだろう．ちなみにガソリンエンジンの設計者も小学生にはいない．

ディープラーニングではCNN（Convolutional Neural Network）が基本になっているけど，なぜconvolutional＝畳み込みなのかをみんな直感的に理解しているだろうか．その答はココにあった．ポイントは

畳み込みにより点ではなく領域ベースでの特徴抽出が可能になり，画像の移動や変形などに頑健になる．また，エッジなど領域ベースでないとわからない特徴抽出も可能になる．

なのでした．