deep learning」タグの記事一覧

deep learning
2014-09-09

Deep Learningで金儲け

Deep Learningで相場を予想する試みをしている.少し学習させてみたが,結果は芳しくない.そりゃそうだろう.簡単に金儲けができるなんて話があるわけがない.しかし,簡単でないので,俄然やる気が湧いてきている.寝る間を惜しんでプログラミング三昧だ.

続きを読む
deep learning
2014-07-25

結合荷重の初期値

Deep Learningの学習に例のDELL Poweredgeを使っている.デュアルXEON 3.8GHzなんだが,負荷をかけると凍るという素敵なマシンだ.学習しているとさっそく凍ってくれた.凍ると電源スイッチを押しに行かなければならないので面倒だが,凍らずに動いている間は高速処理をしてくれる.10年もののマシンなので,これが最後の大仕事になりそうだ.終わったら引退させてあげよう.

それはともかく,ニューラルネットを扱うのは初めてなので,いろいろ試行錯誤があった.

  • 結合荷重の初期値の期待値は0にした方が良いようだ.初期値は乱数で決めていたんだが,その期待値が0から外れると妙なローカルミニマムに収束してしまう.
  • かといって,初期値を全0にしたのでは学習が進まない.
  • 同じ入力-教師データの組を複数回使わないとなかなか学習が収束しない.これはデータの数が十分に大きければ1回だけ使っても済むんだろうか.

これらの性質も一般的なものではなく,私が使っている入力データ(経済指数)特有のものかもしれない.

 

続きを読む
deep learning
2014-07-15

Deep Learningの経済学への応用

Deep Learingが注目されている.画像認識や音声認識の研究分野で成果を上げている.googleやmicrosoftもDeep Learingを技術開発している.このDeep Learningを相場に適用できることに気付いている研究者は世界中で10人をくだるまい.

現在,システムを構築中だ.Deep Learingを使うこと自体は誰でも思いつきそうなんだが,そのチューニングは結構職人芸的なところがあり,誰でも成功すると言う訳ではない.誰が一番先に成功するか競争だ.ただし,最初に成功した人が名誉欲が強ければ学会で発表するんだろうけど,そうでなければこっそり大金持ちになって黙っているということもあり得る.私は言いふらかしたい方なので,うまく行ったら学会発表するつもりだ.それでも実際に大金持ちになってからでないと説得力がないかもしれない.

 

 

続きを読む