[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

タグ

2019年3月27日のブックマーク (4件)

  • 2つの画像を混ぜるData Augmentation:「Between-class Learning(BC-Learning)」の効果をKerasで確かめる - Qiita

    画像や音声分類の汎化性能を向上させる目的で開発されたBetween-class Learning(BC-learning)というData Augmentationの効果をKerasで確かめます。「2つの画像を混ぜる」というアプローチを取るData Augmentationです。10層CNNでCIFAR-10に対して94.59%という素晴らしい性能を確認することができました。 BC-Learningとは? 2つの画像を混ぜるというData Augmetation。これにより、決定境界がより平滑化され、オーバーフィッティングが解消され、ValidationやTestでの汎化性能が向上する。 BC-learningのもともとの着想は音声認識からでした。人間でも、例えば英会話で2つの音を同時に聞くことで学習効率が向上する、というのは耳にします。2つの画像を混ぜても人間には特に意味はないかと思われま

    2つの画像を混ぜるData Augmentation:「Between-class Learning(BC-Learning)」の効果をKerasで確かめる - Qiita
    stealthinu
    stealthinu 2019/03/27
    Mixup似たBC-Learningという手法について。簡単な構造のネットワークでもCIFAR-10の認識94%とかなってる。すげえ。
  • BC-Learningを大きなバッチサイズに対して適用する - Qiita

    学習率が高すぎるという状況を回避するために、学習率の減衰は入れています。バッチサイズ128のときと同様、Adamのオプティマイザーで初期学習率を1e-3とし、100、150、200エポックでそれぞれ学習率を1/5にしました。引き続き、TensorFlow・KerasのTPUで訓練させています。 ちなみにバッチサイズ128のときの同条件の精度は0.9173でした。ちょっと低すぎるような気がします。 なんとなくα=0.5~1のあたりにスイートスポットがありそうな気がしますね。0.55~0.95まで同じ条件で細かく(0.05刻みで)見てみましょう。別に調べました。 確かに0.55は高いけどノイズ挙動だよねという感は否めません。なので、おそらく確率を第一に疑うのは間違いでしょう。ベータ分布の値を3、4と大きくしたときは明らかに落ちているので、確率はチューニングの余地があるのは否定はしません。しかし

    BC-Learningを大きなバッチサイズに対して適用する - Qiita
    stealthinu
    stealthinu 2019/03/27
    バッチサイズと初期学習率の最適値について。バッチサイズ1024で128と同じ結果出したいとき128のときの学習率を8倍するといけるらしい。g=ε(N/B-1)という式があると。
  • 政府、AI人材年25万人育成へ 全大学生に初級教育 - 日本経済新聞

    政府が策定する「AI戦略」の全容が分かった。人工知能AI)を使いこなす人材を年間25万人育てる新目標を掲げる。文系や理系を問わず全大学生がAIの初級教育を受けるよう大学に要請し、社会人向けの専門課程も大学に設置する。ビッグデータやロボットなど先端技術の急速な発達で、AI人材の不足が深刻化している。日の競争力強化に向け、政府が旗振り役を担う。【関連記事】運営費交付金、AI教育重視の国立大に重点配分 政府

    政府、AI人材年25万人育成へ 全大学生に初級教育 - 日本経済新聞
    stealthinu
    stealthinu 2019/03/27
    AI教育、どんな人がやるんだろう?本職の人はみな高年収で忙しいから人が足らないのでは。まあ情報系教育全般に言えそうな話だが。
  • 「ノーベル賞がつらかった」田中耕一が初めて明かした16年間の“苦闘” | 文春オンライン

    あと1ヶ月ほどで、「平成」が幕を閉じる。平成とは私たちにとってどのような時代だったのか、さまざまな事件・出来事から激動の30年を見つめる「NHKスペシャル」のシリーズ「平成史スクープドキュメント」。第5回は、平成を彩ったノーベル賞に焦点を当てた。 平成に入って、自然科学系ノーベル賞を受賞したのは18人(アメリカ国籍取得者含む)。その中でも世界を驚かせたのが、2002年(平成14年)にノーベル化学賞を受賞した田中耕一だ。いち民間企業のエンジニア、修士号すら持たない研究者に化学賞が贈られたのは、世界で初めてのことだった。バブル崩壊の後遺症に苦しみ、「失われた20年」と言われた時代。中年サラリーマンの快挙に、日中が沸いた。

    「ノーベル賞がつらかった」田中耕一が初めて明かした16年間の“苦闘” | 文春オンライン
    stealthinu
    stealthinu 2019/03/27
    『偶然は、強い意志がもたらす必然』同意。コロンブスの卵はちゃんとその前に理論的な考察なり実験があって発見されてるのだと思う。