ZOZO研究所の後藤です。本記事ではGoogle Cloud TPUを使った計量学習の高速化の事例を紹介します。 はじめに 深層学習を用いたプロダクトを開発・運用する上で、モデルの学習にかかる膨大な時間はボトルネックの1つです。 ファッションにおける深層学習を用いた画像認識技術にも同じことが言えます。 今回はファッションの分野において定番のタスクであるStreet2shopの課題設定に対し、Google Cloud TPUを用いて計量学習の高速化を試みます。 Street2shopは、スナップ画像から商品部分を切り出す物体検出のパートと、切り出した画像と類似した商品を検索するクロスドメイン画像検索のパートに分けられます。 今回の取り組みでは、後者のパートで利用する画像間の距離を測るためのモデルの学習の高速化を行います。 目次 はじめに 目次 Google Cloud TPUとは タスク S
TensorFlow LiteがAndroidやiOSデバイスのGPUをサポートしたようです1。 TensorFlow Lite Now Faster with Mobile GPUs (Developer Preview) バックエンドはAndroidではOpenGL ES 3.1、iOSではMetal。 This new backend leverages: OpenGL ES 3.1 Compute Shaders on Android devices Metal Compute Shaders on iOS devices iPhone 7では最大6倍の高速化が見られたようです。 By leveraging the new GPU backend in the future, inference can be sped up from ~4x on Pixel 3 and Sams
ここ暫くブログでまとめていなかった、SSD-to-GPUダイレクトSQL実行機能の進捗について。 この機能をかいつまんで言うと、NVMe-SSDに格納されているPostgreSQLのデータブロックをGPU RAMに直接転送し、そこでSQLのWHERE句/JOIN/GROUP BYを実行することで見かけ上のI/O量を削減するという代物である。 NVIDIAのTesla/Quadro GPUが対応するGPUDirect RDMA機能を使い、SSD<=>GPU間のデータ転送を仲介するLinux kernel moduleを使えば、CPU/RAMにデータをロードする前にGPU上での処理を行うことができる。 しばらく前からScan系の処理には対応していたが、JOIN/GROUP BYへの対応を加え、さらにPostgreSQL v9.6のCPU並列にも追従したということで、簡単なベンチマークなら取れる
1990年代初頭から記者としてまた起業家としてITスタートアップ業界のハードウェアからソフトウェアの事業創出に関わる。シリコンバレーやEU等でのスタートアップを経験。日本ではネットエイジ等に所属、大手企業の新規事業創出に協力。ブログやSNS、LINEなどの誕生から普及成長までを最前線で見てきた生き字引として注目される。通信キャリアのニュースポータルの創業デスクとして数億PV事業に。世界最大IT系メディア（スペイン）の元日本編集長、World Innovation Lab(WiL)などを経て、現在、スタートアップ支援側の取り組みに注力中。 Pythonで書かれたディープラーニング用ニューラルネットワークライブラリ「Keras」を、ウェブブラウザ上で実行するJavaScriptライブラリ「Keras.js」が登場した。 そもそも「Keras」は、Googleが提供するオープンソースの機械学習・
一般的によく知られている SHA-256 や MD5 などのハッシュ関数は非常に単純な設計となっており、非力なパソコンや組み込み機器、スマフォなどでも高速に計算できます。 しかしながらその一方で、ハッシュ関数を手当たり次第に計算し、もとの入力値を復元するいわゆる「ブルートフォース攻撃」が容易であるというデメリットがあります。 特にこのような SHA-256 や MD5 といったハッシュ関数は、GPU を用いるか、もしくは専用のハードウェア (FPGA もしくは ASIC) を製作することで非常に高い効率で計算（攻撃）ができてしまうことが知られています。 そのため、GPU ないし専用ハードウェアを用いたとしても、攻撃効率の改善が難しくなるような新たなハッシュ関数がいくつか提案されています。 その中で比較的古く (2012年ごろ) に開発され、他のハッシュ関数にも影響を与えている「scrypt
COOL Chips XVIIIにおいてWisonsin-Madion大学のグループが「MIAOW」と呼ぶオープンなGPUを発表した。RTLなどが公開されているCPUは、メーカーが公開しているOpenSPARCやLEON SPARCや大学などが開発したFabScalarなど各種のものがあり、これらをベースにマイクロアーキテクチャを変更して、その効果を検証するという研究ができるのであるが、GPUではこのようなオープンなものが無く、研究環境がない。MIAOWは、RTLを公開するオープンなGPUを提供することを目的としており、このRTLを自由に変更してGPUアーキテクチャの研究を行うことができる。 MIAOW(日本語ではミャーオ)は「Many-core Integrated Accelerator Of Wisconsin」の頭文字をとった名前である。グラフィックス専用機能は含んでいないがAMD
お詫び アライン忘れてましたごめんなさい、でも時間あんまり変わってないから許して・・・ https://t.co/JNtq2U2kMq— 青子守歌 (@aokomoriuta) April 29, 2015 では本編どうぞ↓ 本編 若干話題に乗り遅れた感ありますが。 d.hatena.ne.jp けど、SSEも知らねー、SIMDも知らねー、なんか俺が書いたアルゴリズム遅いけどとりあえずOpenCLとかで高速化しよっかなーとかね、甘ったれてんじゃねえよ。CPUをもっと使いきれよ。お前のアオいコードのせいでCPUが泣いてるよ。っていう話ですよ。 GPGPUなんてのはSIMDを使い切った後の話でしょ。 GPGPUするのにGPUのパワーとメモリが足りませんとか言う前にまずSIMDからだろ。 とか言われてたので、検証することにした（やっつけ）。 環境 OS: Windows 7 Profession
円周率の小数点以下8000兆桁めをGeForceで求める方法〜GTC 2013の「π」セッションレポート ライター：西川善司 Ed Karrels氏 セッションタイトル 数学者の間で「円周率の日」と呼ばれる3月14日。2013年のこの日に，米国サンタクララ大学，Ed Karrels氏らの研究グループは，円周率計算に関する新記録「小数点以下8000兆桁め」を達成したと発表した。 しかもその計算をCPUではなく，ましてはHPC（High Performance Computing）向けGPUであるTeslaでもなく，ごくごく一般的なGeForce製品で達成したというのだから驚きだ。 GPU Technology Conference 2013（GTC 2013）では，本研究グループのリーダーであるEd Karrels氏によるセッション「Computing the Quadrillionth D
Online diagramming tool for collaborating on wireframes, flowcharts, and more
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く