皆さんこんにちは Acroquestのデータサイエンスチーム「YAMALEX」のチームリーダ、@tereka114です。 YAMALEXチームでは、コンペティションへの参加や自社製品開発、技術研究などに日々取り組んでいます。 大規模言語モデル（通称：LLM）は近年、非常に注目される技術となりました。 ただ、7Bや13Bといった巨大モデルのパラメータは推論時間も長時間で計算時間の面からも運用が非常に難しいです。 しかし、vLLMを使えば、高速化できます。本記事では、推論をどこまで高速化できるのかを検討したいと思います。 ※本記事はLLM・LLM活用のAdvent Calendar 24日目の記事です。 qiita.com vLLMとは？ vLLMによる高速化実践 vLLMを利用しない場合 vLLMを利用する vLLMに加えてAWQを利用して量子化する Auto Prefix Caching
はじめに 下記の記事にて，VAEの興味深い応用が実装例と共に紹介されている． zenn.dev 要するにVAEの潜在変数からアフィン変換のパラメタを分離できる話である．（各画像で個別の）アフィン変換を施した状態でモデルが訓練されるので，訓練後にその変換を外すことで，VAEは変動が正規化された画像を生成できる． 記事で紹介されていた実装はTensorFlowに基づくものだったので，本記事ではこれをPyTorchでも実装して結果を紹介するものである． 実装 以下に置いた．Enjoy! sample_vae.py · GitHub Pythonのバージョンは3.12.3である．ネットワークのアーキテクチャ（隠れユニット数など）は適当に決めている． 使い方： $ python sample_vae.py --use_bce --use_affine 実験結果 モデル訓練後，アフィン変換を外して再構
やっぱりドローンより気軽に飛ばせるラジコン!? 約98gの超軽量ボディに「高度維持機能」を備えた初心者でも安心のRCヘリが楽しそう！ LIFE & CULTURE / OTHER 2024-12-22 writer VAGUE編集部 ラジコン機器輸入卸販売を手掛けるジーフォースは、航空法対象外で手軽に楽しめる、本格ミリタリーRCヘリコプター「MD500 INCR（エムディーゴーマルマル・アイエヌシーアール）」をリリース。2024年12月21日（土）よりAmazon、RC専門店にて発売開始予定です。 ●100g以下の航空法対象外で気軽に遊べるRCヘリ ジーフォースから登場した本格電動ミリタリーRCヘリコプター「MD500 INCR」は、航空法対象外で機体登録やリモートIDの搭載義務がない、気軽に遊ぶことができる本格RCヘリ。小さいながらもリアルなディティールを再現した、重厚感あふれる仕上がり
マイクロコントローラー「ESP32」と市販のプラスチックプロペラ、カスタムPCBを使い、ドローンを自作する方法が公開されました。 We built a Drone using ESP32 | Now on Kickstarter - YouTube How to Build a Low-Cost Drone with ESP32 https://www.digikey.com/en/maker/projects/a-step-by-step-guide-to-build-a-low-cost-drone-using-esp32/8afccd0690574bcebfa0d2ad6fd0a391 ドローンの作り方を公開したのはエンジニアのジョビット・ジョセフ氏。ジョセフ氏いわく、このドローンは小型で、ESP32モジュール、ジャイロスコープ・加速度センサーモジュールの「MPU6050」、コアレス
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く