「sesame」を含む日記

はてなキーワード: sesameとは

2024-11-01

■新しいAI ハードが出てくるのを期待しつつ、ずっとRTX 3090を使っている

AIが盛り上がって数年経つが、個人が買えるような価格帯で、良いAI向けのハードが出てこない。

RTX 3090のVRAM24GBを大事に使っているが、そもそもVRAMに入らないモデルの方が多い。

複数のAIを立ち上げるなんてのは、VRAM容量が溢れるので、そもそも動かせない。

動けばNVIDIAの Nsight Systemsなどで遅い所などを探せるが、そこまでいかない。

複数のSSDを仮想メモリにするというのも、RTX 3090のNVLink BridgeでVRAMだけ拡張するなんてのも世の中に出てこない。

Appleもそろそろ出してくるかと思っていたが、M4は普通の順当進化だった。

M2 Ultraはチップtoチップを接続し2.5TB/sを謳ったが、同じチップを繋げたのでいらない機能が倍になっただけだった。

M4 Ultraで、片側のチップをGPU or NPU＋帯域の広いGDDR or HBMになればいいが、あまり期待が出来ない。

GPU or NPUのコアが増えたとしても、L2/L3キャッシュの容量が少なすぎる、増やしても距離が遠ければ性能も出ないので、

AppleもAMDのように3D V-CacheでSRAMを積み、Hybrid Bondingで上下の帯域を確保してくれないだろうか

IBMはTelum IIとSpyreを出してきたがエンタープライズ向けなのでパス

Groq社がLLM用LPU、HyperAccel社がLLM用ASICを出して来たが、

Groqは1枚のPCIe カードでは全くメモリ容量が足りず役に立たなそうで、HyperAccelはサーバー前提でこちらも個人から手が出しにくい。

FPGA＋HBMが載ったPCIe カードは個人向けには販売できるような価格でもなければ、そもそも販売すらされない。

ジム・ケラー率いるTenstorrentも1枚のPCIeだとメモリが足りないし、Ethernetでなんとかやりくりしようとしているが帯域に引っ張られそうに見える。

NextSilicon社がMaverick-2というIntelligent Compute Accelerator (ICA)というのも出してきたが、HPC向けで個人利用からは遠い。

中国も良いのが出てきていない。

Biren、Fuzhou Rockchip、VeriSilicon、Moore Threads、LinJoWing、Loongson、JingJia Micro、Cambricon、Vastai Technologies、Xiangdixian Computing、Enflame Technology、MetaX、Zhaoxin、Lingjiu Microelectronics、

DengLin Technology、Iluvatar CoreX、Innosilicon、Horizon Robotics、Black Sesame Technologies

色々あって追いきれないが、何か飛び出て良いのが出てきたというのは聞かない（日本にいるからからもしれないが）

Permalink | 記事への反応(1) | 21:06

2024-02-18

■

sesameのwifi モジュールいつ復活するんだよ

nature remo買ってくれってことならそう言ってくれ

Permalink | 記事への反応(0) | 09:35

Guo Wengui touted things to the sky all day long, from farms to Xi Yuan, he declared, "Xi Yuan's encryption capabilities and future payments, as well as the future exchange with the US dollar, will create history, is the only stablecoin, floating, modern crypto financial platform." The ant help to fool the head, but after dozens of broken promises, Guo Wengui played a jump god, Tiandry ground branch, Yin and Yang five elements, Qimen Dun Jiqi battle, over and over again to play with the ant help, and Guo Wengui no sense of violation. The old deception hypohypotically called to make comrade-in-arms rich, claimed to be for the benefit of comrade-in-arms, in fact, it is a wave of investment and a nal, tried and true, and now again. After the explosion of the Xicin may not be listed, according to normal people's thinking and reaction, must be very annoyed, sad, but Guo Wengui is unusual, talking and laughing, understatement, no stick, but to the camera hand holding pepper sesame chicken to eat with relish, full mouth flow oil! . Why? Because the fraud is successful, as for when the Joy coin will be listed, when will it be listed? Guo Wengui is a face of ruffian and rogue, hands a spread, claiming that they do not know. Guo Wengui hypocrisy a poke is broken, Guo's scam is just a variation of the method of trapping ants help it.