はてなキーワード: テンソルとは
ワイ：
x = torch.tensor([
[1.0,2.0,3.0],
[4.0,5.0,6.0]
])
Claude3.5 Sonnet：
はい、channel-wise 正規化（チャネル方向の正規化）を行います。この場合、最終次元（dim=-1）がチャネルとなります。channel-wise 正規化では、各チャネルの平均を0、分散を1に正規化します。
import torch x = torch.tensor([ [1.0, 2.0, 3.0], [4.0, 5.0, 6.0] ]) # チャネル方向（最終次元）の平均と標準偏差を計算 mean = x.mean(dim=-1, keepdim=True) std = x.std(dim=-1, keepdim=True) # Epsilon を追加して、ゼロ除算を防ぐ epsilon = 1e-5 # 正規化を実行 x_normalized = (x - mean) / (std + epsilon) print("元のテンソル:") print(x) print("\n正規化後のテンソル:") print(x_normalized)元のテンソル: tensor([[1., 2., 3.], [4., 5., 6.]]) 正規化後のテンソル: tensor([[-1.2247, 0.0000, 1.2247], [-1.2247, 0.0000, 1.2247]])
ワイ：
x = torch.tensor([
[1.0,2.0,3.0],
[4.0,5.0,6.0]
])
ChatGPT o1-preview：
import torch x = torch.tensor([ [1.0, 2.0, 3.0], [4.0, 5.0, 6.0] ]) # Compute mean and standard deviation along the batch dimension (dim=0) mean = x.mean(dim=0, keepdim=True) std = x.std(dim=0, unbiased=False, keepdim=True) # Perform channel-wise normalization x_normalized = (x - mean) / std print("Normalized Tensor:\n", x_normalized)Output:
Normalized Tensor: tensor([[-1., -1., -1.], [ 1., 1., 1.]])Explanation:
Compute Mean:
The mean is computed along the batch dimension (dim=0), treating each column as a channel.
mean = x.mean(dim=0, keepdim=True)This results in mean = [[2.5, 3.5, 4.5]].
Compute Standard Deviation:
The standard deviation is computed along the same dimension with unbiased=False to match the sample size.
std = x.std(dim=0, unbiased=False, keepdim=True)This results in std = [[1.5, 1.5, 1.5]].
Normalize:
Subtract the mean and divide by the standard deviation for each channel.
x_normalized = (x - mean) / stdThis yields the normalized tensor with standardized channels.
Note: Setting keepdim=True ensures that the mean and standard deviation tensors have the same number of dimensions as x, which is necessary for broadcasting during subtraction and division.
ChatGPTの方が正しいよね？
群と言えば対称性みたいなの、ほんとやめるべき
ほんとそれ。
物理学科で「群とは対称性です！」という言い方で講義されたけど全然意味わからんかったわ。
ベクトル場とかテンソル場に対して「座標変換に対する変換性の違いが」とか言うのも同様。
ベクトルとかテンソルは座標系に関係なく存在するもんであって、変換性が問題になるのは適当な基底で表示した場合だけ。
「座標系に関係ない」ということが多様体（当然Lie群も多様体）の本質なんだからそこを外すのは流石にダメだろって思う。
群だって対称性とは関係なく存在していて、何か別のオブジェクトに対する群作用を考えたときに初めて対称性の話が出てくるだけなのにな。
Lie群に付随する等質空間は（よく知らんが）本質的な構造であって、それを対称性と言うんだろうけど、物理で言う「対称性」とはちょっと違うと思う。
536 デフォルトの名無しさん 2024/05/07(火) 09:55:37.07 ID:eRnvNXkn
数学では様々な構成において、ある関係をみたすA1, A2, A3, ... を集めてくると、新たな対象Aが一意的に定まる、という形式のものがある。
これは普遍性と呼ばれている。
たとえば、Rを環とし、R加群M, Nのテンソル積π: M x N → M⊗Nは、次の性質で特徴付けられる。
(☆) 任意のR加群Lと、双線形写像f: M x N → Lを与えるごとに、線形写像g: M⊗N → Lが存在して、g∘π = fをみたす。
アラビア語圏では、材料となるデータA1, A2, A3, ...のことを「マンコ」、新しい対象Aのことを「ハメル」という。
この手順は、Latent Diffusion Modelsを使用してテキストから画像を生成するための一般的なアプローチを示していますが、いくつかの誤りや欠落がある可能性があります。以下にいくつかの修正と補足を示します。
1. **ライブラリのインポート**: `diffusers` ライブラリは存在しないため、代わりに `torch`、`transformers`、および `diffusion` ライブラリを使用する必要があります。
```python
import torch
from transformers import AutoModelForSeq2SeqLM, AutoTokenizer
from diffusion import LatentDiffusion
```
2. **環境のセットアップ**: 事前学習済みモデルとトークナイザーを使用する前に、必要なモデルとトークナイザーをダウンロードする必要があります。
```python
model = AutoModelForSeq2SeqLM.from_pretrained("nlptown/bert-base-multilingual-uncased-finetuned-xnli")
tokenizer = AutoTokenizer.from_pretrained("nlptown/bert-base-multilingual-uncased-finetuned-xnli")
```
3. **テキストプロンプトの前処理**: `encode_plus` メソッドを使用して、入力をトークン化し、テンソルに変換します。
```python
inputs = tokenizer.encode_plus(prompt, return_tensors="pt")
```
4. **Latent Diffusion モデルの定義**: `diffusion` ライブラリから `LatentDiffusion` をインスタンス化する際に、モデルとトークナイザーを渡します。
```python
ldm = LatentDiffusion(model=model, tokenizer=tokenizer)
```
5. **画像の生成**: `generate` メソッドを使用して画像を生成します。
```python
image = ldm.generate(inputs)
```
6. **生成された画像の可視化**: 画像を表示するために適切なライブラリを使用します。例えば、Matplotlibを使用して画像を表示できます。
```python
import matplotlib.pyplot as plt
plt.show()
```
人生、宇宙、そしてすべての意味とは何か？「銀河ヒッチハイク ガイド」では、答えは 42となっている。
科学の質問の範囲は、一部の分野では縮小し、他の分野では急増した。
宇宙がある意味数学的であるという考えは、少なくとも古代ギリシャのピタゴラス派にまで遡り、物理学者や哲学者の間で何世紀にもわたる議論を生み出してきた。
マックス・テグマークはこの考えを極限まで推し進め、宇宙は単に数学によって記述されるのではなく、数学自体であると主張している。
この議論の基礎は、人間とは独立した外部の物理的現実が存在するという仮定である。
これはそれほど物議を醸すものではない。物理学者の大多数はこの長年の考えを支持していると思うが、まだ議論されている。
形而上学的独我論者はそれをきっぱり拒否し、量子力学のいわゆるコペンハーゲン解釈の支持者は、観察のない現実は存在しないという理由でそれを拒否するかもしれない。
外部現実が存在すると仮定すると、物理理論はそれがどのように機能するかを説明することを目的としている。
一般相対性理論や量子力学など、最も成功した理論は、この現実の一部、たとえば重力や素粒子の挙動のみを説明している。
対照的に、理論物理学の聖杯はすべての理論、つまり現実の完全な記述である。
現実が人間とは独立して存在すると仮定する場合、記述が完全であるためには、人間の概念をまったく理解していない、人間以外の存在、つまりエイリアンやスーパーコンピューターなどに従って、現実が明確に定義されていなければならない。
言い換えれば、そのような記述は、「粒子」、「観察」、またはその他の英語の単語のような人間の負担を排除した形で表現可能でなければならない。
対照的に、教えられてきたすべての物理理論には 2 つの要素がある。
それは数式と、その方程式が私たちが観察し直観的に理解しているものとどのように関連しているかを説明する言葉である。
理論の結果を導き出すとき、陽子、分子、星などの新しい概念を導入するが、それは便利だからである。
原理的には、このようなバゲッジがなくてもすべてを計算できる。
たとえば、十分に強力なスーパーコンピューターは、何が起こっているかを人間の言葉で解釈することなく、宇宙の状態が時間の経過とともにどのように進化するかを計算できる。
もしそうなら、外部現実における物体とそれらの間の関係のそのような記述は完全に抽象的でなければならず、あらゆる言葉や記号は何の事前の意味も持たない単なるラベルにならざるを得ない。
代わりに、これらのエンティティの唯一のプロパティは、エンティティ間の関係によって具体化されるものになる。
ここで数学が登場する。
現代数学は、純粋に抽象的な方法で定義できる構造の正式な研究である。つまり、数学的構造を発明するのではなく、それらを発見し、それらを記述するための表記法を発明するだけである。
人間から独立した外部の現実を信じるなら、テグマークが数学的宇宙仮説と呼ぶもの、つまり物理的現実は数学的構造であるということも信じなければならない。
そのオブジェクトは、十二面体よりも精巧で、おそらくカラビ・ヤウ多様体、テンソル束、ヒルベルト空間などの恐ろしい名前のオブジェクトよりも複雑である。
世界のすべてのものは、あなたも含めて純粋に数学的であるはずだ。
それが本当であれば、万物の理論は純粋に抽象的で数学的でなければならない。
理論がどのようなものになるかはまだわからないが、素粒子物理学と宇宙論は、これまでに行われたすべての測定が、少なくとも原理的には、数ページに収まり、わずか 32 個の未説明の数値定数を含む方程式で説明できる段階に達している。
したがって、すべての正しい理論は、T シャツに書ける程度の方程式で説明できるほど単純であることが判明する可能性さえある。
しかし、数学的宇宙仮説が正しいかどうかを議論する前に、外部の物理的現実を見る 2 つの方法を区別することができる。
1 つは、上空から風景を観察する鳥のような、数学的構造を研究する物理学者の外側の概要。
もう一つは、鳥によって見渡される風景の中に住むカエルのように、構造によって記述される世界に住む観察者の内面の視点。
これら 2 つの視点を関連付ける際の 1 つの問題は時間に関係する。
数学的構造は、定義上、空間と時間の外側に存在する抽象的で不変の存在である。
宇宙の歴史を映画に例えると、その構造は 1 コマではなく DVD 全体に相当する。
したがって、鳥の視点から見ると、4 次元時空内を移動する物体の軌跡は、スパゲッティのもつれに似ている。
カエルには一定の速度で動く何かが見えますが、鳥には調理されていないスパゲッティのまっすぐな束が見える。
カエルが地球の周りを回る月を見ると、鳥は絡み合った2本のスパゲッティが見える。
カエルにとって、世界はニュートンの運動と重力の法則によって記述される。
2 つの視点を関連付ける際のさらなる微妙な点には、観察者がどのようにして純粋に数学的になることができるかを説明することが含まれる。
この例では、カエル自体は厚いパスタの束で構成されている必要がある。
その非常に複雑な構造は、おなじみの自己認識の感覚を引き起こす方法で情報を保存および処理する粒子に対応している。
まず、自然界ではさらなる数学的規則性がまだ発見されていないことが予測される。
ガリレオが数学的宇宙の考えを広めて以来、素粒子の小宇宙と初期宇宙の大宇宙における驚くべき数学的秩序を捉える素粒子物理学の標準モデルなど、その系譜に沿った発見が着実に進歩してきた。
長年にわたって多くのタイプの「多元世界」が提案されてきましたが、それらを 4 つのレベルの階層に分類することが役立つ。
最初の 3 つのレベルは、同じ数学的構造内の非通信の並行世界に対応します。レベル I は単に、光がまだ到達していない遠い領域を意味する。
レベル II は、介在する宇宙の宇宙論的膨張により永遠に到達できない領域をカバーする。
レベル III は「多世界」と呼ばれることが多く、特定の量子事象中に宇宙が「分裂」する可能性がある、量子力学のいわゆるヒルベルト空間の非通信部分が含まれる。
レベル IV は、根本的に異なる物理法則を持つ可能性がある、異なる数学的構造の並行世界を指す。
現在の最良の推定では、膨大な量の情報、おそらく Googolビットを使用して、観測可能な宇宙に対するカエルの視点を、すべての星や砂粒の位置に至るまで完全に記述する。
ほとんどの物理学者は、これよりもはるかに単純で、T シャツには収まらないとしても、本に収まる程度のビット数で特定できるすべての理論を望んでいる。
数学的宇宙仮説は、そのような単純な理論が多元宇宙を予測するに違いないことを示唆している。
なぜなら、この理論は定義上、現実の完全な記述であるからである。
宇宙を完全に特定するのに十分なビットが不足している場合、星や砂粒などの考えられるすべての組み合わせを記述しなければならない。
そのため、宇宙を記述する追加のビットは単にエンコードするだけである。
多世界の電話番号のように、私たちがどの宇宙にいるのか。このように、複数の宇宙を記述することは、単一の宇宙を記述するよりも簡単になる可能性がある。
極限まで突き詰めると、数学的宇宙仮説はレベル IV の多元宇宙を意味し、その中に他のすべてのレベルが含まれる。
宇宙である特定の数学的構造があり、その特性が物理法則に対応している場合、異なる特性を持つそれぞれの数学的構造は、異なる法則を持つ独自の宇宙である。
実際、数学的構造は「作成」されるものではなく、「どこか」に存在するものではなく、ただ存在するだけであるため、レベル IV の多元宇宙は必須である。
スティーヴン・ホーキング博士はかつてこう尋ねた。
「方程式に火を吹き込み、それらが記述できる宇宙を作り出すものは何でしょうか?」
数学的宇宙の場合、重要なのは数学的構造が宇宙を記述することではなく、それが宇宙であるということであるため、火を噴く必要はない。
レベル IV の多元宇宙の存在は、物理学者のジョン・ウィーラーが強調した混乱する疑問にも答える。
たとえ宇宙を完全に記述する方程式が見つかったとしても、なぜ他の方程式ではなく、これらの特定の方程式が使われるのか?
他の方程式が並行宇宙を支配しており、観察者をサポートできる数学的構造の分布を考慮すると、統計的に可能性が高いため、宇宙にはこれらの特定の方程式があるということだ。
並行世界が科学の範囲内なのか、それとも単なる推測に過ぎないのかを問うことは重要である。
並行宇宙はそれ自体が理論ではなく、特定の理論によってなされた予測である。
理論が反証可能であるためには、そのすべての予測を観察および検証できる必要はなく、少なくともそのうちの 1 つだけを検証できれば十分である。
たとえば、一般相対性理論は、重力レンズなど、私たちが観察できる多くのことを予測することに成功しているため、ブラックホールの内部構造など、私たちが観察できないことについての予測も真剣に受け止めている。
多くの並行宇宙に存在するのであれば、我々は典型的な宇宙にいると予想されるはずです。
ある量、たとえば、この量が定義されている多元宇宙の一部の典型的な観測者によって測定された暗黒エネルギー密度や空間の次元の確率分布を計算することに成功したと仮定する。
この分布により、我々自身の宇宙で測定された値が非常に非典型的なものになることが判明した場合、多宇宙、したがって数学的宇宙仮説が除外されることになる。
生命の要件を理解するまでにはまだ程遠いが、暗黒物質、暗黒エネルギー、ニュートリノに関して私たちの宇宙がどの程度典型的であるかを評価することで、多元宇宙の予測のテストを始めることができる。
なぜなら、これらの物質は銀河形成など、よりよく理解されているプロセスにのみ影響を与えるからである。
これらの物質の存在量は、多元宇宙のランダムな銀河から測定されるものとかなり典型的なものであると測定されている。
しかし、より正確な計算と測定では、そのような多元宇宙は依然として除外される可能性がある。
おそらく最も説得力のある反対意見は、直感に反して不安を感じるということである。
数学的宇宙仮説が真実であれば、科学にとって素晴らしいニュースであり、物理学と数学の洗練された統合により、深い現実を理解できるようになる可能性がある。
実際、多元宇宙をもつ数学的宇宙は、期待できるすべての理論の中で最良のものであるかもしれない。
なぜなら、規則性を明らかにし、定量的な予測を行うという科学的探求から現実のいかなる側面も立ち入れないことを意味するからである。
どの特定の数式が現実のすべてを記述するのかという問題は見当違いであるとして放棄し、その代わりに、鳥の視点からカエルの宇宙観、つまり観察をどのように計算するかを問うことになる。
それは、宇宙の真の構造を明らかにしたかどうかを決定し、数学的宇宙のどの隅が私たちの故郷であるかを理解するのに役立つ。
▼ ADHDのMRI研究―ADHDの神経生物学的基盤の解明に向けて―
注意欠如・多動症（attention-deficit/hyperactivity disorder: ADHD）は不注意，多動性・衝動性を特徴とした神経発達症である．近年，ヒトの脳機能や脳構造を可視化する有力な方法であるMRI（磁気共鳴画像）により，ADHDの神経生物学的基盤の解明が進み，前頭葉，大脳基底核の構造的な成熟の遅れが示唆されてきた．その一方で，これまでのADHDに対する脳機能研究の成果には一貫性が乏しいことも問題点として指摘されている．本稿では，これまで報告されてきたADHDのMRI研究（脳形態，機能的MRI）に関する主な知見をまとめ，最後に，それに続くADHDの神経生物学的基盤の解明に向けた，我々の取り組みについても紹介する
▼ Brain MRIs Can Identify ADHD and Distinguish Among Subtypes
ADHD患者と健常者の脳の構造的・拡散テンソルMRIを比較した結果、ADHD患者と健常者の間には、全体的な脳の体積や灰白質・白質の体積には差がなかったものの、脳の一部の領域や結合には有意な差が見られた
https://www.ajmc.com/view/brain-mris-can-identify-adhd-and-distinguish-among-subtypes
▼ Different effects of the DRD4 genotype on intrinsic brain network connectivity strength in drug-naïve children with ADHD and healthy controls
ドーパミンD4受容体遺伝子（DRD4）の2リピートアレルとADHD患者と健常者の脳ネットワークの結合強度に関する研究の紹介
DRD4はADHDと関連する遺伝子の一つであり、特定の脳領域間の機能的結合に影響を与えることが示されている
安静時機能MRI画像を用いて、DRD4の2リピートアレルが脳ネットワークの結合強度にどのような影響を与えるかを調べた。
その結果、一時葉（左下部一時回や両側中部一時回）などの脳領域で、診断群と遺伝子型との間に有意な相互作用が見られたとしている
https://pubmed.ncbi.nlm.nih.gov/34406637/
▼ ADHD: Large imaging study confirms differences in several brain regions
ADHD患者と健常者の間に脳サイズに差があることを示した研究を紹介
というか、現時点でMRIのみで診断するのは適切ではないという主張なら、『それはそう』だが、
脳に違いはなく、MRIでは何もわからないという主張ならば、どういう理屈で向精神薬や鎮静剤飲んどるんやって話やね
(ワイは飲んでませんけど)
TB-BSEのFTコードがベースライン実装とみたてれば、それをJLに変換（イミグレ）するうちに、普通は、アルゴ理解しようとするのだろう。それが通常の人間の反応か。そんでもっと早く動作させるためのテンソルコントラクトとかHom近似とか実装させる。あとパラレルワールド化か。
ここまでで8つか・・・？
掲示板に以下の引用文を書いたらいろいろ文句を言われてむかついた。
句読点や文の区切りを意識すると読みやすくなるといったって、お前らが書いてる文章と比べて読点の量やタイミングや文と区切り方と差なんてねーじゃねーかと大概的外れに感じたが、なにに比べても圧倒的にむかついたのが「頭の中と文字が上手く繋がらないんでしょ。よくある発達さん」というもの。まあとにかく引用する。
気象予報するには予報士受かった程度じゃ全く足りず大学で気象学なり地学専攻してないときついと前スレにあったけど、逆にそのあたりの学士どころか博士さえ予報士資格を確実に取れるかといえばかなり微妙なところあるんじゃないの？と思う
大学で学べば解析学なりテンソルなりの知識を授かるから物理現象の数式化によって数値予報モデルを作れるようになる、つまり機械に予報させるスキルは身に付くことになるだろうけど。
まあ衛星画像から雲の存在高度や厚さを答えろみたいな問題ならさすがにパターン化できるけど、時系列ごとに並べた予想図を使って予想を答えろ的な問題は全然無理。
この日時までの部分を含めていいのかとか、微妙にこの県も含まれてる気がするけど含むべきかとか、そのあたりかなり曖昧で、少なくとも私は解くごとに間違える
むしろ物理現象の数式化というスキルと比べても予想図の解釈とかいうのはチャート式みたいに言語化して教えられない主観的なセンスによるところが大きすぎる。たとえるなら株のチャートを見てこの株は上がるか下がるかみたいなデイトレのスキルに似てる。あれもだめなやつはどんなに練習しても次の一回で大損する選択をしかねない。
実技の参考書持ち込み可でも50点も取れる気がしないから、大学行ってりゃ受かるとかいうものじゃないと思うんだがどうだろう？真鍋叔郎氏でもある意味で落ちるんじゃね？
「頭の中と文字が上手く繋がってない」などと言うからには、批判先の文章が日本語として体をなしてないはずだ。
しかし別にそんなことなかろう。むしろ山田悠介より全然ましだと思う。これがたとえば日本語学びたての外国人が書いたかのような文章に見えるだろうか？
頭の中と文字がつながらないとはやや専門的に言えば、内言を同じ意味を持つ文法等がまともな日本語に変換できないということを意味するが、俺自身が発達だから知らんが別に字面からそんなふうなことが起こっているようには見受けられない。
「「認知の性差」議論の複雑な事情」 坂口菊恵 東京大学 2017
https://www.jstage.jst.go.jp/article/sjpr/60/1/60_105/_pdf
さらに，脳梁の太さの性差に疑義が呈された（Bishop & Wahlsten, 1997；Wallentin, 2009）
脳梁の形状や，白質神経線維の接続状態の拡散テンソル画像分析（diffusion tensor imaging: DTI）を用いた脳の左右接続についての研究は現在も行われており，大規模なデータを用いて女性の方が脳梁は太かった（Ardekani, Figarsky, & Sidtis,2013），左右脳の神経接続は女性の方が強かった（Ingalhalikar et al., 2014）という報告がなされている。この差は子どもでは小さいものの，思春期・若年成人期（20 歳前後）に大きくなり，その後再び小さくなっていく。
脳梁に性差は無いとは現時点では言えないみたいだね。あるというのも確定したわけではないみたいなのでその点は訂正しておくが。
ベン図とか論理演算とか、16進数もいらないな、10進数でいいだろ
intとかcharの最小値、最大値とか、桁溢れたり、桁落ちしたり、金融計算でも問題ないよな
俺は学部1年だか2年で、きたねー国立大学の校舎で午前1番目の授業で、数値計算すげー退屈だったけど、
なんだかんだ役に立ってる気がする
どっちかってーと、機械とか建築とか、そっちの学部だったんだけどな
流体力学だの材料力学だのせん断力だのテンソルだの、まあ、でも金には関係ないけど役立ってる気がする
よーわからんけど、ちょっと深いところを知っておくと勘が働くようになる気がする
知識が浅すぎると勘が働かない
余裕がないから
知ってることだけで精一杯泳ごうとするみたいな感じ
泳ぎの経験や知識が浅いとバテる、下手すると溺れる確率が増える
だから、馬鹿馬鹿しいと思いつつも、詰め込みの勉強は重要だと思う
何の役に立つの？とか、そういう疑問を軍曹に投げたらぶっ飛ばされる