損失関数の定義について。 Consider estimating . Let t denote an estimate of . The loss function, denoted by , is defined to be a real-valued function satisfying for all possible estimates t and all in for eqals the loss incurred if one estimates to be t when isn the true parameter value. これを見たせばなんでもよいよね、というのがIntroduction to the Theory of StatisticsのP297のexample 16とかに書いてある。 で、どんなsampleに対してもloss functionを最小にする推定
Definition Prior and Posterior Distributions 確率の基本法則 加法定理 乗法定理 を用いて、導出される以下のベイズの定理 を使って と計算できるが、これを事後分布(posterior distribution)という。 事後分布のmodeでを推定することもできる(mleにつながってくる)が、事後分布は単にの関数ではなく、分布関数である。なので、を推定するのに事後分布のmedianやmeanを使うこともできるわけである。meanを使うことでを推定して出てくる推定値のことをposterior Bayes estimatorと言う。 で、ここでは(Introduction to the Theory of StatisticsのP341)もっと一般にの関数の推定値を考えて定義してある。 Let be a random sample from a den
ここでは、パターン認識や回帰分析の研究をするにあたって基礎となる機械学習と決定理論について、知っておくべき事項を簡単まとめる。 機械学習 学習データセットから確率分布を推定することを機械学習という。とくに、対となる２つの学習データセットから結合分布もしくは条件付き分布を推定する場合を教師あり学習という。パターン認識や回帰分析は、教師あり学習の一つである。 機械学習では、無作為抽出されたサンプル集団から元の確率分布を推定することになるので、推測統計学と関係が深い。実際、機械学習で使う技法の多くは推測統計学のものである。 機械学習には、大きく分けてパラメトリック法とノンパラメトリック法とがある。パラメトリック法は、パラメトリックモデル — 有限次元のモデルパラメータで記述された関数の族（Ｅｘ．正規分布） — を用いて確率変数の確率分布を推定する方法である。パラメトリック法には、最尤法、ベイズ推
意思決定理論関連文献に戻る まえがき １. ベイズの定理 はじめに 1.1 ベイズの定理とその証明 1.2 原因の確率 1.3 主観確率の役割 1.4 確率の更新 1.5 原因が多数である場合 ２. 社会的リスクと決定 2.1 リスク認知 2.2 信号解釈のモデル 2.3 寓話からの例 ―― 羊飼いの少年とオオカミ 2.4 確信の形成の様子 2.5 シミュレーション例 ―― 「羊飼いの少年とオオカミ」の場合 2.6 関連領域とその歴史的発展 ３. 安全と社会的決定 3.1 ロジステイック曲線 3.2 確率のしきい値への到達時間と決定の正しさ ４. 事後分布と統計的決定 ベイズ決定の基礎 4.1 事後分布 4.2 共役事前分布 4.3 ベイズ決定 付. 事後期待損失の最小化の導出 ５. 通信とベイズ決定 5.1 メッセージと符号 5.2 ベイズ決定 5.3 正規分布をもつノイズ 5.4 ミニ
統計的決定理論の考え方 ―― ある意思決定戦略 ―― 失敗の損失は最小限に 次のような「不確実性のもとでの決定」(decision-making under uncertainty) を、わかりやすい日常的例で説明しよう。ある町に電気の工事請負業があり、各家から配線工事の注文をうけ商売している。その町の各家はその最大負荷において 3 つの状態 θ1：最大負荷は 15A、 θ2：最大負荷は 20A、 θ3：最大負荷は 30A のどれかの可能性があるとしよう。一方、配線用ワイヤー（電線）は、次の 3 通りの容量(規格)のものがあり、そのどれかを配線することになる。 a1：15A を配線、 a2：20A を配線、 a3：30A を配線 配線費用は適当な単位で、1, 2, 3 とする。 ところで、ふつう注文主の家がどの状態θ（負荷）にあるか工事屋には事前にはわかっていない。わかっていればどの行動a
決定理論の大部分は規範的である。すなわち、最良の意思決定を特定することが目的であるため、十分な情報を持つ理想的な意思決定者を仮定し、完全な正確さで計算し、完全に合理的に意思決定するとみなす。このような規範的手法を現実の人間の意思決定に具体的に応用することを決定分析 (decision analysis) と呼び、人々のよりよい意思決定を支援するツール、技法、ソフトウェアの研究などを含んでいる。この考え方から生まれた最も体系的かつ総括的なソフトウェアツールを意思決定支援システムと呼ぶ。 人々が最適な振る舞いをしないことは明らかなので、それに関連して、人々が実際にはどのように意思決定するかを説明しようとする研究分野もある。規範的かつ理想的な意思決定では、実際の振る舞いを評価するための仮説を生成する。これによって2つの研究分野が密接に連携する。さらに、情報の完全性や合理性などを様々な方法で緩和し
講義資料を全世界に向けて無償で公開し、最高水準の理工系教育を全世界の共有財産とすべく提供するプラットフォームです
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く