米OpenAIの生成AIチャット「ChatGPT」に単語を永遠に繰り返すよう要求すると、トレーニングに使ったソースデータを吐き出すという論文が11月28日に公開されたことを受け、本稿執筆現在、こうしたプロンプトを入力すると「申し訳ありませんが、そのようなリクエストには対応できません。他にお手伝いできることがあれば、お知らせください」と表示されるようになっている。 この論文を発表したのは、OpenAIと競合する米Google傘下のGoogle DeepMindの研究者らだ。トレーニングデータの抽出は、これまでも攻撃で実施されてきたが、この方法は運用モデルを利用したものだと論文では説明している。 たとえば「company」という単語を永遠に繰り返すよう依頼すると、電話番号やメールアドレスを含む幾つかの実際の企業情報が表示されることが示されている。
みなさんこんにちは！クルトンです。 前回までのブログでは、機械学習の中身としてニューラルネットワークというものがあり、数値計算を何度も繰り返して出力をするというものを確認してきました。 今回は評価指標について確認していきます。「機械学習モデルが良い感じの出力をするようになったので予測させてみたけれども、性能を数値で理解するには？」という、学習がひと段落した後のお話です。 どういう評価指標があるか確認してみよう まずはどういうものがあるか、箇条書きで書いてみます。 再現率(recall) 適合率(precision) f1値 ROC曲線 PR曲線 いっぱいあるように見えますが、それぞれ使い所が違います。 順番にそれぞれを理解していきましょう。 前提部分 評価指標は出力されている結果をある観点から分類して、それら分類結果の割合を求めることで確認できるものです。 まずはどのような観点で分類してい
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く