気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
477 usersがブックマーク
166
AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE
477 users
gigazine.net
記事へのコメント166件
- 注目コメント
- 新着コメント
nakex1
AIで書かれたものかどうかを判定する技術も研究されているので，そのうちAI自身で解決できるようになるかも。で，それをかいくぐるAIも出ていたちごっこを繰り返しつつ人間のたどり着けない精度に進化していく。
tsubosuke
将棋や囲碁のように客観的に強さが判定できるものであればいいが、人が見て良い絵だと思うかどうかは曖昧なので、AI同士で永遠に対局させて強くなるというのは、絵の場合には当てはまらないんだな。
rti7743
経験則だが、AIが作ったものをそのままLoRA学習器に入れるを3回ぐらいやるとかなりの過学習なる。1回か2回が限度かなあ。1回目でノイズが入るとそれが思わぬ形で出るのでデータを綺麗にする工程が重要になるよ。
Eiichiro
将棋AIに二歩や打歩詰のある手筋も学習させたらどうなるか？って話よね。AIがハマる隘路をついて勝った将棋は防止用の措置を入れてたりするので、ちゃんとしたルールや人間のフィードバックが必要という話なのかと。
tach
AI成果物の塊と化したネットの中でAIの学習過程がループ化してAI崩壊。どう答えたら正解と判定されるかの経験則を蓄積してるだけで問題そのものを考察してないんだから元々「知能」じゃないじゃん今のAIって…？
bean_hero
garbage in, garbage outになりそうだけど、どこかでそれを超越するのだろうか。本当のシンギュラリティはその超越かなと思うけど、garbage in, garbage outに社会が振り回されるのが目先のシンギュラリティって感じがする。
junglejungle
人間が描くイラストや漫画もクラスタ内の中で学習を重ねてとても人体とは思えない構造しているわけだけども。顔のほとんどが眼球のキャラとか。漫画のストーリーも一見さんお断りなお約束だらけ。
blueboy
将棋 AI は、正解を学ぶことで、人間よりも強くなる。最近の AI は、エラーを取り込むことで、ますますエラーを出す。例。六本指の人間の画像。腕が三本ある人間の画像。／ 知ったかぶりの誤情報を書いた ChatGPT の文。
igni3
そんなん闇雲にデータ集めて学習させても分散でかくなるの皆知っとるよ。機械学習流行り始めた頃からクソデータ大量にあってもダメだと言われ続けたでしょ。技術的な解決は原理的にはできて品質指標いれればいいだけ
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
いまの話題をアプリでチェック！
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE
Adobeが権利的にクリアなトレーニングモデルを用いた画像生成AI「Firefly」を発表したり、Microsoftの検... Adobeが権利的にクリアなトレーニングモデルを用いた画像生成AI「Firefly」を発表したり、Microsoftの検索エンジンであるEdgeで対話型AIのChatGPTが活躍していたり、世界的なコンサル企業が「社員の50％は業務にジェネレーティブAIを活用している」と明らかにしたりと、ジェネレーティブAIは社会に広がり続けています。しかし、AIを使用してコンテンツを作成・公開する人が増えていることで、新たな問題として「AIが生成したコンテンツがインターネット上にあふれ、それをAIが学習することで、重大な欠陥が生まれている」ということが研究者グループから指摘されています。 [2305.17493] The Curse of Recursion: Training on Generated Data Makes Models Forget https://doi.org/10.48550/
ブックマークしたユーザー
すべてのユーザーの
詳細を表示します
詳細を表示します
2023/06/14 リンク