詳細検索

検索対象

まとめダネ!
【モデル崩壊】AI生…

【モデル崩壊】AI生成コンテンツをAIが学習するループにはまる可能性「AI絵をコピーするAI絵が増えそう」

AI生成コンテンツをAIが学習するループにはまる可能性について指摘されています

更新日:

【モデル崩壊】AI生成コンテンツをAIが学習するループにはまる可能性

時間が経過するにつれて、生成されたデータの誤りが積み重なっていき、最終的には生成されたデータから学習することでAIが現実をさらに誤って認識することになります」と説明しています。シュマイロフ氏によると、学習モデルは最初に学習した元のデータをすぐに忘れてしまう可能性があるとのことで、「私たちは、モデルの崩壊がどれほど早く起こるかを観察して驚きました」と話しています。

出典:AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE

またアンダーソン氏は、インターネット上のコンテンツにAIを用いて生成されたコンテンツが増えるため、ウェブをスクレイピングして新しいモデルをトレーニングすることが難しくなり、結果として既に十分なトレーニングデータを得た企業や人間が生成したコンテンツを大規模に管理できる企業が一方的に有利になると指摘しています。

出典:AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE

世間の声

記事本文だと、先行した資本によるデータ寡占の危険性とかも指摘されていてなるほどなあって。

AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE t.co/ArmOqArV1z

2023.06.14 11:15:54

まあそりゃAI成果物の割合が増えれば増えるほどそうなるよねって。

2023.06.14 11:19:02

コレです、危惧していたコト
AIライターばかり生まれたら誰が学習元コンテンツを作るねん

AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE
t.co/eNCI24gkzS

2023.06.14 11:30:00

深刻だけど、現象としては面白い。90匹の黄色の猫、10匹の青い猫を学習し続けると最終的に黄色しか生成しなくなり、少数データの特性が失われる。

AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告
t.co/5TSgJ0Wacr

2023.06.14 11:36:27

面白い。

AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 #SmartNews t.co/qgvgPIlzZ7

2023.06.14 11:45:43

「平均化が進んで単一化していくんだろうなぁ」と漠然と思ってたけど、崩壊までいくのか
まあ人間が元データ作んなくなるからなぁ

AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE t.co/MYt9fvreKS

2023.06.14 11:47:33

これは草。毒をもって毒を制してんじゃねーよ

AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE t.co/hDu22zp4RW

2023.06.14 11:49:25

いつかは来るだろうと思われていた再帰的学習による崩壊が、AIの進化が早すぎて既に始まってるのかな。Stable Diffusionが公開されて10か月、ChatGPTも7か月とまだ1年も経ってないのに学習元を食いつくしつつある感じ? / “AI成果物が急増したことで「AI生成コンテンツをAI…” t.co/zljpDeaTWT

2023.06.14 11:52:38

AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 #ldnews t.co/I3XKeW9avI

AIがAI絵を学習してAI絵を、ってループ。合わせ鏡みたいな。
そのうち蠱毒とかウロボロスみたいなことになる🤔

2023.06.14 11:11:25

AI絵が増えれば増える程にAI生成が阻害されるって話がすごく当てはまってしまった。コピー品→コピー品→コピー品のループと化して、ドンドンとガビガビな画像になっていく感じ。 t.co/3boaGnJmLF

2023.06.14 10:05:13

1