harumaruさん
VIEW
【モデル崩壊】AI生成コンテンツをAIが学習するループにはまる可能性
時間が経過するにつれて、生成されたデータの誤りが積み重なっていき、最終的には生成されたデータから学習することでAIが現実をさらに誤って認識することになります」と説明しています。シュマイロフ氏によると、学習モデルは最初に学習した元のデータをすぐに忘れてしまう可能性があるとのことで、「私たちは、モデルの崩壊がどれほど早く起こるかを観察して驚きました」と話しています。
出典：AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE
またアンダーソン氏は、インターネット上のコンテンツにAIを用いて生成されたコンテンツが増えるため、ウェブをスクレイピングして新しいモデルをトレーニングすることが難しくなり、結果として既に十分なトレーニングデータを得た企業や人間が生成したコンテンツを大規模に管理できる企業が一方的に有利になると指摘しています。
出典：AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE
世間の声
記事本文だと、先行した資本によるデータ寡占の危険性とかも指摘されていてなるほどなあって。
AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE t.co/ArmOqArV1z
コレです、危惧していたコト
AIライターばかり生まれたら誰が学習元コンテンツを作るねん
AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE
t.co/eNCI24gkzS
深刻だけど、現象としては面白い。90匹の黄色の猫、10匹の青い猫を学習し続けると最終的に黄色しか生成しなくなり、少数データの特性が失われる。
AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告
t.co/5TSgJ0Wacr
面白い。
AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 #SmartNews t.co/qgvgPIlzZ7
「平均化が進んで単一化していくんだろうなぁ」と漠然と思ってたけど、崩壊までいくのか
まあ人間が元データ作んなくなるからなぁ
AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE t.co/MYt9fvreKS
これは草。毒をもって毒を制してんじゃねーよ
AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE t.co/hDu22zp4RW
いつかは来るだろうと思われていた再帰的学習による崩壊が、AIの進化が早すぎて既に始まってるのかな。Stable Diffusionが公開されて10か月、ChatGPTも7か月とまだ1年も経ってないのに学習元を食いつくしつつある感じ？ / “AI成果物が急増したことで「AI生成コンテンツをAI…” t.co/zljpDeaTWT
AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 #ldnews t.co/I3XKeW9avI
AIがAI絵を学習してAI絵を、ってループ。合わせ鏡みたいな。
そのうち蠱毒とかウロボロスみたいなことになる🤔
AI絵が増えれば増える程にAI生成が阻害されるって話がすごく当てはまってしまった。コピー品→コピー品→コピー品のループと化して、ドンドンとガビガビな画像になっていく感じ。 t.co/3boaGnJmLF