ChatGPTに関するかなりヤバい警告「自分の文章の添削を命じたら、全然違う文章の添削が返ってきた」「別の人の文章では？」

更新日:2025年05月08日

ChatGPTに関するかなりヤバい警告「自分の文章の添削を命じたら、全然違う文章の添削が返ってきた」「別の人の文章では？」

【ChatGPTに関するかなりヤバい警告】

ヤバい。これはヤバすぎる。

完成した文章のファイルを「この文章の誤字脱字や文法的な誤りをチェックして」とChatGPTに投げてみたら、また全然違う文章の添削が返ってきた！… pic.twitter.com/HjnPBJadzV
— ぼのぼの (@masato009) May 7, 2025

いや、悪いが信用できない… pic.twitter.com/IRKfnVGZhx
— ぼのぼの (@masato009) May 7, 2025

さらに真剣にAIを問い詰めてみた。 pic.twitter.com/v5JC018U56
— ぼのぼの (@masato009) May 7, 2025

pic.twitter.com/HUYhj0TnJV
— ぼのぼの (@masato009) May 7, 2025

一度アップしてしまった以上、どうしようもないし、ここまで言うなら７割くらいは信用してやってもいいが、クライアントに対する守秘義務がある仕事関係の文章を丸ごとチェックさせるのはやはり危険だということが分かった。次から気をつけよう。
— ぼのぼの (@masato009) May 7, 2025

ChatGPTは、あまりにも嘘が多いので、昔はまったく信用していなかった。たとえば「○○という街で美味しいお店を教えて」と尋ねると、いろいろ教えてくれるのだが、何とその店が１つ残らず架空の店だったということがあり…「ダメだ。こいつは使い物にならん」ということで、PerplexityとGeminiを愛用…
— ぼのぼの (@masato009) May 8, 2025

どうも反応している人たちの意見を見ていると、

１．
生成ＡＩに打ち込んだ情報はセキュリティ面が信用できないから、そういうことも起こりうる。

２．
それは（AI本人が証言するように）学習用データなどの混入ではなく、すべてはAIが即興的に作りだしたハルシネーション。…
— ぼのぼの (@masato009) May 8, 2025

ハルシネーションというものです

何を警告なさっているのか、が分からないです😅

・真実性の担保が必要なものは生成AIで作らない
・公開できない情報はプロンプトに入力しない

を理解した上で活用しましょう！ https://t.co/svhCPJ6U6C
— Hashimoto Yoshito (@KOKORO_future) May 8, 2025

いや、普通にハルシネーションだと思うぞ。

生成AIって「それっぽい文章を作るプロ」だから、たまに不正確なことを言う。

ただ、AIのセキュリティがイマイチ信用できないのは同意。

AIに何か送った時点でどっかのサーバーにデータが送られるから、外部に漏れちゃいけないものをAIに送るのはアウト。 https://t.co/o18ZqKu3SP
— K (@Key23510650) May 8, 2025

さすがに見てられない
一括りにしちゃダメと思いつつ、猫アイコンでAIに傾倒してる人が明らかに多いの何でだろう。 https://t.co/acsJ3B9P7l
— ひろきゅん (@hirocune) May 8, 2025

なんとういうか生成AIに対する一般の人の偏見や勘違いを凝縮した感じのポスト。

技術的にLLMをある程度理解してれば、この発想には至らないんだけども。 https://t.co/89yW1QtMll
— はる猫大福(haru_arc) (@haru_arc) May 8, 2025

ChatGPTには記録されない一時チャット機能があるので記録されたくなかったらこちらを https://t.co/Rl82a9mrAr pic.twitter.com/AGa4E9XYys
— ドライバ (@driva_1) May 8, 2025

顧客の機密情報使ってるのに一時モード使わないの意識低すぎでは？ https://t.co/Ci1YpudsFe
— きつね (@fncFoxInit) May 8, 2025

一般的に知られていないのですか？！

ChatGPTの規約から分かるように、仕様だから文句言えないです。

規約で
オペレーションが禁止されているので行動に起こしてはいけないが、

技術的に他人の入力情報を探ることは可能。

規約は読むべきですね。 https://t.co/9NaGacZw7m
— Reboot見届け人 (@RebootS2) May 8, 2025

どんなモデルを使ってるのかよくわからないので判断のしようがないが、少なくとも4o-mini、4oならこの手のハルシネーションが生じても何も驚かない

モデルの選択とプロンプトの構造化が如何に重要なのかという話

このように未だにChatGPTに弄ばれているようじゃ、今後のAI時代は生き残れない https://t.co/VxcorCvgxu
— Oimachi@𝕏 (@Oimachi6020_) May 8, 2025

オプトアウトして学習させないようにしてるけど、それでも仕事の機密情報は食わせないのが当たり前ではないか…？ https://t.co/9uw0iaKPtx
— 親しめじ子しめじ (@085shimeji) May 8, 2025

たぶん他ユーザーのファイルではなくGPTの幻想やろな。
ファイル取得出来んかったけど勝手に作り出したとか。 https://t.co/fo0vNpyFPD
— はげたまご (@Giniro_tamatama) May 8, 2025

これはあるよね、、
コードがうまく動作しない時に、どこに問題がある？
と聞くと

書いてもいないコードを挙げてきて、ここが問題です！とか言ってくる🫠

え、そんなのどこに書いてある？と聞くと

失礼しましたどこにもありませんでした。
問題はここです… https://t.co/5R24s9AnOQ
— 下ひげ海賊団@資産運用全般& FXプロトレーダー (@shitahige_fx) May 8, 2025