【FGO】奏章Ⅲ前編で「ハルシネーション問題」というワードが出てきたけど聞いたことなくて調べてしまったよ

2024/9/6 FGO, ネタ 23

ハルシネーション問題、初めて知りました。BBちゃんは賢いな〜 pic.twitter.com/pYwj00N9Cu

— kymdr (@yamad0r1_) August 29, 2024

　

AIは嘘をつかないが、ハルシネーションによって支離滅裂な誤回答をすることがある。月面都市と言いながら空には地球と「月」がある。ムーン・ドバイが月面都市ではないなら、西暦3017年というのも「誤回答」なのでは？　奏章Ⅲの舞台は実はもっと未来なのでは。 pic.twitter.com/yQITZWaOgA

— 干支 (@nijimaji) September 4, 2024

FGOでハルシネーション問題って名前を聞くとは…いやむしろ自然な流れか

— トーリョ (@toryooo) August 31, 2024

今開催してるFGOのイベやってたらAI関係で「ハルシネーション」ってワード出てきて笑った

— ゴミ箱 (@LanguageNewbie) August 29, 2024

おはようございます。
イベント中突如出てくる新ワード
『ハルシネーション問題』FGOやりながら問題提起と学びがあるのが、面白いですね！

私以外にもググったかたは少なくないはず…です（笑）

今日もよろしくお願いします🙇

— Lai (@lai_fgo_try) August 28, 2024

今まで「AIは人類に嘘をつかない」設定だったのが、最近流行の実際の(生成)AIにはハルシネーション問題があって、一応(それはおいておいて…)とかちゃんと取り入れてきたな、FGOくんｗ

— nyama2002 (@nyama2002) August 28, 2024

ハルシネーション問題が存在するのを許容するなら割となんでもありなのでは……

— 🐍 (@sk_kabwe) August 28, 2024

奏章全編読んだけど、AIの話が面白くて純粋に読み物として楽しめた
ハルシネーションが何か分かりづらかったけど、ChatGPTなんかが存在しないでたらめな答えを返すやつって説明で、あーあれかー！になった

— nikawa (@nikawa393939) September 3, 2024

『【FGO】奏章Ⅲ前編で「ハルシネーション問題」というワードが出てきたけど聞いたことなくて調べてしまったよ』へのコメント

名前:匿名投稿日：2024/09/06(金) 23:51:14 ID：6b299aafc 返信

つねにすでにってホラーサイトで最近目にしてたわ
まさか奏章で出てくるとは思わなかった
名前:匿名投稿日：2024/09/07(土) 00:03:20 ID：7c291d896 返信

つまりドバイが今回の計画を出力する切っ掛けになった元データに何かしら問題が？
- 名前:匿名投稿日：2024/09/07(土) 01:47:10 ID：7ef553ace 返信
  
  まあ色々伏せられてるのが彼らも把握してないってなるとそりゃね
名前:匿名投稿日：2024/09/07(土) 00:08:41 ID：be2670f86 返信

空の月は6節の選択肢でぐだが突っ込んだけど、ジナコは飾りみたいな物と説明してるけど怪しくはある
- 名前:匿名投稿日：2024/09/07(土) 00:33:49 ID：7c291d896 返信
  
  あっちが本物の月とかな可能性もありそうよね
名前:匿名投稿日：2024/09/07(土) 00:22:30 ID：197b1941f 返信

例：御馳走戦国炒飯2020 ～七人の美食家と1000の炒飯～
- 名前:匿名投稿日：2024/09/07(土) 04:10:38 ID：5ae848980 返信
  
  ちょうどそれ思い出した
名前:匿名投稿日：2024/09/07(土) 00:22:58 ID：b72116dd4 返信

Googleの検索結果に「ラクスクラインはなぜ死亡しましたか？」→「乗艦を撃沈され〜」ってのがあったけどあれもこのハルシネーションなのかな
- 名前:匿名投稿日：2024/09/07(土) 00:28:34 ID：80f56064c 返信
  
  いや、機動戦士ガンダムSEED DESTINY GENERATION of C.E.ってゲームのいくつかあるバッドエンドシナリオみたいよソレ
  - 名前:匿名投稿日：2024/09/07(土) 00:49:10 ID：f5eeb38a7 返信
    
    この場合質問者はオリジナルアニメの設定を聞いてる訳で、それに対して別世界とも言えるゲームのエンディングを説明してるから回答としては不適当だ
    この程度なら参照してるデータを確認すれば正誤を判断できるけど、AIが間違えないと勘違いしてる人や自分で調べることが出来ない人が多いから割とやっかい
    - 名前:匿名投稿日：2024/09/07(土) 04:49:31 ID：4be46f4e9 返信
      
      どちらかと言うと、質問が下手くそで、アニメの、と制限入れてないからじゃね？
    - 名前:匿名投稿日：2024/09/07(土) 06:54:46 ID：27c838336 返信
      
      どこまでがオリジナルかどうかの線引きも人がやる事だしな
      そこらをきっちりしてやらずに無作為に調べさせたら、そりゃ余計な二次創作やデマを拾ってくる事もあるだろうよ
      AIは優秀でも使う人間がダメならダメな回答になっちゃうという事例の一つかと
      - 名前:匿名投稿日：2024/09/07(土) 11:26:25 ID：247ed6c4e
        
        でもそういうところまで人がちゃんと設定しないといけないなら、自分で検索した方が早いってなるしなぁ
        
        人工知能って言うのならせめて検索エンジンは超えてほしいよね
      - 名前:匿名投稿日：2024/09/07(土) 13:03:47 ID：27c838336
        
        そもそもオープンAI自体が調べ物をするには向いてない
        あれはそれらしく文章を作るのが良いのであって
        情報源をちゃんと管理できない範囲でやると無茶苦茶になるしな
  - 名前:匿名投稿日：2024/09/07(土) 07:50:14 ID：c50b38533 返信
    
    データ量の不足や偏りは時間をかけて修正できるけど
    「質問者の言葉不足から生まれる勘違い」というものは中々解消されるものではないよなぁ
    
    一応AIが複数回答を提示することで多少はカバーできるかもしれないけど
    それも受け取った質問者の理解力・性能に委ねられるから万能という訳でもないしなぁ
名前:匿名投稿日：2024/09/07(土) 00:35:00 ID：409e45aa3 返信

10000年と3017年前からAIしてる～♪
ホントに何してるんだろうね…
名前:匿名投稿日：2024/09/07(土) 00:49:00 ID：1178b35e0 返信

今頃火星(この星のどこか)あたりじゃないですか？

って事か？
名前:匿名投稿日：2024/09/07(土) 01:18:45 ID：af2c3f055 返信

大沖先生の漫画を思い出した
名前:匿名投稿日：2024/09/07(土) 01:59:43 ID：0f8a29cc0 返信

うちはの石碑を鵜呑みにしたうちはマダラみたいなものか
名前:匿名投稿日：2024/09/07(土) 07:39:56 ID：55b0b5e36 返信

AIちゃんに限らず、デタラメ情報を鵜呑みにして拡散しちゃう人間も居るからね
その人もAIも嘘つくつもりじゃなく知り得た情報が間違ってるだけだから悪意はない、でも悪意がなければ済むかというとそうもいかないので情報は慎重に扱わないとね
名前:匿名投稿日：2024/09/07(土) 10:37:58 ID：9dd3c8755 返信

マシュがトランスフォーマーやアテンションにも言及してたね
生成AIのブレイクスルーになった重要論文に出てくるのだ
名前:匿名投稿日：2024/09/07(土) 13:56:47 ID：a5730cde5 返信

はるみねーしょん？
名前:匿名投稿日：2024/09/07(土) 18:51:36 ID：d8c6fa521 返信

もうEXTRAが結構前のゲームなので当時の(月のNPCなどの)AI像がもうかなり古いのよね
AIといえば生成AIという現代にムーンセルの話をするための概念整理と地ならしを丁寧にやってる印象だった…が、
マシュがハルシネーションを「集計ミス」とか言ってた箇所はちょっと引っかかったな
きのこの単純ミスとも取れなくはないがなにかの伏線かもしれないし…