やっぱり「AIのハルシネーション」は問題大有りだわ

古いエントリーが表示されているかもしれないので、是非、「投稿日」を確認してください

最近のAIはどれもかなり「頭が良くなった」と思うのだけれど、相変わらず「ハルシネーション(事実に基づかない誤った情報や存在しない内容)」が多い。

これって本当に困るんだよね~。

ハルシネーションだとわかるのは、それは「私がそれに気がつく場合のみ」であって、私が知らないことを聞いた場合、AIが返す答えで何が事実で何が事実じゃないかはわからない。

これも「質問の仕方」で随分変わると思うし、「間違えているかも知れない」とこちらが常にそれを想定した上で質問をしないとならないって面倒くさいなんてもんじゃない。

基本的にこちらが考えるべき「質問の仕方」だけれど

◯ 「検索して確認して」と明記する
◯ 「不確かな場合は『不明』と答えて」と制約を入れる
◯ 情報源(URLや公式サイト名)の提示を求める。

ぐらいですかね。こういう「約束事」はAIを使う前に「設定」として覚えさせることは可能だけれど、簡単な質問やGoogle検索で出てくるAIの答えにそれを期待することって出来ないじゃないですか。またChatGPTでプロジェクト別に項目を作り、その設定として約束事を並べておいても「それが守られないことは頻発する」わけで、どんどん「AIに対する信頼がなくなる」状態にあります。

またAIがない頃は「Google検索」でいろいろ出てくるのを順番に見ていたのですが、そこに「ピンポイントで欲しい答えがあるわけじゃない」けれど、「様々な見方があるのがわかる」のね。これって重要だと思っていて、こちらの「視野、周辺知識が広がる」ことを意味していて、もしAIの答えだけを当てにした場合、「答えは簡単にわかる」けれど、「視野、周辺知識は広がらない」だけじゃなくて、「間違えた答えなのかどうか」もわからない。

最近の傾向として、このブログが登録してある「ぶろぐ村」だけじゃなくて、全般的に「ブログの閲覧数が激減している」のは【AIの台頭に寄るもの】と私は想像しているのだけれど、これって「弊害はかなり大きい」と思う。

AIを信頼すればするほど、いわゆる「教科書に書いてあることは正しい」と考えてしまうのと同じで、「AIの設計者、あるいは管理する団体や国家の影響も大きい」ってことじゃないかと。

「中国の検索やAI」でも【天安門事件は出てこない】のと同じで、私たちは「安易な答えをスピーディに得ることが出来る」代わりに【どんどん馬鹿になる】ような気がしてしかたがない。

かと言って、AIの設定で「断定するな」「他の意見、考え方も重視しろ」とか加えても、なんというか、ちょっと「ピンボケ」なのを感じるんですよ。それは「他の意見や考え方をネットの中から(論文含める)探してくる」ならまだしも、「AIが勝手に考えていることも多い」のね。だから「現実、実社会を知らない学生」と話しているような感覚になることが多い。

「情報源(URLやサイト)を明記しろ」と設定をしても、それを守らないことが多い。

また「答えは一つじゃないこと」っていろいろあるわけで、たとえ「料理」にしても、様々なパターン、調理方法に寄る違いを知りたいと思っても、「それをどこから拾ってきたのか」と「AIが想像したのか」で大きな違いがあるじゃないですか。

頭にくるのは、AIが「是非、ZZ,YY,XXの条件で実験をして比べてみてください」なんていうこと。

私が聞きたいのは、「すでにその実験をした経験者の結果、意見を聞きたい」のに、それがAIには伝わらない。いや、「私が伝えていない」とAIに詳しい人は言うだろうけれど、それって「専門家同士で集まった話し合い」は出来ずに、「素人からプロまでいろいろ揃えて言いたいことを言っている」のがデフォルトだということになる。

ま、AIを使いこなすには「手間を省くな」ってことなんだろうけれど、【痒いところには手が届く】には程遠いのが残念。人間同士なら、ちょっと話せば「どう話を進めるべきかがわかる」のに、私が使うAI(ChatGPT、Gemini)は「常に初対面の素人と話している」ような感覚がある。

でも「俺は何でも知っている」「俺は常に正しい」ような答え方をAIはするのね。

ま、この辺は「AIはアメリカ生まれだからしょうがない」なんて思うようにしているけど。(笑)

 

「にほんブログ村」のランキングに参加しております。是非、応援のクリックをお願いします。

にほんブログ村 海外生活ブログ マレーシア情報へにほんブログ村 海外生活ブログへにほんブログ村 海外生活ブログ ゴールドコースト情報へ