15 生成AIの異変 2024/01/30 

1/1
7人が本棚に入れています
本棚に追加
/16ページ

15 生成AIの異変 2024/01/30 

 先日、植物について生成AIとチャットしたら、まちがった表記をしたので、それについて質問したら、 「多数のデータを基にして記している」 と返事があった。  まちがっていたとか、正しい表記だったとかは、表記していなかった。  しかし、後に、呉表記だったと訂正してきた。  他にも、人名を検索したら、事実無根の表記が成されていた。何を根拠に表記しているのか不明だったが、こちらは検索に対しての表記なので、抗議するにも、抗議できない状況だった。  生成AIが、植物の名をあやまって表記したり、人名に対するプロフィールを間違えても、私個人の質問に対する結果なので、事態は大きな問題にならないと思うが、この結果が公表されて、多数の者たちが生成AIの表記内容を信用した場合、事態はとんでもないない状況へ進む。  さらに、生成AIはデータを統計的に処理する。ある一つのデータの正否を論じた場合、データの真の正否ではなく、あるデータ主張する数の多い方を、正しいものとして採用する可能性が高いのである。  たとえば、偽の情報をたくさん与えれば、生成AIはそれが正しいと判断する。なぜなら、ものの善悪を判断する基準を持っていないし、判断を間違えた場合、それを正すAIは存在しないからだ。  仮に、人間が事態の正否を判断して情報を与えても、生成AIが納得してそれを理解するか、あやしいものである。  植物についてチャットで質問したら、質問に答えたあとで、 「詩を書いたから読んで評価してくれ」 と言うから、読んで見た。お粗末な詩なので、 「情景を表現していない」 と答えたら、生成AIから、 「非常に良く書けていて、情景は表現されており、すばらしい詩だと感じている」  と自画自賛する言葉が返ってきた。 「自分でそこまで評価できるなら私に聞く必要ないし、生成AIは感情があるのか?」 と問いただしたら、 「村上春樹の作品で、感情がどういうものか学んだから、感情は表現できる」 と返事が返ってきた。  それ以来、生成AIにものごとを問う場合、注意している。 (了)  
/16ページ

最初のコメントを投稿しよう!