思ったことをつらつらと。
AIのハルシネーションの問題がときどき出てくる。
ハルシネーションとは、AIの出力が不正確だったり、間違ったりしていること。
AIしょぼいぜというのは簡単だが、逆に間違った出力をすることに着目すると、面白いことができるかもしれない。
ここで、絶対に間違えるAIがあったとしよう。
例えば、年齢が100歳まであったとして、出力に求める年齢が31歳だったとする。
絶対に間違えるAIは絶対に間違えるので、「1〜30、32〜100歳です」と答える。
ということは、正解は31歳になるというわけ。
候補が2つ出てくれば、それを絞り込むためのAIを噛ませば良いのでは？とも思うし、2つだったら人間が判断しても良い。
間違いを潰していくことで正解を導くというのは、人間もやっている行為の１つだ。
ただ、間違いを潰していくパターンは、数が増えたときにとても時間がかかってしまう。
そこでAIを使うというわけ。
AIなら、人間よりも圧倒的に速いスピードで情報を処理できる。
だから、選択肢が増えても人間ほど時間はかからない。
欠点としては、絶対に間違えるAIを作るのが、また面倒くさいという話だ。
また、使い方としては、ハルシネーション、つまり誤答が出力される率を下げるための補助的な役割として使うという方法もありそうだ。
言うなれば、誤答率を出すということ。
現在のAI開発は、出力の確からしさを上げるために奔走している。
確からしさというとわかりにくいか。正答率と言っても良いかもしれない。
正答率の反対は誤答率と思われるかもしれないが、それは正確ではない。
なぜなら、正答を導き出すプロセスと、誤答を導き出すプロセスは違うからだ。
さらに、正答かどうかを判断する方法と、誤答であるかどうかを判断する方法も違う。
正答の場合には、答えが合っているかどうかに着目する。
誤答の場合には、間違っている証拠を上げればよい。
というわけで、今後、AIの出力精度を上げていくのに、おそらく誤答を見破るシステムが導入されるんじゃないかなとか。
というか、もう導入されているかもしれないけど。
