>>4
知識を持ってないのか間違った知識があるのか人間でも本人には区別をつけるのが難しいことがある。 AI の中では確かに「確率的にそれらしいこと」の知識はあるのでそれを出力しちゃうんだ。
悪魔の証明という言葉を聞いたことない？ 在ることを証明するには実例をひとつだせば十分だが無いことを証明するには全てがそれ以外であることを示さなきゃならない。 要するに無いことを完全に証明するのは事実上不可能。
人間はどこかで折り合いをつけて適当な基準で判断してるはずなんだけど……人工知能で人間みたいに判断するのはどうやったらいいかはまだよくわかってない。
分からないと答えられる AI も裏では職人がパラメータ調整でなんとかしてたりする。
割と泥臭い手間の集合体なんだ……。