AIと勉強する危険

AIは何でも知っている?

Google社のGemini, OpenAI社のChatGPTなど、AIはとても便利になってきました。 当然、勉強にも使えるはずだ!、となりそうです。 確かに勉強に使えます。 私自身も便利に使ったりしていますが、かなり大きな落とし穴があります。

AIはかなり間違える

びっくりするほどAIは間違えます。 しかもこの間違え方が、非常に厄介やっかい¹です。 回答の大部分はあっているのに、致命的部分が間違っていたりするのです。

AIに尋ねるのは「知らないから」です。 知らないことを聞いているのですから、間違っている部分が混ざっていても分かりません。 しかも、それがいつ、どのタイミングで混ざってくるのかも分かりません。

試しに中学生レベルの問題を作ってみました。 1~4は全て何かが間違っています。 それぞれ何処どこがおかしいか分かるでしょうか。

1. 日本国憲法は1945年11月3日に公布され、1946年5月3日に施行された。
2. 日本国憲法は法律に反しない限り基本的人権が保障されている。
3. 日本国憲法は18歳を成人とし、成人男女に選挙権を保障している。
4. 日本国憲法は9条で交戦権と戦力を放棄しているため戦争行為はできない。

これについてChatGPTに解説を求めたところ、1,2,4の解説に問題はありませんでした。 しかし、3の解説に間違いがありました。

憲法に年齢など書かれていないという部分は正しいです。 しかし18歳選挙権の根拠法は公職選挙法 (2015年改正, 2016年施行) で、2022年ではなく 2016年から です。 これは日本の法制度上、成人年齢がばらばらに定められていることをAIさんが理解していないためですね。

• 喫煙 20歳から - 二十歳未満ノ者ノ喫煙ノ禁止ニ関スル法律
• 飲酒 20歳から - 二十歳未満ノ者ノ飲酒ノ禁止ニ関スル法律
• 婚姻や経済取引 18歳から - 民法
• 犯罪行為の場合 18~19歳, 20歳以上の2段階 - 刑法

一部だけ間違える厄介

何が問題といって一部だけ間違える点です。 小中学生の学習では、この 大体あっている 感覚は極めて危険です。

• 計算間違いで 不注意 だった, うっかりだった
• 英語で限定詞 (a, the) を忘れた だけ
• 理科や社会の用語で漢字を間違えた だけ
• 国語で語尾(だから, こと) を間違えた だけ

「だいたいあっている」としても、正確ではなかったり、雑であったりして、あっという間に60点くらいまで点数は下がります。 それどころか、こういう細かい部分こそ、本質部分 (a, the, 複数のs等) であることも珍しくありません。

今回、私はAIに解説してもらうために、4つだけ問題を作りました。 その内の1つで間違いが起きてしまったのですから、かなりの頻度で間違いが混ざることが分かると思います。

AIに向かないこと

AIは「大体あっている」答えを作るには非常に優秀です。 逆に複雑な問題を正確に説明するということについては不得手です。

何度も質問を繰り返し、AIに正しい設定を施ほどこしていけば、かなり精度は上がります。 しかし、普通、そこまでAIの使い方を工夫する人はいません。 気軽に聞くと、気軽に間違いが混ざってしまう危険と隣合わせなのです。