AI making us dumber

また脱線します(すみません)。最近のAIブームで自分も正直間違ってた部分あるなと、自分の場合はAMC広告エージェントというのを使いこなすことによってSQLやPython(というプログラム言語)が書けるようになったと勘違いしてたり、自惚れてた部分があるなと反省してます。

普段聞いてるポッドキャストProg G Media で奇しくもこの3人が語っていた内容に痛感しましたので紹介させていただきます。

タイトルまでぱくってしまいましたがAI Is Making Us All Dumber 番組の司会はEd Elson、ゲストがGeorgetown 大学教授のCal Newportともう一人は愛聴してるPlain Englishというポッドキャストを運営してるDerek Thompsonです。3人ともとってもシャープに議論してて共感がもてました。内容としては、歴史的にずっと上昇傾向にあった世代別学力(具体的にはCritical Thinking、いわゆる論理的思考力とでもいう領域)がGen Z世代に限って低下してきたという研究を発端に、その原因が学校(小・中・高・大学)での宿題や課題をAI(LLM)に解かせてるからだと。昔に比べて、本を読まなくなった、さらには作文をしなくなった。いずれもAI(LLM)が代行してくれるから結果的に論理的思考力を鍛える手段であるはずの読書や作文をしなくなったという内容です。

特に気になった部分は以下です。Derek Thompson 曰く、

“in the short run, if you cheat in every test, you’re cheating the test. In the long run, if you’re cheating on every test, you are cheating yourselt.”

”When you talk to a chatbot, because it’s using fluent language, our mind assumes there’s another mind there. Even if we know logically that there’s not, it’s hard for us to convince the rest of our brain that we’re not communicating with another human.”

ChatGPT にしてもClaudeにしても「擬人化」(Anthropomorphizing)言われてみれば確かにそうで、人でもないのに、あたかも人と話してるような錯覚に陥る、とっても危険なことだと思います。たったいまも話題満載のLLM業界ですが、Cal NewportはChatGPTあるいはClaudeといったLLMには懐疑的です。アメリカには時流に流されないでしっかり見据えてくれる人がいることもありがたいです。日本にもいるんでしょうけど。