AI making us dumber

また脱線します(すみません)。最近のAIブームで自分も正直間違ってた部分あるなと、自分の場合はAMC広告エージェントというのを使いこなすことによってSQLやPython(というプログラム言語)が書けるようになったと勘違いしてたり、自惚れてた部分があるなと反省してます。

普段聞いてるポッドキャストProg G Media で奇しくもこの3人が語っていた内容に痛感しましたので紹介させていただきます。

タイトルまでぱくってしまいましたがAI Is Making Us All Dumber 番組の司会はEd Elson、ゲストがGeorgetown 大学教授のCal Newportともう一人は愛聴してるPlain Englishというポッドキャストを運営してるDerek Thompsonです。3人ともとってもシャープに議論してて共感がもてました。内容としては、歴史的にずっと上昇傾向にあった世代別学力(具体的にはCritical Thinking、いわゆる論理的思考力とでもいう領域)がGen Z世代に限って低下してきたという研究を発端に、その原因が学校(小・中・高・大学)での宿題や課題をAI(LLM)に解かせてるからだと。昔に比べて、本を読まなくなった、さらには作文をしなくなった。いずれもAI(LLM)が代行してくれるから結果的に論理的思考力を鍛える手段であるはずの読書や作文をしなくなったという内容です。

特に気になった部分は以下です。Derek Thompson 曰く、

“in the short run, if you cheat in every test, you’re cheating the test. In the long run, if you’re cheating on every test, you are cheating yourselt.”

”When you talk to a chatbot, because it’s using fluent language, our mind assumes there’s another mind there. Even if we know logically that there’s not, it’s hard for us to convince the rest of our brain that we’re not communicating with another human.”

ChatGPT にしてもClaudeにしても「擬人化」(Anthropomorphizing)言われてみれば確かにそうで、人でもないのに、あたかも人と話してるような錯覚に陥る、とっても危険なことだと思います。たったいまも話題満載のLLM業界ですが、Cal NewportはChatGPTあるいはClaudeといったLLMには懐疑的です。アメリカには時流に流されないでしっかり見据えてくれる人がいることもありがたいです。日本にもいるんでしょうけど。

Hindsight Bias

ここのところスポーツ・アナリティクスづいていて、スポーツは基本的に言葉(言語)があまり関係ないし、数学と同じく、野球でもサッカーでも日本語でやったことがあれば、なんとなく身振り手振りで外国人チームと試合できそうなところが言語に依存しないグローバルな媒体だなと感心していたところでした。

例によって行動経済学のRichard Thaler とかDaniel Kahnemanとか大御所の文献(というか僕の場合はポッドキャスト)を拾い読み(拾い聞き)してるうちに出会ったのがAnnie Dukeという女史です。何と元プロのポーカープレーヤーでUS ドル4millionもの賞金を稼ぎ、 なおかつ元ペンシルバニア大の博士課程からポーカーに転身したという異彩です。彼女のポッドキャストを聞いていて出会ったのが以下の話です。

なんでも2015年のスーパーボールの1プレイを巡る話で、僕はアメフトがほとんどわからないのであまりピンとこないのですが、どうも残り時間26秒のプレイをどうするべきだったかと言う話のようです。ボールを回してタッチダウンを狙うべきだったか、パスを出すべきだったかという二択で、コーチだったPete Carrolはパスを出すという指示をだし結果的には相手にインターセプトされた状況、アナウンサーだか解説者が大声で「信じられない指示、NFL史上最悪のプレイ」と騒いでいるシーンです。

これに対してAnnie Dukeがデータをつかって客観的に分析しています。実際にあの状況でパスがインターセプトされる確率は1%から2%であり、パスを出すという判断は決して間違っていなかったと冷静に反論。つまり「失敗した」という結果から逆算で遡って悪いプレーだった、史上最悪の判断だったとするメディアのあり方を逆に批判してます。

日本の野球解説とかでもよくある「まあ、結果論ですけどね。」というやつです。これを行動経済学あるいは認知科学ではHindsight Biasと呼び、ビジネスの現場でもわりと普通に使われる用語です。英語でHindsight もBiasも日常生活で頻繁にでてくるワードなのでこの2つが組み合わさってHindsignt+Biasが専門用語になってもすんなりと頭に入ってくるだろうなと想像できます。一方Hindsightの日本語訳は「後知恵(あとじえ)」だそうです。ググればわかりますが漢字にワザワザ括弧書きでひらがなの読みがついてるほどその言葉が馴染みがないことを物語ってます。英語で”in hindsight,”というフレーズはよく出てくる「今になって思えば」みたいニュアンスなのですが、hindsightの日本語訳=「後知恵(あとじえ)」には正直?!?です。何故なら「そんな日本語は聞いたことない、日常生活では使わないし」というのがぼくの感想です。英語だと普通のワードの組み合わせが、日本語訳になると普通じゃななくなる、これがよくない。まだカタカナのほうがいい。学者が翻訳が介して化け物のような掘り出し物の耳慣れない言葉を無理やり育てようとする悪い例だと思います。一気に敷居が高くなる、かつ訳がわからなくなる。シンプルにストレートに本来は脳に入っていかなきゃいけないのに。せっかく行動経済学や認知科学を勉強しようと思った人のやる気を削ぐテンション下がるだろうなと勝手に心配してます。

皮肉にも行動経済学の父と呼ばれるRichard Thalerの初期の論文 Mental Accounting (1985)は彼の専門外でマーケティング分野ですが最も多く参照された論文として有名で、その理由が「読みやすい」からだと言われてます。Thalerが口癖のように言ってる「make it easy」とは真逆の方向性を「後知恵(あとじえ)」という日本語訳には感じざるを得ません。

おまけ:余談ですがAnnie Dukeが故Daniel Kahnemanをインタービューした貴重なポッドキャストがありまして、ぼくのお気に入りです。カーネマンがなくなる8ヶ月くらい前に収録されたと思われ、お互いを尊敬しあってたんだなと思わせる好感が持てるインタビューです。