「AIと地動説」エントリに続き、生成AI関連の思索。 blog.kolmas.tech
軌跡と総和
教育学が専門の姉1曰く、人の学習成果の評価には「軌跡」と「総和」という概念があるらしい。京都大学の松下先生により、学生の学習成果を評価する方法論を整理するために導入された言葉であるようだ。氏の論文の定義によると、
〈総和〉とは、プログラムレベルの学習成果を個々の授業科目の学習成果の総和として（時間軸を捨象して）把握するという考え方であり、一方、〈軌跡〉とは、プログラムレベルの学習成果を学生の学習の進捗にそって（時間軸を入れて）把握するという考え方のことである。 --松下佳代 プログラムレベルの学習成果の評価 -総和と軌跡- 大学評価研究 第20号
とのことである。即ちこの「軌跡」という考え方は、学生がある技能を修得していく際に、その修得度合いが向上する様子を複数の科目に跨って長期的に捉えて評価するものと言える。一方で「総和」は、その修得に関わる科目毎に修得度合いを個々の点として評価し、それを足し合わせて全体的な修得度合いの評価とするものと捉えられる。GPAは「総和」の考え方に基づく評価軸の好例である。
人の学習とAIによる「学習」はそもそも異なる概念であろうから無理に当てはめるのもナンセンスだが、それでも無理矢理考えてみると、少なくとも個々のAIの評価に「軌跡」のような考え方は当てはまるまい。AIは、既存の情報源を元に与えられた問いに対して最尤な応答を返しているだけである。人が繰り返しAIに対して問いを与え続ける事で、AIの応答がその人の嗜好に沿った応答を返すように変化していく点は「軌跡」に近しいように思えるが、それは最尤を探すにあたっての入力が増えているだけ2に過ぎず、やっている事の本質には変わりはない。対して、既存の情報源を取り込む「学習」の成果たる所のAIの出力について、様々な問いに対する精度を評価すれば、少し意味合いの違いは感じるものの、個々のAIに対する「総和」的な評価の考え方は成立するかもしれない。
一方で、個々のAIではなく、昨今のAI全般の発展を捉えれば、そこに「軌跡」は見出せる。即ち、数十年と進められてきたAI関連の検討を一人の「学生」のように見れば、それが修得した能力は明確に向上してきている。ただ、その「軌跡」を描いてきたAIの発展は、無論この擬人化された「学生」自身によるものではない。この「学生」は歴史上のAI検討を全て包含する概念的なものであって実態はなく、実体あるAIは「軌跡」上の個々の点にすぎない。既存の点から更に高次に点を打つことでこの「学生」の「軌跡」を成して来たのはAI分野の研究者方=人の仕事である。将来の「軌跡」を自ら描いていく事は、少なくとも現在のAIにはまだ出来まい。
軌跡なき結果と人類知
個々のAIの話に戻る。
繰り返しになるが、既存の膨大な情報を学習し、それに基づいて問いに対する最尤な応答を返すAIに、学習の「軌跡」の考え方は当てはまらなかろう。「軌跡」を経ずに結果を得ていると言えるかもしれない。それはAIを利用する人にとっても同じで、「軌跡」なく結果を得ることができている3といえる。
一方で、人として全てが良いのか、というのが一貫して引っかかっている所である。今日日、もう全てAIで良いじゃないか、という安易な言説4を度々見かけ、その度に、このような発想が人類知性の価値を毀損していると暗澹たる気持ちになる。将来的に軌跡と捉えられることになろう高次の点を打っていく事を忘れ、現状の「総和」に甘んじる発想に先々の発展はない。
典型的な例は、生成AIが所謂「お絵かきAI」として使われる場面である。あれも中々すごいものだと思うが、あれに対する「もうイラストレータは不要だ」という反応を見ると、いやそれはちょっと、と思う。この反応には次に示す二つの分類があるのではないかと考える。
- その発言者にとってのイラストの用途を満たすという点において「不要」
- ありとあらゆるイラストレータの役割がAIに代替されるので「不要」
前者は分かる。仕事の付き合いがある個人事業主の方が、名刺に載せるためのロゴを生成AIで作っていた。そういった、自身が直面している用途が生成AIで満たせるという事は多くの場面でありうるだろう。一方で、後者はそれとは全く異なるし賛同しかねる。そして最もタチが悪いのが、実態としては前者の状況にある人がそれを後者と勘違いしている、という場面が多々見られる事である。
後者の発想は今後のイラスト文化の発展を否定する。もう既に十分発展しきっているという発想は愚か5である。例えば江戸時代のイラストといえば浮世絵であるが、その頃から現代のイラスト文化を想像しえたかと言えば否であろう。将来のイラスト文化がどのようになっているかなどという事は今の段階からは想像しえず、故に今が発展の極致であるとは誰にも証しえない。にも関わらず現状の「総和」に甘んじ、未来から振り返れば「軌跡」と捉えられる活動が行われないようになってしまっては、まさに今が文化の発展を停止させた汚点であったと将来の歴史書に記されるだろう。生成AIという優れた技術がその戦犯にされるのは非常にもったいない。
個の軌跡と貢献
現状の人類知を構成している、個々の人の貢献をどう捉えるかというのもまた悩ましい。難しいが故、これまでは人類知の発展に対するAIの立ち位置というマクロ的視点からしか述べてこなかったという節もある。
人が何かを作り出すには、それを作り出せるようになるまでの「軌跡」が何かしら必ず存在しているはずである。それはどんな物でも共通である。私の子供がクレヨンで殴り書いたグルグル巻きにすら、そこに至るまでの彼の「軌跡」がある。即ちクレヨンを握るという事を知った、それを紙に擦り付けると何か面白い事が起こる6と知った、という「軌跡」である。その「軌跡」を評価するからこそ、その傍目には無価値なグルグル巻きは、親的には大変な価値を持っている。
対してAIにとって「軌跡」は無意味、というより上述の通りAIの出力は「軌跡」なき結果である。AIが学習しているのは人の生産物であり、それらは全てそこに至るまでの人の「軌跡」に依るものである。しかしAIでは、その学習元生産物の「軌跡」に費やされた個々人のコストを無視した、「軌跡」なき結果が出力できてしまう。それでもって人の貢献が「不要」と言われてしまっては、学習元の生産物を作る側に悪感情を持たせうる事は容易に想像できる。それまでの努力や投資が無価値と言われるようなものである。その変形として、AIによる学習対象として生産物を使われるということにも忌避感が生じよう。研究者くずれとしての私の感覚では、そもそも研究・論文というのは後進に参考にされてこそ7という節があるから、多少は忌避感が小さいかもしれない。一方、特にクリエイティブ分野等においては、生産物というのは後進の踏み台たるべくして生み出されるわけではない。
悪感情があるだけならまだ良いが、人間たるもの食えないと仕方がないわけで、その点でAIに駆逐される仕事は出てくる。上掲の「名刺に載せるためのロゴ」例をとっても、かつてはイラストレータに依頼して作ってもらうようなもの8がAIで作れてしまうのだから、当然ではある。それなら「AIができない領域」を人の仕事にすれば良いという主張もよく聞かれる。この「AIができない領域」が何なのかという議論は、「AIと地動説」エントリも触れたが、ここでは一旦置いておく。問題は、今は何らかの「道」9において「AIができない領域」に既に達している人がいるとしても、全員がそうではないということである。そうでない人々の仕事がなくなる=食えなくなるとなれば、その人々は淘汰されるしかない。
このとき、「達している人」以外は淘汰されて然るべき、という論調には素直には賛同できない。その「道」にいる人の裾野がある程度広くあって初めて、その中で突出した才能が現れてくるものである。だから、例えばスポーツ振興では特定の選手にリソースを集中するだけでなく、そのスポーツの競技人口全体を増やすための活動も行なっている。また、突出した才能であったとしても、最初から「達している」わけではなく、そこに達するまでの「軌跡」があるはずである。その「軌跡」の途中にある段階で「達していない」から淘汰して良いのか？将来的に「達する」ことになるか否かも、その段階では分かり得ない。そしてその「道」に進む人がいなくなれば、その「道」の発展は止まる。繰り返しであるが、「道」の発展が止まっても良いという発想は愚かである。
AIを道具とした人類知の進歩はあるか
というようなことは思いつつも現実として、今AIでできていることは、もうできてしまっているのである。それを否定することはできないし、その活用が進む流れも変わらない。私も技術者の端くれとして、新しい技術をただ闇雲に否定することもまた愚かであると思う。
AIがあることを前提とした中で人類知が先に進んでいく事が出来るか、という事はしっかり考えなければならない。その時、これまでの「道」の考え方は大きく変わらざるを得ず、そこには恐らく痛みを伴う。そのような痛みは、これまでの歴史の中でも革新的な技術が現れる度にあったに違いない。ただその中でも昨今のAI技術については、冒頭で述べた通り「既存の情報源を元に与えられた問いに対して最尤な応答を返している」という性質上、人類知を現状の「総和」に押し留めかねないポテンシャルを持っている。AIが多くの人々が普遍的に活用できるツールになっている以上、その危機感は誰しもが持っていなければならないと考える。
AIを道具として使い倒しながら、将来から見て「軌跡」の一部と捉えられることになる点を打ち続けていく、ということが人に求められている。盲目的にAIを持ち上げている場合ではない。
余談
「表現の民主化」などといった表現で生成AIを持て囃す向きがあるが、これには愚劣さしか感じない。表現するという事への扉は元から誰しもに開かれている。そもそも民主的なのである。表現するために必要な「軌跡」を省略する事で幅広い層が表現できるようになる10事を「民主化」というのなら、カンニングの横行で誰でも大学入試をパスできるという事も「民主化」になってしまう。
民主主義が衆愚政治であるというならそれもそうなのか？AIを利用する事で人類知が現状の「総和」に留まり続けるようなことになってしまったら、それは民主主義というより、全体主義的である。衆愚政治の行き着く先が全体主義だと思えば、ある意味とても整合している。 ja.wikipedia.org
AIを前に人は愚民を脱しなければならない。
- プログラミング遍歴前編のエントリで僅かに触れている、私にHTMLやJavaを齎した姉である。そんな事をしていた割にコンピュータの道には進んでいない。↩
- そしてそれは、AIが元より「学習」していた膨大な情報と比べれば微々たるもの。↩
- そのこと自体を批判するような意図は全く無い。上手く使えば、人の作業を大幅に効率化できるポテンシャルがある。↩
- ちゃんとAIの事を分かっている人は、そのような安易な主張はしていないように思う。↩
- これは「AIと地動説」エントリの余談2でも糾弾したところである。↩
- 紙以外、例えば壁とかに擦られるのは親的には困るが。↩
- これは勿論、剽窃を認めるという意味ではない。↩
- これが結構素敵なロゴなのだ。↩
- 〜〜道（どう）、の意味合いで述べている。例えばイラストレータ道とか。↩
- その事自体が悪いと思っているわけではない。↩
