人間の書き手が生成AIに「あえてNOと言う」権利を持ち続けること。

先日、chat GPTに自分のブログを読み込ませて要約させたらすごい分析をつくってきたというエントリを書きましたが、今日はその感想というか、補足的なエントリです。簡単に言うと、ちょっとやばいな、とか、こわいな、という感覚です。

こ、これはすごい....。Chat GPTによる、僕の作文教育観の10年間の変遷まとめ。

2025.04.21

でも、この「要約」は妥当なのか？

このエントリ、僕のブログにおける過去10年間の作文教育への考え方の変化とか、それをもたらした要因とかが、約４万字でまとめられている大作なのだが、それをdeep researchを２回の合計30分たらずで出力してしまうchat GPTの実力には、まあ恐れ入る他はない。誰だって「すげえ」と思うはず。

ただ、ちょっと立ち止まって「この要約は妥当なのか？」と考えたときに、ちょっとひっかかるのも事実だ。というのも、たとえばこの要約には記事のリソースが全部示されているのだけど、「なぜこの記事を選んだのか？」という根拠はブラックボックスのまま。そして、もし僕が自分で自分の要約を書いていたら「これは必ず書くのに」と思うことが書かれていなかったり、その逆があったりする。

たとえば、僕の実践に決定的に大きな影響を与えたものに、国語のサークル「国語ワークショップ研究会」やそのメンバーがいる。とりわけ『中高生のための文章読本』を一緒につくった森大徳さん（現・筑駒）や仲島ひとみさん（現・武蔵野大学）をはじめとしたこのサークルの中核メンバーの皆さんの影響はとても大きいのだけど、ブログでは単に「勉強会」や「勉強仲間」とだけ書いていたこともあってか、chat GPTの要約では姿を消している。また、甲斐利恵子さんの授業見学記もいっさい触れられておらず、エクセター大学大学院での僕の勉強や研究についても、ごく一部しか触れられていない。こうした点は、僕から見るとおおいに違和感がある。

これは、単に現在のchat GPTの性能の問題ではなく、仮にそれがもっと向上しても、理論的には存在する問題だろう。chat GPTが編集する自己物語と、自分が編集する自己物語には、差があって当然だからだ。

物語の編集権をめぐる争い

ここに、編集権をめぐる両者の争いがおきる。そして、少なくない書き手（語り手）は、この編集権をあっさりとAIに手渡すのではないかと僕は危惧している。つまり「自分の語りは主観的で、膨大なデータに基づいたchat GPTの要約は客観的だ」というふうに。たとえば、SNSなどで嬉々として生成AIの性能の進歩を報告する一定数の人は、すでに自分自身よりも生成AIのほうを信じているかのようだ。彼らは表面上は「参考にする」と言っているけど、実際は逆らえない人もいそうな気がするのだ。つまり、持っているはずの権利を、事実上放棄してしまう感じ。

人間は生成AIにNOと言えるか？

かつてこのブログで、生成AIが国語のカンファランスで使われるようになると、生徒は「生成AIの助言を断る」選択肢を事実上行使できなくなるんじゃないかという懸念を書いたことがある（下記エントリ参照）。この懸念は、もう子供の話どころじゃないんだなあと感じる。

生成AIとの対話はカンファランスの代わりになるか？

2024.10.31

生成AIが文章産出において人間を超えるプロダクトを生成できる日は近い。というより、もはやすでに超えている。そうなったときに、人間は生成AIの助言や要約に「No」と言えるだろうか。これはとても重大で、しかも悲観的になってしまう問題だ。

そもそもどんな分野であれ「断る自由」「やらない自由」があることはオーナーシップを持つ上で非常に大事なことだ。でも、生成AIを信頼しきった僕たちは、そのオーナーシップを自ら手放してしまうんじゃないだろうか。文章のプロダクトの質だけを気にすれば、そのほうが結果として良くなると判断することはごく自然なことだからだ。

でも、僕たちの手による文章や要約が、どんなに偏っていて、主観的で、信用ならないものでも、僕たちは生成AIの提案に対して「あえてNOと言う」権利を保持し続ける必要がある。その権利を勇気を持って主張できることが、僕たちが書くことの主体である上で決定的に大事なことだからだ。でも、放っておくと「AIに任せた方がよくなるに決まってる」「そんな無意味なことなぜやるのか」の大合唱に、権利を行使する小さな意思が潰されてしまう。正直、そんな危惧をおぼえている。今後の僕たちが、「NOと言う権利」を保持し続ける＝オーナーシップを持ち続けるために、何が必要なんだろうと考えている。