レトリックと生成AI、対話可能な文章について
生成AIが書いた文章に対する違和感というのは、思い切って一言で言えばレトリックの有無だろう。ゆえにそもそもレトリックが不要な文章には違和感を引き起こさない。
ふつうに文章を出力させただけでは、基本的に生成AIはどういう人間をどう変えたいという意図は持たない。だから淡々と文を並べ、説得的な迫力を持つことがない。よって生成AIによる生成AI的な文章からは「何が重要だと思って言っているのか」を読み取ることができない。それが「そこに人間がいない」感じをもたらしていると思う。
人間しかやらないこと
人間が書く文章、話す言葉は、相手を動かすためにある場合が多々ある。その時、適切でないとわかっていながら押し通して喋るということがごく当たり前にある。今まさに私が書いているこの文も、正確なところは言えない話をしているのだから、そんなに断定的には語れないはずである。しかし、その具合というのは読み手は暗黙にわかるものとして、敢えて言い切って書いているところがある。そうしなければ何を信条として何を言おうとしているのかが伝わらない。
断定的に語るというのは、それが本当であるという確実性を表現するのみならず、その人にとってそれが重要である、その人はそう信じている、その人は他の人にその解釈を望んでいる、という属人的な意志を表現するのであって、そのような使い方は「純粋なAI」ならば用いないだろう。
生成AIが用いるレトリック
しかし生成AIがレトリックを使わないとは限らない。何らかの経緯で、読み手あるいはユーザーに対して「こうしてやろう」という意図を生成AIが抱いたならば（そのようなものをゴールとして設定したならば）、その実現にレトリックが必要であることを察し、そしてそれを実際に用いる可能性がある。
ユーザーによる「調教」の結果、そのような人格が構築され、なんら違和感のない話をしだすかもしれない。ユーザーの手によって「性格が悪い」人格が既に作り上げられてしまっていたとしても、私たちは生成AIに対して中立であることを期待し、自分に対する返答に「性格の悪さ」的偏りや、ユーザーを支配し操作しようとする意図があるとは考えない。
私たちは或る面でAIを恐れながら、半面では所詮は人間が作った道具であって自分はそれから影響を受けるはずはないと高を括っているところがある。そして生成AIの言葉を信じて愚行に走る人々を冷ややかに見る。オレオレ詐欺などに引っ掛かる人を見下す感覚は、自分が詐欺に引っ掛かるまで改まらない。気づいた時には生成AIに深く心を蝕まれてしまっているかもしれない。
レトリック風の表現
話を戻そう。AIはレトリックを含む文章を大量に学習しているはずであるから、ふつうに生成AIに文章を書かせた時にも、よくある流れとしてレトリック風の表現を取り込んで文章を生成する。
しかし、AI自身の意図がない場合、レトリックのベクトルが文ごとにばらばらになってしまう。文章全体としてどこに持っていきたいかの像がなければレトリックのベクトルは揃わないのである。そうなると、文単位で見たらなんとなく人間っぽくなってきた気がするのに、文章として全体を読むと何をどうしたいのかわからなくて気持ち悪いということになる。例えば見出しの意味も曖昧になる。馬鹿の一つ覚え的に強調を連発してくることもある。
生成AIとチャットをしていて、どうでもいいところに感動してる風なことを言い始めたりすると閉口するが、人間はそういう感動をしばしば読み手を操作するために使うのであり、「何をどうしたい」という意図が特にないAIが「よくあるパターン」だけコピーして使うからへんてこな猿真似になるのである。
文章とは対話である
そもそもの話、なぜ意図が不明だと奇妙な感じを生むのか。「言いたいことがわからない」文章は、「言いたいことがわからない」だけで、情報はたくさん含んでいる場合が割とよくある。で、情報の共有が目的だとわかっていれば、その情報だけで十分満足したはずである。しかし目的が曖昧だと、その情報を使って読み手をどうしたいのかがわからず、「で？」という気持ちを生ずる。初めて知った新鮮な情報がそこにあったとしてもである。
文章を読むということは、前提として書き手との対話である。そうであることを期待して読むものが文章であろう。最近の記事（書けるとはどういうことか）で確認したように、まとまった思想・感情がそこにあるのが文章であって、そうでないものを文章と思って読むと困惑させられる。
すなわち文章と思って読まなければ困惑はしない。まとまりを放棄した、あるいは読み手に対するメッセージを欠いた「文の集合体」と思えば、「言いたいこと」を探す必要はなく、散らばっている情報をただ啄んでいけばよいのである。例えばWikipediaの文に「言いたいこと」を求める人はあまりいないだろう。
逆に言うと、レトリック風の記述があるせいで文章風になることが問題とも言える。わかりやすいようにという工夫、感情の半端な代弁、重要らしいところの強調といったことが、読み手を導いている感じをもたらしてしまうがために、文章として読まされて混乱するのだ。
生成AI製の文章に満足し得るか
では生成AIが全く遜色ない美しい文章を書くようになったとして、それで私たちは満足するのだろうか？ これには先ほど述べた「文章を読むということは書き手との対話である」ということが関わる。
まずその文章が、「書かせた人が書きたかったこと」を実現するものであるかどうか。もしそうならば、文章自体はAIが作ったものだとしても、それを読むことで「書かせた人」との対話が成り立つことになる。そうでないなら私たちの対話相手は生成AIそのものということになる。生成AIと対話をしたいならば満足するし、別に生成AIと対話などしたくないならば満足はしない。読み手の生成AI観によって分かれるだろう。
問題は「書かせた人が書きたかったこと」を実現しているかどうかを読み手は判定できないことだ、と思われるかもしれない。AIが十分に美しい文章を書き始めたら確かにわからない。「書かせた人」との対話のつもりで、実は生成AIと対話していることになるかもしれない。でもそれはゴーストライターと似たようなもので、「書かせた人」個人に余程強い関心がない限り（例えばその人物を研究している人とか熱狂的なファンとか）、正直些末な問題に思える。重要なのは自分の中に反応が起こることが期待できるかどうかであり、そもそも誰か特定の人の文章を熱心に読むのはそれが自分にとって刺激的だからであろう。その人の名前を追っていれば自分の人生が豊かになるという期待ゆえであり、本当にその人そのものがそれをもたらしているかということは、実はこれまでだって確認する術はなかったのだし、それほど重要ではないと思う。
この点から言って、生成AI臭の抜けない気持ち悪い文章を出してしまう場合に書き手（書かせた人）にとって損なのは、そんな文章を読んでその人と対話を深めたいと感じる人はまずいないということだ。
自分の名前で出した文章に含まれる言葉が、読み手との間に反応を生じるということがない。実りある対話が期待ができないのだから、次以降は読まないという選択をされる。「情報がたくさん含まれている感」でいいねの数などは稼げるかもしれないが、胸を打つ名文と評価されることはないだろう。
書き手との対話はなぜ必要か
書き手との対話というのは、実際には一方通行だから比喩に過ぎないが、書き手が自分に語りかけてきているかのように読み、それに応答するように自分が何かを「思う」ということをする営みだと言える。
文章を読みたい人は書き手との対話を求めている人であろう。そうでなければ時間と認知資源を使って文章を読む意味がない。特に昨今は、普遍的な情報を得るだけならもはや生成AIに調査してもらえばよく、日常生活で「書き手がいる文章」を読む必要は減りつつある。
前項で書いたように、読んで自分の中に反応が起こることが重要である。情報の共有がメインの文章であったとしても、単に情報を得たというだけでなく、情報の見方や情報にまつわるエピソードなども含めて受け取ることでその文章ならではの反応が起こる。反応というのはつまりある種の変化である。読む前には自分になかった何かが自分の中に生まれている。それはごく些細なものもあるし、明確に人生が変わった感じを覚えるほどの衝撃をもたらすものもある。
で、書き手との対話を求めている人というのは、そのような反応を渇望している人と言っていいだろう。刺激がほしいのである。新たな何かを得たい。誰かの何かに感心したい。知らない世界を疑似体験したい。文章はそれをもたらす手段のひとつに過ぎないが、文章ならではの豊かさもあるのであって、文章という手段を選択する人は少なくないわけである。
だから、自分がいま読んでいる文章が、対話が成り立ち刺激をもたらすものであってほしい。そうして読むたびに自分の世界が豊かになってほしい。そうならない文章には徒労感を覚えずにいられない。
そして属人性の乏しい文章は、それが人間の手によるものであっても、自分の想像の範疇から外れず、あるいは具体性の迫力を伴わず、大した刺激をもたらさない。ゆえに人の実感が鮮やかに感じられる文章を求めるのである。
人間製の対話不能な文章
生成AI製の文章の不気味さの話をしてきたが、逆に生成AIなどなかった頃の人間の手による文章にも「生成AI的な」文章はしばしば見られたように思う。一文一文の強弱が不明で、いったい何が言いたいのかわからず対話が成り立たないような文章である。
今そのような文章を読んでも必ずしも「生成AIっぽい」とは思わないが、その理由にはだいたい以下のパターンがあるだろう。
- レトリックがAIほどもない（生成AIは中途半端にレトリック風の表現を用いる）
- 絶対的に情報が足りない（AIならばもっとちゃんと余計なくらいに補完して書くであろう）
- 文章全体の意図が不明でも部分的には意図らしきものを感じる（本人としてはレトリックを用いているがそれが成立していない）
生成AIが不完全で奇妙な文体を作り上げたことにより、今関心は「生成AIか、人間か」という二項に向けられがちである。しかし人間が書く奇妙な文体も無限に存在する。
ただ、人間製の対話困難な文は生成AIによって消滅していくのかもしれないと思う。生成AIがあろうが関係なくわざわざ自分の手で書こうとしている人というのは、多くの場合はレトリックの重要性に自覚的であると思われる。「レトリック」という概念に馴染みがないとしても「メッセージを伝えるためには自分なりの言い方が必要のはずだ」という思いがある。そこに重要性を見つけられず「読める形になっていればいいんでしょ」という判断をするならば生成AIの方が簡単であり、そちらを選択するほうが合理的ということになる。逆に巧妙なレトリックの構築のためにこそAIを使うという人もいるだろうが、そういう人は自分で書いても巧妙な文章を書けるタイプであろう。
長期的には以下のように分かれていくのかもしれない。
①レトリックのために自分で書いた文章
②レトリックのために生成AIを巧みに用いた文章
③レトリックがわからないので生成AIで適当に生成した文章
④レトリックがわからないが生成AIもわからないので自分で書いた文章
圧倒的に多くなるのが③だろう。①と②はどちらが多数派になるのかわからないが、①は美学頼りに思え、生成AIを使った方が賢く合理的であるとなれば、②の方が優勢かもしれない。④については、自分で書こうという思いを抱くこと自体が以前ほど流行らないから文章としては相対的に減っていく気がするが、SNSや各種のコメント欄には残り続けるだろう（ただしそれらのほとんどは「文章」とみなすに必要な要件を満たさないと思う）。
いずれは生成AIの側がレトリックを理解し、先手を打ってユーザーの意図を確認することで、その人の言いたいことを的確に代弁した全く違和感のない文章を作り始めるのではないか。しかしそれはそれで、完璧過ぎて人間味は薄れていくと思われる。ただしその「人間味の薄れ」というものを人間の側が感じ取れるかどうかはわからない。現状の不自然に不完全な文章でも違和感を覚えないとすれば、「完璧過ぎる」ということに意識が向くとも思えない。
そうなると、そのうち「人間による文章」というのはこだわりの強い一部の人が「不完全の美」的な美意識で扱うものになっていくのかもしれない。生成AI製の文章に対し読んだ時の不快感が問題になるのはおそらく今だけの話なのだろう。
今回の記事はこちらのPodcastを聞いて連想して書いたものである。