生成系AIの話題が日に日に拡大しています。チャットGPTのアプリを友人がスマホに入れていたのを、一緒に面白半分で試してみたりはしましたが、私の知識は殆ど入り口にも達していません。報道で知るだけでも、当初は主として著作権問題、教育指導上の問題だったのが、数週間の中に、世界的な安全保障の問題にまで発展していて、あれよあれよという感じですが、原点に近いところで素人の私が慄然としたことを、書き留めておきたいと思います。
バラ色の技術礼賛から恐怖の情報戦争まで、様々に語られる生成系AIですが、その効用について一番納得できた説明は、つまり検索機能の拡大だ、というものでした。これまでに流通した情報を大量に蓄積して、その中から検索された語を確率によって組み合わせ、結合して尤もらしい文章に仕立てる、という原理でしょう。しかし文章というものは、万人が共通して理解できなくてはならないが、今までに在った思考の枠や発想からはみ出していく部分にこそ、意味がある。従来の文章と全く同じなら書く必要はないわけで、前述のような構成法で生み出される文章ばかりで用を足すようになったら、人類の文化は退歩、衰滅に向かうしかなくなるのではないか。
友人がスマホに向かって命じた課題に返ってきた回答は、一見破綻なく優等生的文章に仕上がっていましたが、大事な固有名詞が１つ、誤っていました。すぐ分かるミスは御愛敬で済むが、ひろく普及した時のことが心配です。悪意あるフェイクも見分けられず、誰も責任を取らない情報が氾濫する社会。その中で人間の文章力、思考力は落ちていく。
技術を過信した人類に、神は言語の攪乱という方法で制止をかけました。原子力をプロメーテウスの火と呼ぶなら、GPTはバベルの塔になるのかもしれません。
