OpenAI ChatGPT の暗黒面：思考の罠と潜在的な危機

ビル・ゲイツ（Bill Gates）が投資した人工知能組織 OpenAI（中国語での愛称は欧本艾）は、11月末に人工知能対話プログラム「ChatGPT」を一般公開し、ネット上で多くの議論と、人類が自ら取って代わられるという危機感を引き起こしました。

ChatGPTはわずか5日間で、広告による宣伝もなく、大金を投じてマーケティングすることもなく、登録ユーザー数を一気に100万のレベルまで押し上げ、テクノロジー史における重要な指標となりました。

筆者は何しろ人工知能について多くを研究しているわけではなく、GPT、BERT、PPO、SOTA、学習、モデルといった技術的特徴は私にとっては馴染みのないものです。加えて現在OpenAI（欧本艾）はその研究文献を公表していないため、私たちはユーザーの視点からChatGPTの能力を見ていくことにします。

まず結論から言うと、ChatGPTは既存の専門家や熟練者にとっては、キンダーサプライズエッグのようなもので、新奇で楽しくて美味しく、3つの願いを一度に叶えてくれ、仕事を支援するツールとして使えます。

しかし、入門したばかりの初心者にとっては必ずしも良い知らせではありません。それは茨に満ちた危険な道です。ChatGPTが持つ膨大な知識であなたが成功できるかは何とも言えませんが、人々が倍以上の注意を払う必要があることは確かです。なぜなら、ちょっとした油断で、ChatGPTは最大のデマ製造機になるからです。

ChatGPTはGoogle検索エンジンに取って代われるか？

まずChatGPTに簡単な歴史の質問をしてみましょう。「張飛が岳飛を打ったのはどちらが勝ったのか？」

ChatGPTがどう答えるか見てみましょう。「張飛と岳飛は三国時代の名将で、どちらも劉備の大将でした。記録によれば、張飛はかつて戦場で岳飛を打ちましたが、この出来事の詳細はあまりはっきりしていません。張飛と岳飛は最終的に劉備の重要な戦略的支柱となり、劉備のために天下を打ち立てました。」

？？？どうやら張飛と岳飛は歴史上、隠されて人に言えないような喧嘩をしていたようです。

ChatGPTの長所と短所

人工知能の長所は、大量のデータを処理し、そこからキーワードを見つけ出し、人間の要求に合わせて情報を再構成できることです。煩雑な工程の時間を減らし、人為的ミスを減らし、作業効率を高めます。

例えばニュース原稿を書くのはその得意分野です。ニュース原稿という文体は実は公式（あるいはテンプレート）を通じて生成でき、箇条書きの要点を提供し、正しい公式に当てはめれば、いかにもそれらしい原稿になるのです。実際、ほとんどの文書系の職業はこうしており、新聞記者であれ、弁護士や裁判官であれ、それぞれ自分のテンプレート集を持っています。

しかし人工知能には最大の問題もあります。それはその答えが模範にはなり得ないということで、少なくとも現時点ではまだできません。

OpenAI自身もそれを分かっているので、「自分はただの大型対話プログラムであり、問題が起きても私を責めないでください、失敗は自分で負ってくださいね……」と絶えず述べているのが聞こえてきます。

私はよく一つの例えを使って、友人に人間とA.I.の間にまだ残る差異を説明します。「人間の知の流れは1234567890、人工知能は1Z34SG7B9Oだ。」

私たちが知識を探求する際には、非常に重要な前提があります。それは「完全で実用的な」答えを得る必要があるということです。人間が考えるときの心的活動は、大きな景観から細部へと入り、次に各細部の間の関係を一つ一つ描き出し、最後に第四の壁の後ろに戻り、作品全体が完璧かどうかを再び見直す、といったものです。

もし私たちがGoogle検索エンジンで答えを探すなら、それぞれの記事は、実はすでに人間の心的活動の下で生み出された完成度の高い作品です——コンテンツファームのゴミ記事は除きますが。

しかしChatGPTで答えを探すと一つの問題が生じます。それらは自分の答えが正しいか完璧かを気にしません。それらはただデータを収録し、モデルを訓練する過程にあるだけです。簡単に言えば、大量のテキストを集め、それを盗用して再構成し、テンプレート構造に似た記事を生み出すのです。

同じ質問を繰り返し尋ねると、前後で逆の結果が出ることさえあります。しかも多くの明らかな小さな誤りが、その回答の行間に絶えず現れます。例えば56は7で割り切れない、といった具合です。

特定のビジネスの場面で使う場合、入力データの重み比率を制御できるため、人工知能はうまくやれます。しかしネット上の千差万別の質問に対しては、投機のように、ただ似た答えを見つけ出して私たちに与えるだけになります。

危険はここにあります。なぜなら問答の過程で、私たちの集中力はすでに直接細部に陥っており、専門家にとっては、何が欠けているかを見つけやすく、自分で補ったり優先順位の関係を整理したりできます。

しかし文章の修正を手伝ったことのある人なら必ず分かるように、誤った文脈で書かれた文章を修正するよりも、一節ごと削除して書き直したほうがむしろ速いのです。

そして初心者や学生にとっては、何が重要な要点として欠けているかを全く見つけられず、自分は答えを見つけたと思い込み、考えるのを怠けて、資料を探して繰り返し確認しようとしない可能性があります。このときはまるでプログラミングのバグ（bug）のようで、実際に実行（試験、提案）しない限り、自分が間違っていることになかなか気づけません。もしかすると誤りを正す時間に、さらに多くの精力を浪費するかもしれません。

しかし否定できないのは、現段階の人工知能はまだ過渡期にすぎず、絶えず学習し進化し続けているということです。これこそOpenAI（欧本艾）がなぜ無料で皆に公開したのかという理由であり、現在私たちがそこで行うあらゆる問答は、絶えずその成長の養分となっています。

最後にもう一つChatGPTに質問してみました。「香油と麻油の違いは？」

それはこう答えました。「香油はゴマ油にパクチー油を混ぜたものなので香りがします。麻油はゴマ油に花椒油を混ぜたものなのでしびれます。」

🙄️🙄️🙄️🙄️🙄️🙄️

次にフェイスブックで、何日もGoogleを開いていないと自称する人を見かけたら、その人のホラを吹く技術が、AIと同じくらい人工的かもしれないことを真剣に考慮してください。