ChatGPT はフェイク ニュースの究極の拡散者ですか?

May 27, 2023

2023 年 8 月 22 日

ChatGPT は 2023 年に世界を席巻しました。これが何であるかは、これまで経験したことがない限り、すでにご存知でしょう。質問に答えたり、設定したタスク (手動のタスクは含まず) を完了したりできる人工知能 (AI) チャットボットです。実際のタスク)。

Commvault SEEMEA のシニア セールス エンジニア、Lourens Sanders 氏による執筆

ほんの数例を挙げると、時間とリソースの節約、コストの削減、革新的なコンテンツの作成などの利点が広く語られています。

潜在的な落とし穴

しかし、ChatGPT が必ずしも 100% 正確であるわけではないという問題がますます明らかになりつつあります。 知らないことを質問されると、たとえそれが間違っていたとしても、チャットボットは自信を持って答えます。また、知識が違うため、ほとんどの消費者はそれを信じる可能性が高くなります。 実際、ChatGPT は、それが間違っていると示唆するユーザーに対して反論し、その答えがなぜ正しいのかを説明します。

これは、ChatGPT が検索エンジンと似ていないために発生します。 検索エンジンはデータベースから情報を収集し、最も人気のある結果をランク付けし、ユーザーが探している答えを見つけられるようにその結果を表示します。

ChatGPT も同様に、データベース内の情報を検索しますが、検索結果を正確にユーザーに伝えるのではなく、結果に基づいて一連の推測を行うことで回答を作成します。 そこに問題が生じる可能性があり、フェイクニュースが生成され始めます。

しかし、フェイクニュースが生成されるリスクを引き起こすのは、ChatGPT による回答の作成だけではありません。 AI チャットボットである ChatGPT には、人間のような推論能力がありません。 事実のニュース記事から意見を特定することはできないため、すべてを額面どおりに受け取ります。 フェイク ニュースはインターネット情報全体の 62% を占めると推定されており、ChatGPT が発見段階で偽の情報を見つけて、それを最終的な答えとしてユーザーに伝える可能性は高くなります。

さらに、そのユーザーベースが記録的な急成長を遂げているため、ユーザーは ChatGPT に同様の質問をし、まったく同じではないにしても同様の回答を得る可能性があります。 その結果、偽情報の複数の複製がオンラインに流出する可能性があります。 何度も繰り返され、述べられているので、それは事実として定着します。

危険なビジネス

ただし、ChatGPT は、マーケティングから製品開発に至るまで、さまざまなビジネス部門にわたって役立ちます。 最新のマーケティング キャンペーンを作成したり、最新の製品を開発したりする際、多くの従業員は Google にインスピレーションを求め、おそらく業界が経験している最新の問題点を尋ねて、問題の解決に専念するでしょう。 ChatGPT は誰でもアクセスできるため、新しいプロジェクトのアイデア生成段階ですぐに役立つツールになりつつあります。

しかし、上で強調したように、ChatGPT が質問に対して不正確な回答を提供し、チームがその質問に基づいて製品全体やキャンペーンを構築するという大きなリスクがあります。 たとえば、ChatGPT は、5 年前の業界の問題が、この業界の現在の問題点の 1 つであることを示唆する可能性があります。

これを事実として、マーケティング チームがこのアイデアに基づいてキャンペーン全体を構築すると、そのビジネスは時代遅れで時代遅れであると考えられ、大きな風評被害が生じる可能性があります。 さらに悪いことに、企業がこの問題点を想定した製品全体を構築しようとすると、顧客が必要としないソリューションに数百万ランドが投資される可能性があります。 これは評判に多大な影響を与えるだけでなく、重大な経済的損失を引き起こす可能性があります。

人間を留めておけ

上記のような間違いは、テクノロジーに加えて少しの専門知識を適用すれば回避できます。 まだ人間を方程式から除外すべきではなく、ChatGPT が提供する情報はすべて、その分野の専門家によってチェックされ、さ​​らに再チェックされる必要があります。

いつか私たちの仕事が完全にロボットに取って代わられるかどうかは誰にもわかりませんが、少なくとも現時点では、人間の専門知識はビジネスにおいて依然として不可欠です。 ChatGPT は、特定のタスクを手伝ったりアイデアを出したりする「AI の同僚」として考えてください。しかし、結局のところ、あなたは自分の仕事の一部を果たさなければなりません。