ChatGPT(チャットGPT)の問題点とは?AIが仕事に与える弊害などを解説

2023.08.25

2023.12.18

DXのあるべき姿を考える

ChatGPT(チャットGPT)の問題点とは?AIが仕事に与える弊害などを解説

ChatGPTとは?

ChatGPTは、OpenAIが開発したGPTアーキテクチャ(Generative Pre-trained Transformer)を基にした言語モデルです。ChatGPTを利用することで、ユーザーとのテキストベースの会話や質問応答が可能です。大量のテキストデータで前もって学習しており、その結果として様々な質問に対して、人と会話しているかのような文章を生成してユーザーに回答することができます。

ChatGPTの問題点とは?

ChatGPTの問題点とは?
ChatGPTには、いくつかの問題点や制約が存在します。

同じ質問でも回答内容が異なる場合がある

ChatGPTはデータベースや固定された情報源に基づいて回答しているわけではなく、質問に対してその場で回答を生成しているため、同じ質問でも前後の会話の状況や文脈によって、異なる回答をすることがあります。

誤った情報の提供

学習データに含まれている内容が誤っている場合、間違った回答をすることがあります。

不適切な回答の生成

人の感情を理解することはできないので、ChatGPTと会話している中でユーザーが不快に思う回答を生成することがあります。

過度な冗長性や条件の指定

ユーザーが簡潔な回答を求めても、ChatGPTは多くの情報を提供する傾向があり、必要以上に長い答えを返すことがよくあります。また、細かい条件を指定することができません。例えば作成する文章に文字数を制限することは可能ですが、生成された文章は指定の文字数ピッタリになることはありません。制限した文字数に近い形で生成されます。

テキストの制約

一度に保持できるテキストの長さには限界があり、長い対話内容を全て把握したうえで回答することができません。したがって、過去の会話を忘れて、ユーザーが求めている回答とは別の回答を生成する場合があります。また、ユーザーが送信できるテキストにも制限があるため、長文を1度に送るとエラーが発生してしまいます。文章が長くなる場合は細かく文脈を区切って送信するようにしましょう。

マイナーな知識に弱い

学習データが無く、特定の分野のマイナーな内容に関する回答は不正確であることが多いです。また、概要だけ知っている情報から、内容を予想して、あたかも知っているかのような文章を作成する場合があります。そのため、ChatGPTが回答した内容を鵜呑みにせず、情報が正確か調べるようにしましょう。

セキュリティの懸念

ユーザーがChatGPTに個人情報を入力する際は注意が必要です。OpenAIの公式規約としては、ユーザーの個人情報を保存しないことが定められています。しかし、ChatGPTのAPIを利用してサービスを提供する第三者のAIサービスプロバイダによっては、その取り扱いが異なる場合があります。第三者サービスを利用する際には、そのサービスプロバイダのプライバシーポリシーや利用規約をよく確認し、安全な情報共有を心掛けるようにしてください。


 

\DX推進に役立つ資料を無料でDL/
DX関連資料ダウンロード

ChatGPTを活用するリスク

ChatGPTを活用するリスク
ChatGPTの活用には多くのメリットがありますが、同時にいくつかのリスクも伴います。ここではChatGPTを活用する際のリスクを詳しく解説していきます。

誤情報の拡散

ChatGPTは過去のデータに基づいて回答を生成します。そのため、最新の情報や変更された事実については正確に回答しない場合があり、ユーザーがChatGPTの回答を確認せずに第三者に伝えたり、公的な場で使用すると、誤解や混乱を引き起こす可能性があります。

機密情報の取り扱いに関するリスク

ChatGPTに機密情報を入力することによって、情報が悪用されるリスクが発生します。例えば、公共の場所で機密情報を入力すると、公共のWi-Fiを通じて第三者による傍受やデータの盗取が発生することがあります。また、ChatGPT自体はユーザーの情報を保存しない規約ですが、ユーザーのデバイスやブラウザのキャッシュに一時的にデータが残ることがあります。これにより、もしユーザーのデバイスが紛失、盗難に遭った場合、不正な手段で情報がアクセスされるリスクがあります。

ビジネス上のリスク

企業がChatGPTを顧客対応やFAQの自動生成などのビジネスツールとして使用する場合、不正確または不適切な回答は、顧客満足度や企業イメージの低下を引き起こす可能性があります。ChatGPTの回答は必ずしも正確ではない為、注意が必要です。

過度な依存による判断ミス

過度にChatGPTに頼ることで、自分での情報収集や判断能力が低下する恐れがあります。ChatGPTの回答を鵜呑みにしてしまうと、誤った情報や先入観に基づく情報を受け入れてしまうリスクが高まります。実際に海外では裁判官がChatGPTから過去の判例を聞いて、それを元に判決を出した結果、ChatGPTの過去の判例内容が嘘だったというケースが発生しています。単純な作業であればChatGPTを使って効率化を図れますが、大切な場面では自分で判断するようにしましょう。

ChatGPTのメリットとデメリットは何ですか?

ChatGPTのメリットとデメリットは何ですか?
ここではChatGPTのメリットとデメリットを紹介します。

メリット

ChatGPTの学習データは膨大で、歴史、科学、文学、技術といった様々なジャンルの知識を持っています。そのため、日常の些細な疑問から専門的な質問まで、幅広い範囲の内容に対応しています。アカウントを作成すれば誰でも無料で使用できるメリットがあり、コストを気にする必要がありません。さらに、教育からビジネスまで、ChatGPTは様々な分野での応用が可能です。例えば、教育の場では教材として、ビジネスの場ではFAQの自動生成ツールとして使用することができます。これから先、ChatGPTは継続的にアップデートされているため、時間が経つにつれて、さらに精度の高い情報提供が期待できると言えます。
 
Chatgptでビジネス活用方法を知りたい方はこちら

デメリット

ChatGPTの欠点として、提供している情報が常に最新であるとは限らないことが挙げられます。ChatGPTは過去のデータに基づいて回答を生成するため、最新の出来事や変更された情報に関しては正確に答えることが難しい場合があります。次に、ChatGPTの情報は学習データの偏りが反映されることがあります。これにより、間違った情報を提供する可能性があります。また、ChatGPTは文字しか認識しないため、画像や音声の内容を直接解析することはできません。

ChatGPTに仕事が奪われるのか?

ChatGPTに仕事が奪われるのか?
ChatGPTが普及していく中で、どのような職種や仕事内容が影響されやすいのか、そしてChatGPTによって代替されない仕事について解説します。

仕事が奪われる職種と内容

ChatGPTに仕事が奪われる可能性がある職種はカスタマーサポートです。顧客からの問い合わせの多くは、業務マニュアルに沿って回答することができます。つまり、業務マニュアルの内容をChatGPTに覚えさせて、人の代わりに回答させることで、自動応答することが可能です。その結果、カスタマーサポートのスタッフは他の業務に対応する時間が増え、人件費を削減することができます。
 
次に、データの入力の仕事も奪われる可能性が高いです。大量のデータを取り扱う場面では、人間が行うには時間がかかり、ミスのリスクも高まります。ChatGPTを導入することによって、データ入力の仕事を高速かつ正確に実行することができるため、業務の効率化やミスの削減が可能です。また、翻訳もChatGPTの得意とする分野です。英語、中国語、韓国語などあらゆる言語に対応しています。
 
ChatGPTで業務効率化をする方法を知りたい方はこちら

奪われない仕事は?

一見するとChatGPTは万能にも思えますが、人間のように相手の心理を理解した上で言葉を選ぶことはできません。そのため、一部の仕事は奪われることはありません。例えば、カウンセリングの仕事は相手の心理を理解した上で、適切なアドバイスやサポートを提供する必要があります。また、医療の現場における医師の役割も、ChatGPTでは能力不足と言えます。患者の症状を診断し、治療法を提案するためには、症状だけでなく、患者の体調や過去の健康履歴、生活習慣を総合的に考慮する必要があります。このような複雑な判断を下すことは、ChatGPTには難しいです。

この記事の監修者:杉森由政

この記事の監修者:杉森由政

2018年2月Fabeee株式会社CTOに就任。現在は、新規事業開発部門の責任者を務めるともに、AIやブロックチェーンなどの先端技術を用いた研究開発も担当。また広島大学との連携研究においては、生体データを解析する人工知能および解析アルゴリズムの研究開発にも携わるなど、多岐に渡り活躍をしている。
>>プロフィール情報