対話型AIを使う際のリスク
機密情報・個人情報の漏洩
ChatGPTやBing chatなどの対話型AIを使う際の最大のリスクは機密情報・個人情報の漏洩です。
対話型AIは、そのインターフェイスから「閉鎖された空間でのAIとユーザーの会話」と感じますが、実際にはAIが動作しているサーバーと通信をして会話を成立しており、会話情報は運営会社側で保持しています。
会話情報を運営側がどう保持するのか、どう使うのかは不明ですが、ChatGPTを運営しているOpenAIは、「ChatGPTや他のサービスに投稿されたデータは、AIモデルの改良のために利用することがある」としています。
つまり、例えば誤って機密情報を入力したところ、AIがその入力内容を学習して、他のユーザーへの回答に使ってしまう可能性があるのです。
誤情報を使ってしまうリスク
ChatGPTやBing chatは非常に高度な対話型AIですが、必ずしも正しい回答をするわけではありません。
対話型AIが正しい情報を回答しない原因は、ChatGPTのGPT-3.5なら2021年時点の学習データから回答しているからというのも一つですが、現在の対話型AIは、回答の正しさよりも「会話を成立させる」という点を重要視して回答している点は知っておくべきでしょう。
回答がスムーズで人間に近く、なんでも回答してくれるため「なんでも知っているスーパーAI」のように感じてしまいますが、実は「”それらしい”会話(回答)をする」というのが現状の機能で、その情報が正しいかどうかの判断は出来ません。
例えば、正しい回答に対して「間違っているよ」と入力し続けると、正しい回答をしていたのにも関わらず間違った回答をすることもあります。
AIサービスは非倫理的な質問、命や結構に関わる質問については回答しないようにチューニングされていますが、それでも誤情報を元に行動した結果、自身の想定しないリスクを負う可能性があります。
そのため、正確性が重要となるデータのソースとして対話型AIを使う際には、十分に注意と専門書や専門家への確認が必要です。
著作権法違反のリスク
対話型AIはインターネット上で公開されている情報を元に学習をしていますが、その中には著作権で保護されている情報も含まれます。
例えば、ChatGPTはある程度のプログラムを記述することが可能ですが、そのプログラムのソースがどこで取得したもので、誰が著作権を持っているものをソースに回答しているかは不明です。そのため、ChatGPTが回答したプログラムソースを公開したところ、どこかのオープンソースではないコードを使っていて、著作権違反になってしまったという可能性はあります。
同様に、歌詞や文章などを作成させる場合も、それが誰かの著作物のコピーである可能性は0ではありません。
自身の文章やプログラムを「要約させる」「テストさせる」など、自分のものを使う場合は問題ないですが、楽だからと言って安易にChatGPTなどに何かを作成させることは、リスクがあると理解しておきましょう。
リスク回避の方法
機密情報・個人情報を扱う人間には使用させない
現状では、ChatGPTやBing chatなどのサービスが運営している対話型AIを使う際に、機密情報・個人情報を守る方法はありません。そのため、現状では「機密情報・個人情報を扱う人間には使用させない」というのが最大のリスク回避策です。
Samusungの従業員が機密情報を含んだコードの修正をChatGPTにさせたというニュースが話題になりましたが、こうした事例が出てきていることから、すでに企業によっては、自社のネットワークからChatGPTなどにアクセスを禁止する(遮断する)という対策を取っているケースもあります。
ChatGPTやBing chatの登場以来、スタンドアローンで動作する対話型AIの開発も進んでいるため、そうしたスタンドアローン型の対話型AIを自社のクローズドな環境で利用するというものリスク回避の一つです。
正しい使い方を身につける
ChatGPTやBing chatなどの対話型AIは、自由度の高さと完成度の高さから、なんでも出来るように感じてしまいますが、必ずしも正しくもなく、完璧なAIでもありません。
ただし、きちんと使い方を学べばユーザーをサポートしてくれる有用なツールであることは間違いありませんので、まずは正しい使い方を身につけるのがリスク回避につながります。
そのためにも、ビジネスなどで対話型AIを使う場合はガイドラインや講習会を実施するのも一つでしょう。なんにせよ、いきなり自由に対話型AIをビジネスの場に導入するのは、現状ではリスクが高いということは知っておくべきです。
タグ
新着記事
- No Image障害?ChatGPTなどOpenAI社のサービスのステータスを確認する方法
ChatGPTなどOpenAI社のサービスで何か不具合があった時に、障害が発生しているのか、サービスのステータスを確認する方法と、自動で知ることができる便利な方法を解説します。
- No Image対話型AIのプロンプトを作る時は「プログラミング的思考」を取り入れると良い理由
対話型AIの回答を最適化するプロンプト。プロンプトを作る際には、「プログラミング的思考」を取り入れると良い理由を解説します。
- No ImageAIで生成したコンテンツの著作権はどうなる?
簡単にコンテンツを生成することが出来るAIサービス。便利に使う一方で、AIで生成したコンテンツの著作権はどうなるのかを知っておく必要もあります。
- No Imageこれだけは覚えておきたいAIの仕組み
難しい単語や複雑な仕組みが登場するAI。今回は、AI初心者でも理解できるように、最低限これだけは覚えておきたいAIの仕組みについて解説します。
- No Image主なジェネレーティブAIのバックエンド技術の種類と活用方法
ジェネレーティブAIには様々な種類があり、それぞれバックエンド技術の違いによって特徴や活用方法が異なります。ここでは簡単にジェネレーティブAIのバックエンド技術を解説します。
- No ImageChatGPTで文章校正・間違いチェックをする方法とメリット・デメリット
文章校正は非常に時間がかかるで作業ですが、ChatGPTに依頼することでストレスと時間、何よりもコストを大幅に削減することが出来ます。
- No Image対話型AIを使う上で意識したい「GPTのトークン長」とは何か?
何も考えずに優れた回答をしてくれる対話型AIですが、実は「GPTのトークン長」が回答の精度に大きく影響します。GPTのトークン長とは何か?使う上で意識したいポイントを解説します。
- No Image対話型AIを使う上で知っておくべきこと、心構え
簡単で便利な対話型AI。しかし、何も知らずに使っていると思わぬリスクを負う可能性もあります。今回は、対話型AIを使う上で知っておくべきことや心構えについて解説します。
- No Image対話型AIに英語で質問するメリット・デメリット
対話型AIには「なぜ英語で質問する良い」と言われるのか、逆に英語で質問することのデメリットは何なのか、バックグランドや実際の作業をベースに解説します。
- No ImageChatGPT & Bing Chatで使える万能フレーズまとめ
ChatGPTやBing Chatを使っているとうまく回答を引き出せないことがあります。そんな時に簡単に使える万能フレーズをまとめました。