セキュリティ対策2025.07.28

ChatGPTは危ない?最新の情報漏洩事例や対策を紹介

テスト

1ChatGPTのリスクとは？
2最新！ChatGPTからの情報漏洩事例
3ChatGPTから情報漏洩が発生する5つの原因
4ChatGPTからの情報漏洩対策
5情報漏洩に対する備えに「ダークウェブアイ」
6まとめ

OpenAI社の提供するChatGPTはテキスト生成AIの一つで、日本国内で最も著名なAIサービスといえるでしょう。チャットボットとして質問に答えてくれるだけでなく、翻訳、プログラミング、類例の表示、アイデアの抽出など幅広い用途で利用が可能です。

しかし、ChatGPTを業務で利用する場合には注意すべき点もあります。その中でも、情報漏洩に関するリスクは重要なポイントです。機密情報や個人情報の漏洩は企業の事業活動に影響を及ぼす可能性もあります。

本記事では、ChatGPTの国内の活用事例とリスク、その中でも情報漏洩についての注意点、事例、対策を紹介します。ChatGPT活用のヒントにして頂ければ幸いです。
⇒ChatGPTのそのほかの危険性も知りたい方はコチラ

セキュリティお役立ち資料をダウンロード

ChatGPTのリスクとは？

様々なシーンで活用が広がっているChatGPTですが、利用にはリスクが伴うことに注意しましょう。以下、ChatGPTの利用によるリスクを4つ紹介します。

不適切な生成結果
他社の権利を侵す可能性
サービスへの依存
情報漏洩の危険性

不適切な生成結果

高性能なAIが生成した内容だからといって、その正確性が保証されているわけではありません。ChatGPTをはじめとする生成AIは、学習データの中から最も確率の高い言葉を組み合わせて文章を作成する仕組みであり、事実に基づかない不正確な回答を生成することも少なくありません。

また、ChatGPTが参照する情報の鮮度は、利用するモデルによって異なります。無料版で主に利用されるGPT 4.1 miniモデルの知識は2024年6月頃までの情報で止まっており（2024年7月現在）、それ以降の出来事については正確に回答できません。ブラウジング機能を使えばより新しい情報にアクセス可能ですが、その場合でも情報の正確性は別途確認する必要があります。

生成された内容をファクトチェックせずにそのまま利用したり情報を拡散したりすると、誤情報を社会に広めてしまうことになり、発信した組織や個人の信頼を大きく損なう危険性があります。

他者の権利を侵す可能性

生成AIは、膨大なデータを学習し、その内容に基づいて新たなコンテンツを生成します。学習データに他者の著作物や個人の肖像などが含まれている場合、AIの生成物が意図せずそれらと酷似し、著作権や肖像権などを侵害してしまう可能性があります。

さらに今後、AIによる生成物がインターネット上にあふれることで、それを別のAIが学習データとして利用する現象が起こり得ます。この現象は、AIの品質低下を招くだけでなく、誰の権利に基づいているのか分からない生成物が連鎖的に生み出され、権利関係を極めて複雑にする恐れがあります。

サービスへの依存

ChatGPTを業務プロセスに深く組み込むと、その業務は特定の外部サービスに強く依存することになります。これは他のITサービスと同様に、提供元の都合によるサービス停止、メンテナンス、あるいは予期せぬ料金改定などが、事業継続に直接的な影響を及ぼすリスクを伴います。

さらに、生成AIサービスには以下のような特有のリスクも存在するため、より慎重な検討が必要です。

API仕様や機能の変更

AIモデルは急速に進化するため、APIの仕様や機能が頻繁に変更・廃止される可能性があり、連携させていた自社システムに予期せぬ改修が必要になることがあります。

出力品質の変動

モデルがアップデートされることで、同じプロンプト（指示文）でも出力の品質や傾向が変わってしまう可能性があります。これにより、安定していた業務プロセスの見直しが急に必要になる場合があります。

利用規約の変更

法規制や社会的な要請の変化に伴い、利用規約が変更され、これまで可能だった用途が制限されるリスクも考えられます。

情報漏洩の危険性

ChatGPTを利用する際、入力したプロンプト（指示文）は、応答を生成するために提供元であるOpenAI社のサーバーへ送信されます。このように、Webサービスである以上、データの送信は避けられません。

ここで注意すべきは、送信したデータの取り扱いです。OpenAI社のポリシーでは、設定を変更しない限り、入力データがAIの品質向上のために使われる可能性があります。またサービス提供者側のセキュリティインシデントや、外部からのサイバー攻撃によって、入力した情報が漏洩・流出するリスクはゼロではありません。

ChatGPTのリスクの詳細を知りたい方は以下をご覧ください。
⇒ChatGPT活用の危険性？利用に潜むリスクと解消法を紹介

ChatGPTから情報漏洩が発生する5つの原因

ChatGPTから情報漏洩が発生する原因となりえる5つのポイントについて説明します。

OpenAIのサーバーから情報が漏洩する可能性
Web通信の過程で情報が漏洩する可能性
ChatGPTに重要情報を伝えてしまう可能性
バグや不具合などの可能性
プロンプトインジェクション攻撃の可能性

OpenAIのサーバーから情報が漏洩する可能性

ChatGPTを提供するOpenAIは、インフラとしてMicrosoft社のクラウドサービス「Azure」を利用していると公表しています。このため、送信されたデータは主に米国内のデータセンターに保管されていると考えられます。

しかし、データの具体的な保管場所や管理体制の全てが公開されているわけではなく、セキュリティが常に万全であるとは限りません。

Web通信の過程で情報が漏洩する可能性

生成AIは、利用者が入力した情報（プロンプト）を学習・処理して、新たな文章やアイデアを生成する技術です。Webサービスとして提供されるChatGPTを利用する際は、必然的にインターネットを介した情報の送受信が発生します。

しかし、どのようなセキュリティ対策を講じても、Web通信における情報漏洩のリスクを100%防ぐことは困難です。このため、「何も信頼せず、常に検証する」というゼロトラストのセキュリティ原則に則り、「情報漏洩は起こり得るもの」として慎重に扱う必要があります。
⇒ゼロトラストについて詳しく知りたい方はコチラ

ChatGPTに重要情報を伝えてしまう可能性

ChatGPTは、入力された会話内容がAIの性能を改善するための学習データとして使われる場合があります。機密情報や個人情報を入力してしまうと、その内容が学習され、将来的に他のユーザーへの回答として出力されてしまう可能性があります。

しかし、手軽さゆえに多くの人が情報漏洩のリスクを十分に理解しないまま利用しているのが現状です。重要な情報を入力すれば、それが外部に流出する可能性があるということを認識し、慎重に活用していくことが重要です。

バグや不具合などの可能性

ChatGPTは、OpenAIが開発した完成度の高いサービスであり、その開発には世界トップクラスのエンジニアが関わっています。

しかし、どのようなソフトウェアにもバグや脆弱性が存在する可能性はあります。もし未知の脆弱性が発見されれば、対策が講じられる前にサイバー攻撃に悪用される「ゼロデイ」の状態となり、情報流出につながるおそれがあります。
⇒ゼロデイ攻撃について詳しく知りたい方はこちら

プロンプトインジェクション攻撃の可能性

プロンプトインジェクションは、生成AIに特殊な指示を与えて意図的な誤作動を誘発し、開発者が設けた制約を回避して非公開情報を不正に引き出す攻撃手法です。

一見すると通常の指示と見分けがつきにくいため検知や防御が難しく、特にユーザーとの対話で応答するチャットボットなどでは、第三者による悪意のあるプロンプト注入で機密情報が意図せず漏洩する恐れがあります。

ChatGPTからの情報漏洩対策

ChatGPTから情報漏洩が発生する原因を踏まえて、以下6つの効果的な情報漏洩対策を紹介します。

ChatGPTに関する正しい認識の周知
明確な利用ルールの策定
履歴Off機能の活用
法人向けプランへの移行
APIの利用
情報漏洩対策ツールの導入

ChatGPTに関する正しい認識の周知

生成AIの利用を組織として推進するにあたり、まず「利用者がAIの仕組みを正しく理解すること」が情報漏洩対策の第一歩となります。

「知らなかった」「意図しなかった」という理由での情報漏洩事故は、利用者のリテラシー教育によって防ぐことが可能です。全社的にAIに関する知識レベルを底上げし、セキュリティリスクをコントロールできる体制を構築することが重要です。

明確な利用ルールの策定

企業や組織として生成AIを安全に利用するためには、明確なガイドライン（利用ルール）を策定し、全従業員に周知徹底することが極めて有効なリスク対策となります。

例えば、「個人情報や顧客情報、社外秘の技術情報などは一切入力しない」という具体的なルールを定めるだけでも、人為的なミスによる情報漏洩の機会を大幅に減らすことができます。

履歴Off機能の活用

ChatGPTでは、過去のやり取りが自動的に「履歴」として保存されます。万が一IDやパスワードが流出してアカウントが乗っ取られた場合、そこに含まれる情報が漏洩する危険性があります。

このリスクへの対策として、ChatGPTには会話の履歴と学習を無効にする設定が用意されています。重要な情報を扱う前にはこの設定をオンにするなど、情報の重要度に応じて適切に機能を使い分けることが推奨されます。

法人向けプランへの移行

従業員一人ひとりの設定に依存するリスク管理には限界があります。より確実な対策として、入力データが学習に利用されないことが契約で保証されている法人向けプラン（例：ChatGPT Enterprise、Microsoft 365 Copilotなど）への移行が推奨されます。

これにより、管理者が組織全体のセキュリティポリシーを一元的に適用でき、従業員の誤操作や設定漏れによる情報漏洩リスクを根本から低減させることが可能になります。

APIの利用

従業員の誤操作や設定漏れによる情報漏洩リスクを根本から低減させるにはAPIの利用も効果的です。OpenAIの利用規約では、APIを通じて送受信されたデータは、サービスの改善やモデルの学習には使用しないと定められています。

これにより、企業は従業員の設定に依存することなく、組織全体として情報が再利用されるリスクを根本的に排除できます。自社システムにAPIを組み込むか、APIを利用した法人向けサービスを導入することで、一貫したセキュリティポリシーの適用が可能となるでしょう。

情報漏洩対策ツールの導入

サイバー攻撃の手法は日々巧妙化・多様化しており、あらゆる「事前対策」を講じても、情報漏洩のリスクを完全にゼロにすることは困難です。

そこで重要となるのが、万が一漏洩が発生した際に、いち早くそれを検知し被害の拡大を食い止める「事後対策」の観点です。情報漏洩監視ツールなどを活用してインシデントを早期に検知し、迅速に対応できる体制を整えておくことが、事業継続における重要な鍵となります。

なお、情報漏洩対策ツールの詳細は以下をご覧ください。
⇒おすすめ情報漏洩対策ツール10選！選定のポイントから成功事例まで

情報漏洩に対する備えに「ダークウェブアイ」

ChatGPTは、OpenAI社が開発した完成度の高いサービスとして広く評価されており、同社には優秀なエンジニアが多数在籍していると考えられます。ただし、どれほど優れたシステムであっても、バグや不具合が完全に存在しないとは言い切れません。もし現在まで発見されていない脆弱性が新たに見つかった場合、一時的にでもゼロデイと呼ばれる危険な状態が生じる可能性があります。

万が一、情報漏洩が発生すれば企業の信用やブランドイメージが低下するため、情報漏洩を素早く察知して、適切な対応を取れる体制構築も進めましょう。情報漏洩監視ツール「ダークウェブアイ」は、会社のドメイン情報を入れるだけで「いつ」「どこから」「どんな情報が」漏れてしまったのか、一瞬で分かります。

自社情報が漏洩していないか不安な方は、まずは自社の漏洩状況を確認してみてはいかがでしょうか？
⇒メールアドレスを入れるだけ！自社の漏洩状況をチェック！

まとめ

ChatGPTによるテキスト生成は、利便性が高く、様々な活用方法が想定できます。事業に取り入れる企業も増えており、今後導入を検討しているケースも多いでしょう。しかしながら、ChatGPTの利用に関してはリスクも存在しています。特に、情報漏洩、情報流出につながる可能性があることは、利用に際して深く認識しておくことが大切です。

SMSデータテックでは生成AIの活用に役立つコンテンツをご用意しています。
ChatGPTを業務にどのように活用できるか詳しく知りたい方、ChatGPTの基本操作を学びたい方、生成AIを活用した業務改善をお考えの方におすすめです。

生成AI活用事例100選
ChatGPT入門講座
ChatGPTセキュリティセミナー動画
セミナータイトル「必聴！10万件のアカウントが漏洩!?ChatGPTの漏洩リスクとは～」
ChatGPT活用セミナー動画
セミナータイトル「教えて、黒石先生！今話題のChatGPT活用術～初級編～」
業務改善コンサルティング
生成AIの落とし穴！？問題点を把握して上手に活用しよう！
生成AIにはどんな種類がある？基本的な原理と主要な種類を解説

資料請求お問い合わせ

← コラム一覧へ戻る

ChatGPTは危ない?最新の情報漏洩事例や対策を紹介