生成AIのセキュリティリスクは、入力した情報の漏えい、誤情報、権利侵害、なりすまし、無断利用、権限、責任の所在の7点で確かめます。情報漏えいの対策だけを決めて導入すると、残りが手つかずになります。
今日やることは、下の表の右の列を社長の言葉で答えてみることです。答えられない行が、導入前に決める項目です。
| リスク |
社長が答える問い |
| 入力情報の漏えい |
入れてはいけない情報を、どのサービスについて決めたか |
| 誤情報 |
AIの出力を社外に出す前に、誰が確かめるか |
| 権利侵害 |
文章や画像を公開する前に、誰が確かめるか |
| なりすまし |
社長名の送金指示を、どの手順で確かめるか |
| 無断利用 |
社員が今どのAIを使っているか、把握する方法はあるか |
| 接続時の権限 |
AIにメールや基幹システムを触らせる場合、誰が許可するか |
| 責任の所在 |
問題が起きた時、誰が判断して止めるか |
この記事は公開情報を整理したもので、私たちが各製品を検証したものではありません。AIの守り全体はAIセキュリティのカテゴリから見られます。
なぜ今、社長が見る話なのか
IPAの情報セキュリティ10大脅威 2026では、「AIの利用をめぐるサイバーリスク」が組織編の3位に初めて入りました。1位はランサム攻撃、2位はサプライチェーンや委託先を狙った攻撃です。
IPAは想定されるリスクとして、次のものを挙げています。AIへの理解不足による情報漏えいや権利侵害、結果を検証せず鵜呑みにすることで起きる問題、AIの悪用による攻撃の容易化や手口の巧妙化です。技術の問題だけでなく、社内の使い方の問題が多く含まれます。だから情シス任せでは決まりません。
1. 入力した情報はどこへ行くか
サービスとプランで扱いが違います。OpenAIのデータ管理の説明によると、ChatGPTの個人向けプランでは会話が学習に使われる設定が初期状態で有効です。Business、Enterpriseなどの法人向けでは、初期状態で学習に使わないとしています。
個人情報を入れる場合は別の確認も要ります。個人情報保護委員会は2023年6月の注意喚起で、事業者に対し、利用目的の範囲内かの確認を求めました。本人の同意なく個人データを含むプロンプトを入れるなら、入力データが機械学習に使われないことなどを十分確かめるよう求めています。
業務の秘密については、経済産業省の秘密情報の保護ハンドブックが2024年2月に改訂され、生成AIの利活用の広がりも改訂の中心の一つになりました。図面と写真の判断は製造業の入力基準の記事で詳しく扱います。
2. 誤った答えをそのまま使わないか
AI事業者ガイドラインの最新版である第1.2版は、自動化バイアスにも触れています。自動化された仕組みへの過度の信頼や依存のことで、AIの出力を人が鵜呑みにしない対策が要ると示しています。
会社で問題になるのは、誤りが社外へ出る場面です。たとえば、英語の仕様書をAIで訳した資料を、確認しないまま客先へ渡す場合を考えます。単位、公差、材質の記号が一つ違えば、セキュリティ事故ではなく品質の問題として返ってきます。
決めることは、用途ごとの最終確認者です。社内の下書きは本人、社外文書は上長、仕様や契約は該当部門のように、出口に応じて分けます。
3. 他人の権利を侵害しないか
文化庁のAIと著作権に関する考え方について（2024年3月）は、生成物についても、既存の著作物との類似性と依拠性が認められれば著作権侵害となり得ると整理しています。AIが作ったことで判断の枠組みが変わるわけではありません。
カタログ、広告、Webサイト、展示会のパネルなど、公開するものが主な確認の対象です。画像なら、特定の作品や他社の製品に似ていないかを、公開前に人の目で確かめます。迷うものは使わず、作り直します。
4. 社長や取引先のなりすましに備えているか
AIは攻撃する側も使います。IPAが手口の巧妙化を挙げているのは、このためです。
今すでに被害が出ているのが、警察庁の呼ぶニセ社長詐欺です。経営者をかたるメールでSNSグループの作成を指示し、口座残高を聞き出したうえで送金させます。2026年上半期の暫定値では、認知件数127件、被害額38.8億円、既遂1件あたり3,130.7万円、28都道府県で確認されています。
この統計は、AIが使われた件数を示すものではありません。ただ、自然な文面や本物らしい声が作りやすくなるほど、文面の不自然さに頼る見抜き方は当てにしにくくなります。
対策の中心は技術より手順です。警察庁も、社内での情報共有と、送金ルールの再確認を求めています。社長自身が「私からの急な送金指示でも、決まった手順で確かめてください」と社内に伝えておくと、経理は確認しやすくなります。
5. 社員が何を使っているか見えているか
会社が認めていないAIを社員が個人のアカウントで使っていると、1から4の決めごとは届きません。全面禁止は、この状態を見えにくくする面があります。
順番としては、まず使ってよいサービスを1つ決め、法人プランや設定を会社でそろえます。そのうえで、入力の制御が必要ならDLP（情報漏えい対策）の比較を見ます。生成AIへの入力を扱えるかどうかは製品で違うので、比較表の項目で確かめます。
6. AIを社内の仕組みにつなぐ時、誰が許可するか
チャットで使うだけなら、リスクは入力と出力に集まります。メール、ファイル、基幹システムにつなぐと、話が変わります。AIが読む外部の文章に仕込まれた指示で動きを変えられる、プロンプトインジェクションの影響が大きくなるからです。
ここは社長が細部まで決める必要はありません。「つなぐ前に申請し、情シス担当と部門長が確認する」という関所を作ります。確認の中身はプロンプトインジェクション対策の7項目と、AIエージェントに権限を渡す前に決める5つの事にまとめました。
7. 問題が起きた時、誰が決めるか
AI事業者ガイドラインは、自身を非拘束のソフトローと位置づけています。拘束力がないという話で終えず、自社で決める範囲が広いと読むほうが実態に合います。個人情報保護法や著作権法など、既存の法律は当然に関係します。
書いておくのは次の4つで足ります。
- AI利用の責任者（兼任でよい）
- 誤った入力や出力に気づいた人の連絡先
- サービスの利用を止める判断をする人
- ルールを見直す時期（AIのサービスは仕様がよく変わるので、半年に1回など）
専任の担当者がいない会社で、この設計を自社だけで進めにくいなら、外部の支援を使う手もあります。セキュリティコンサルの比較で、AI利用のルール作りが支援の範囲に入るかを問い合わせる前に見ておきます。
全部そろえてから始める必要はあるか
ありません。導入前に決めるのは、使ってよいサービス、入れてはいけない情報、社外に出す前の確認者、なりすましの手順、責任者の5つで足ります。この5つは1回の打ち合わせで決められる量です。無断利用の把握と、接続時の許可の手順は、使い方が広がるのに合わせて足していきます。
