AIセキュリティとは、AIに入れる情報、AIそのものを狙う攻撃、AIを使った攻撃の3つに備えることです。IPAの情報セキュリティ10大脅威 2026では「AIの利用をめぐるサイバーリスク」が組織編の3位に初めて選ばれました。
何から手を付けるか
AIを自社で開発していない会社なら、順番は次のとおりです。
- 社員が今どのAIを、何に使っているかを聞く
- 会社として使ってよい道具を決める
- 入れてよい情報と、入れてはいけない情報を表にする
- 生成された内容を確かめる責任が、使った人にあると決める
- AIを社内のデータやシステムにつなぐときは、別に確認する
3つのリスクを分ける
話が混ざりやすいので、最初に分けておきます。
| 対象 |
起きること |
主に関わる人 |
| AIに入れる情報 |
持ち出しが禁じられた情報を外部のAIへ入力する |
全社員 |
| AIを狙う攻撃 |
不正な指示でAIに想定外の動きをさせる |
AIを業務の仕組みにつなぐ担当 |
| AIを使った攻撃 |
自然な文面の詐欺メール、攻撃の準備の省力化 |
全社員と情報システム担当 |
中小企業の多くでは、1行目と3行目が先に関わってきます。2行目は、社内の文書を読ませるチャットボットや、メールを要約するAIを導入する段階で考えます。
シャドーAIは、禁止だけでは減らない
シャドーAIとは、会社が許可していないAIを社員が業務に使うことです。IPAの10大脅威の解説書は、職場でAIサービスが用意されていないと、従業員が個人的に使っているものを業務に使うことがあると説明しています。問題は持ち出しが禁じられた情報の入力に加えて、個人アカウントの中身を会社が把握できないことです。
同じ解説書は、経営者層の対策として利用規定の整備、個人アカウントでの業務利用の制限、規程に違反したときの対応を挙げています。製造業なら、次のような線引きから始められます。
- 入れてよい：公開済みのカタログ、自分で書いた一般的な文章
- 確認してから：社内の手順書、仕入れ先の名前が入る資料
- 入れない：取引先から預かった図面、顧客の個人情報、未公開の価格
ルールは1枚で足ります。社員に聞かれて答えられることが基準です。利用状況を見える形にしたい段階になってから、CASBやDLPを検討します。
プロンプトインジェクションをどう考えるか
AIが読む文書やWebページに指示が紛れていると、AIがそれを実行してしまうことがあります。これが間接プロンプトインジェクションです。IPAの解説書は、AI側で完璧に見分ける方法は知られていないとしています。また2025年に報じられた業務用AIの脆弱性の例にも触れています。
つまり、見分けることに頼らず、騙されても被害が小さい設計にします。AIに渡す権限を読むだけに絞る、メール送信やファイルの削除は人が承認する、AIの操作の記録を残す。導入前にこの3点を確かめれば、かなり整理できます。
基本は変わらない
解説書のコラムは、報告された攻撃の大部分は従来型の攻撃がAIで半自動化・高速化されたものに留まり、従来の対策が有効だとしています。AIだけ特別な対策を探す前に、サイバー攻撃の基本を固めます。
AIが攻撃に使われることへの備え
警察庁の令和8年上半期の報告は、AI技術の発達によって文章が自然になり、見抜きにくいフィッシングが増えていると述べています。不自然な日本語で見分ける教え方は、もう通じにくくなりました。
文面での見分けに頼らず、社員向けセキュリティ教育では「振込先の変更はメール以外で確かめる」「リンクから開かず公式サイトから入る」のような手順を教えます。詳しくはメールセキュリティに書きました。
回答の誤りも、会社のリスクになる
情報の漏えいだけがリスクではありません。AIは実在しない情報を、事実のように示すことがあります。これがハルシネーションです。IPAの解説書は、2025年1月に米国の裁判所で、生成AIで作った資料に実在しない判例が含まれていたと判明した例を挙げています。
見積もりの根拠、製品の仕様、法令の説明をAIに書かせたら、元の資料と照らして確かめます。誰が確かめたかを残す決まりにしておけば、社外に出す前の止めどころになります。
参照できる公的な資料
ルールを作るときの土台には、総務省が掲載しているAI事業者ガイドラインがあります。AIを業務の仕組みに組み込む段階では、AIセーフティ・インスティテュートの評価観点ガイド（2026年7月7日に第1.20版）も参考になります。
なお、私たちはこの領域の製品を比べて試したわけではありません。AIセキュリティ製品の違いは、メーカー図鑑で公式情報をもとに整理しています。全体の中での位置づけはセキュリティ対策の全体像をご覧ください。
