生成AIとサイバーセキュリティ — 攻撃面の拡大を踏まえた防衛投資の優先順位付け

生成AIの全社導入が加速する中、サイバー攻撃の手口も生成AIを駆使した新局面に入った。IPAは「情報セキュリティ10大脅威 2026」で「AIの利用をめぐるサイバーリスク」を組織向けに初めてランクインさせ、3位に位置付けた。これは攻撃側の生成AI活用が実害レベルに達したことを公的機関が正式に認めた証左であり、「AI活用＝攻撃面の拡大」という方程式を経営アジェンダに組み込む必要性を示している。生成AIへの投資効果を守り切るためにも、防衛投資の優先順位を今改めて設計し直す必要がある。

攻撃者に生成AIがもたらした最大の変化は、高度なサイバー攻撃の「量産コスト」の劇的な低下だ。IBMのリサーチによれば、説得力のあるフィッシングメールを作成する時間が生成AIの活用により16時間からわずか5分に短縮されたとされる。Proofpointが2024年に公表した「Voice of the CISO」調査では、CISOの54%が生成AIを自社にとって新たなセキュリティリスクをもたらす要因と見なしていると報告した。攻撃の「量」と「質」が同時に向上する環境は、従来の防御モデルの前提を根底から変える。

攻撃手口の変化を具体的に見ると、3つのベクターで脅威が顕在化している。第一は、生成AIで作成した自然な文章によるフィッシングメールを起点とした認証情報窃取だ。従来は不自然な日本語や誤字脱字で見分けがついたが、精度が上がった今、従業員による判別は著しく困難になっている。第二は、経営幹部の音声・映像を模倣したディープフェイクを使ったビジネスメール詐欺（BEC）であり、欧米では経営者の声を模した音声ディープフェイクで不正送金を承認させた事例が複数報告されている。第三は、社内に導入した生成AIシステム自体を標的にしたプロンプトインジェクション攻撃で、エンタープライズAIが新たな攻撃面になっている。

攻撃面の変化を踏まえると、防衛投資は「既存のセキュリティ予算の増額」ではなく、配分の組み替えが出発点になる。当社が現場での実装を経て推奨する優先順位は3段階だ。第一優先は「人的リスクの再設計」であり、生成AIで精巧化したフィッシング・ソーシャルエンジニアリングへの対策として、セキュリティ意識向上トレーニングの内容を現代の手口に合わせて更新することと、メールや承認フロー上での多要素認証の徹底を指す。これは予算を増やすことなく既存リソースの配分変更で対応できるケースが多く、費用対効果が最も高い領域だ。

第二優先は「AIシステム固有の防御」だ。まず社内で稼働している生成AIアプリケーション・APIの一覧を整備し、それぞれのアクセス権限を最小化する。次に、従業員が業務情報を許可されていない外部の生成AIサービスに入力するいわゆる「シャドーAI」のモニタリングと統制ルールを整備する。IBM 2024年レポートによれば、シャドーAIが関与したインシデントでは対応コストが平均を約19万ドル上回るとされており、この統制は投資対効果が明確だ。プロンプトインジェクション攻撃への技術的対策は、AIシステムの導入・調達プロセスにセキュリティ要件として組み込むことが最も効率的な方法になる。

第三優先は「インシデント対応計画の更新」だ。多くの企業のBCPやインシデント対応マニュアルは生成AI時代の攻撃手口を想定して作られていない。ディープフェイクによるなりすまし詐欺の検知・対応フローや、生成AIシステムが侵害された場合の業務停止基準と代替フローを盛り込んだ机上演習を年1回以上実施することを推奨する。世界経済フォーラム（WEF）の「Global Cybersecurity Outlook 2025」では全組織の3分の2がAI・機械学習をサイバーセキュリティへの最大の影響要因と見なしており、この備えはグローバルスタンダードになりつつある。

防衛投資の優先順位付けにあたり、見落とされがちな視点がある。それは「守るべき資産の棚卸し」を先行させることだ。IPAが「情報セキュリティ10大脅威 2025」で1位に挙げるランサムウェア対策も、事業継続上の最重要データと業務システムが特定されていなければ「守る対象のない防衛」になる。生成AI時代に拡大した攻撃面を前にして、予算配分の前に「攻撃されたとき最も困る資産はどれか」を経営判断として明示することが、コスト効率の高いセキュリティ体制の土台になる。

当社は、ヘルスケア経営という患者安全が直結する現場でサイバーリスク対策の設計と検証を重ねてきた。その実装経験から言えるのは、セキュリティの失敗の多くは技術の不足ではなく優先順位の誤りに起因するという事実だ。生成AIという新しい変数が攻撃面を変えた今、経営が防衛投資の優先順位を明示的に決定することが企業の防御力を左右する。生成AI時代のセキュリティリスク評価、防衛投資の優先順位設計、インシデント対応計画の見直しについては、https://fujii-consulting.jp/contact の経営層ブリーフィングでご相談ください。