■AIの時代に即したセキュリティ対策を

2026年5月21日2026年6月11日

■AIの時代に即したセキュリティ対策を
（セキュリティブログ）

みなさま、こんにちは。
攻撃する側もAIを活用し、時にはAI自身が人手を介さず自律的にゼロデイ攻撃などのサイバー攻撃を試行錯誤し目的を遂行する時代は、すぐそこに来ています。
守るべき企業や個人の側も、AIの時代に即したセキュリティ対策をとっていく必要が高まっています。
IPAの情報セキュリティ10大脅威 2026では、組織の脅威の第3位に、AIの利用をめぐるサイバーリスクが初選出されました。
IPAの組織編の解説書でも、脅威と影響、リスク、事例または傾向、対策と対応について整理されています。
ここでは、AIの時代に即したセキュリティ対策を概観してみましょう。

１・組織的なソフトウェアパッチ適用への備え
米国Anthropic(アンソロピック)社はOpenAIの元メンバーによって設立されたAI企業で、同社の開発するAIのClaudeは、コーディングエージェントのClaude Codeがソフトウェア開発の効率を大きく向上させたことから、AIの開発が一気に加速しました。
2026年4月7日、Anthropicは新しいAI「Claude Mythos Preview[以下、Mythos])」を発表しました。このAIは特定の分野に特化しない汎用AIで、AIが自身が見立てた状況を検証と再試行を自律的に繰り返す探索能力が高いことが特徴とされています。
特にMythosが脆弱性検出に高い性能を示すことが明らかになり、これを悪用されるリスクが懸念されることから公開を制限し、防御を目的とした脆弱性検出プロジェクトProject Glasswingを開始しました。
今後はソフトウェアの脆弱性の発見サイクルが加速することで、パッチ提供の頻度が増加する可能性があることから、企業は組織的にソフトウェア脆弱性対策として迅速なパッチ適用に対応できるよう備えていく必要があります。

２・AIシステムを守る対策への備え
AIエージェント技術が普及してきたことから、企業においても独自のAIエージェントを開発しエンタープライズAIを構築する事例が増えてきています。
AIシステムの利活用が急速に進む中でAIの特性を悪用した攻撃が次々と発表されており、これらの攻撃は学習データの漏洩やAIモデルの異常な出力といった影響の原因となっています。
例えば、AIシステムの学習データの漏洩によるプライバシー侵害や、AIシステムの異常な出力が運輸など人命に関わる事故につながる可能性があります。
日本のAIセーフティ・インスティテュート（AISI）では、安全・安心で信頼できるAIの実現に向けて、 AIの安全性に関する評価手法や基準の検討・推進を行っています。
AIシステムに対する特有のセキュリティ攻撃を整理したドキュメントを公開していますので、必要な対策を検討していきましょう。
（AISIドキュメント）
・AIセーフティに関するレッドチーミング手法ガイド
・AIシステムに対する既知の攻撃と影響

３・AIエージェント導入で必ず聞かれる3つの質問
従来の情報システム部門が情報セキュリティ対策として行っているレイヤーは、ネットワーク・端末・ファイルなどの情報資産の管理のレイヤーです。
企業でAIエージェントを導入する場合は、従来の情報セキュリティ対策のレイヤーとは別のレイヤーでリスクアセスメントを行う必要が出てきます。
例えば、AIの入口・出口・道具に関するリスクとしては、このようなものが考えられます。
・AIへの入力文に攻撃が仕込まれているかもしれない（プロンプトインジェクション）
・AIの応答に機密や個人情報が混ざっているかもしれない
・AIが呼び出すツールが、社内で普段使われない強い操作（削除・送信・コード実行）を勝手に実行するかもしれない
など
これからの情報システム部門では、経営層が懸念するAIの時代に即したセキュリティの観点にも答えられるよう対策が必要となっているといえます。
例えば、
・AIが何をしているか見えないが大丈夫か
・危険な操作を勝手にされないか
・何かあったとき説明ができるか
など
これからのAIの監視には、新しいAIガードレール製品やAIエージェント監視技術も必要とされると考えられます。

４・個人情報保護への備え
個人情報保護法改正案が国会審議に入っています。
企業実務においては、個人情報の保護は最も重要な情報管理の観点といえます。
AIが個人データを機械学習に使用する場合は、第三者提供にあたり本人同意が必要になる可能性があります。
Anthropic社の公式プライバシーポリシーにも、学習しない設定であれば学習しない旨が明記されています。ただし、利用者が導入したプラグインやMCPに起因する使用リスクについては、利用者自身の責任と読める記述もあります。
これからはAIの挙動を正しく理解した上で安全に活用できるよう、注意すべきポイントを手順や社内ルールとして整理したうえで、組織としてマネジメントサイクルを回していくことが必要となっています。
また、AI事業者ガイドライン(2026)に基づくリスク対策オプションとしては、AI学習のオプトアウト設定ができていてもAIサービスの事故などにより情報が漏洩した場合に補償されるのは１年分の利用料程度が上限であることを踏まえるとサイバー保険加入や従業員の教育も必要となります。
まずはAIプロットフォームごとに機密情報を漏えいさせない設定パターンを整理し、現実的な対策を具体化していきましょう。

５・AI利活用における契約上の法的整理
最後に、事業におけるAI利用においては企業法務部門を中心に、契約上の法的整理が重要となります。
経済産業省では、基本的な「AIの利用・開発に関する契約チェックリスト」をはじめ、AI利活用で生成されたアウトプットの事業活動での利用やAI自身による契約操作の責任などについても「AI利活用における民事責任の解釈適用に関する手引き」として整理されています。
これらの手引きを参考に、法的リスクを踏まえた事業活動を行っていきましょう。

当事務所は、テレワーク・セキュリティのコンサルティングを行っております。
情報セキュリティの担当者が不在である事業所も多くありますが、個人情報保護法を踏まえて、中小企業の現実的なセキュリティーマネジメントシステムの在り方をご助言させていただいております。
どうぞ安心してご相談ください。

2026年5月21日

小林勝哉社会保険労務士事務所　代表
特定社会保険労務士　小林勝哉

（参考）
・IPA　情報セキュリティ10大脅威 2026　組織編　解説書

・IPAの資料で学ぶ「生成AIの情報漏洩リスク」入門

・大規模言語モデルの全体像　東京大学松尾・岩澤研究室

・サイバーセキュリティレポート 2026年04月　NTTセキュリティ・ジャパン株式会社

・AIセーフティ・インスティテュート（AISI）　IPA
・　AIセーフティに関するレッドチーミング手法ガイド
・　AIシステムに対する既知の攻撃と影響

・JIPDEC　企業IT利活用動向調査2026結果（AI活用編）

・CISOがおさえておきたいAIセキュリティの基本　特定非営利活動法人日本ネットワークセキュリティ協会　 CISO支援ワーキンググループ

・NTTドコモビジネス株式会社　 AIガードレール製品「chabashi」

・AIエージェント監視OSS　Aigis