生成AIによってフィッシングメールは1265％増加

2024年8️月7日（水）、情報処理安全確保支援士の野口諒子氏が、「米国におけるAIのセキュリティ脅威・リスクの認知調査レポート」をもとに、AIの進化と現状、そしてそのリスクについて解説しました。

Updated by

on August, 9, 2024, 10:00 am JST

2021年からのAIの進化

――今回の内容は、独立行政法人情報処理推進機構（IPA）が調査し発表した「米国におけるAIのセキュリティ脅威・リスクの認知調査レポート」に基づいています。ホームページには詳細な情報が掲載されていますが、本日はこのレポートの概要を分かりやすく説明していただければと思います。まず、このレポートについて改めてご紹介いただけますか？

野口：この調査はIPAが依頼し、アメリカのサイバーセキュリティコンサルティング会社が2024年の1月から2月にかけて実施したものです。調査方法は、過去の研究や文献調査、専門家へのインタビューを基にしています。

まず、AIの進化と現状について解説します。この調査は2021年にも実施されており、その後の2022年から2023年の2年間での変化や技術の進化に着目しています。
AIは非常に広範な分野を指しますが、特に応用先の拡大が顕著で、その傾向について詳しく述べられています。

特に興味深いのは、生成AIの分野です。テキストから音声を生成する技術は、画像生成やテキスト生成に比べて遅れていましたが、近年急速に発展しています。これにより、映画や音楽などのクリエイティブな領域にも大きな影響を与えると予想されています。私自身も、テキストから音声生成技術を利用して、自分の原稿をチェックする際に役立てています。

生成AIによってフィッシングメールは1265％増加

野口：次に、このレポートでは5つのリスクが挙げられています。これらは、IPAのパワーポイント資料にもまとめられていますので、時間がある方はぜひご覧ください。主なリスクは以下の通りです。

1. AIで強化された従来のサイバー攻撃
2. AIを利用した虚偽情報
3. AIシステムの障害とAIシステムへの攻撃
4. AIによる国家安全保障上のリスク
5. 生成AIの誤用によるビジネスリスク

――特に注目しているリスクについて詳しく教えてください。

野口：まず生成AIによって増えた従来のサイバー攻撃についてです。これは新しい攻撃手法というよりは、既存の攻撃手法が効率化され、多くの攻撃がなされるようになったことを指します。
特にフィッシングメールが急増しており、2022年末から2024年初頭にかけて1265％増加しています。これにより、攻撃者が簡単に大量のメッセージを生成できるようになり、被害が拡大しています。

また、ランサムウェア攻撃も高度化しており、過去の被害者の行動を分析して、効果的に支払いを促す手法が用いられています。

次に、AIを利用した虚偽情報についてです。国家による偽情報戦略や選挙結果への影響などが懸念されています。AIによるシステム障害や攻撃についても、データの誤りや改ざんによってシステムの誤動作が発生するリスクがあります。