| LOUNGE NEWS |
AI技術の進化に伴い、個人を狙ったサイバー脅威は新たな局面を迎えている。利便性の向上と引き換えに、AIを悪用した情報漏洩や詐欺、マルウェア被害は急速に拡大しており、従来の警戒感だけでは防ぎきれない状況が生まれつつある。
個人向けセキュリティサービスの分析によると、AIの悪用は一般ユーザーにとっても無視できない現実的なリスクとなっている。特に、日本国内における被害は顕著で、マルウェアのブロック件数はアジアで突出して多い結果となった。こうした状況は、個人のリスク認識と実際の被害との間に大きなギャップが存在することを示している。
法制度の整備と個人意識のギャップ
日本では2025年7月、内閣府に「国家サイバー統括室」が新設され、法制度においても攻撃サーバーへの無害化措置を含む「能動的サイバー防御」が導入された。国家レベルでの防御体制は強化されたものの、個人ユーザーのリスク意識は追いついていない。実際、生成AIを利用する経験は広がる一方で、個人情報の扱いやセキュリティリスクを十分に意識せず利用しているケースが指摘されている。
こうした認識のギャップを背景に、情報漏洩やそれに伴う詐欺被害は拡大を続けている。米連邦取引委員会（FTC）のデータによれば、2024年の個人資産を狙う詐欺被害総額は57億ドル（約8,500億円）に達した。AIを利用した「本物そっくりの投資サイト」の大量生成や、チャットボットへの信頼を逆手に取った情報窃取など、手口は進化を続けている。
AI悪用で顕在化する代表的な脅威
分析結果から、特に注意すべきAI起点の脅威は大きく三つに整理できる。
脅威① AIに預けた情報や前提が裏切られるリスク
AIに信頼して提供した情報や無害と想定していた条件が、想定外の形で侵害されるケースが確認されている。
・会話データが守られないケース
AIとの会話はデジタル記録として保存される。過去には、AIの共有機能の欠陥により、本来非公開である会話記録や機密情報が第三者から閲覧可能となった事例が報告されている。
・機能を通じて情報が取得されるケース
カレンダー招待機能などを悪用し、攻撃者が会議リクエストを通じてユーザーデータを不正取得する可能性がある。利用者が情報を共有した認識がなくても、情報が扱われるリスクが存在する。
・「無害な前提」を突く攻撃（LegalPwn）
利用規約やプライバシーポリシーの文章に自然に埋め込まれた指示により、AIが危険なマルウェアを安全と誤認する手法である。結果として、AIへの相談内容が第三者に閲覧されたり、悪意ある操作に利用されたりするリスクが生じる。
脅威② AIが生み出す「本物らしさ」を悪用した詐欺
AIにより作られる「本物そっくりの投資サイト」や「著名人のなりすまし広告」は、作成コストが低く、攻撃規模が拡大している。デザインや文章の精度が高いため、見た目だけで真偽を判断することは困難である。
2025年3月から10月の8か月間で、450万件以上の偽サイトがブロックされた。AIを用いたディープフェイク音声による詐欺も確認されており、「本人の声だから」「公式サイトのように見えるから」といった直感的な判断は通用しなくなっている。
脅威③ AIの回答は必ずしも正確ではない
AIは自然で説得力のある回答を返すが、内容が正確であるとは限らない。実在しない情報を事実のように生成する「AIハルシネーション」が攻撃に悪用されるケースもある。
例えば「スロップスクワッティング」では、AIが誤って提示しそうなURLやソフトウェア名を攻撃者が予測し、偽サイトやマルウェアを用意する。利用者がAIの回答を信じてリンクを開いた場合、正規サービスのつもりでも攻撃者のサイトに誘導される危険性がある。
AIリスクから身を守るための4つの対策
・情報の非秘匿性を認識する
AIとの会話は第三者に共有される可能性がある情報として扱い、機密情報は入力しない。
・業務とプライベートのアカウントを分離する
利用目的ごとにアカウントを使い分け、チャット履歴を定期的に削除する。
・AI生成情報の真偽確認を徹底する
提示されたURLやソフトウェア名は、公式サイトなどで必ず確認する。
・セキュリティツールを活用する
マルウェアや悪質サイトを自動検知するツールを利用し、多要素認証やID監視アラートを組み合わせることでリスクを低減できる。
NordVPN最高技術責任者（CTO）マリユス・ブリエディスは、「AIは便利である一方、攻撃の入り口にもなり得る。AIや有名ブランドを騙る攻撃を常に疑うゼロトラストの姿勢が、資産を守る上で有効である」と指摘する。
