取引先の会長の名前で「機密プロジェクトの協力依頼」とメールが届く　
その後、取引先の専務の声色で「メールで連絡した件だ」と電話がくる　
会話の内容に違和感があり本人か確認すると一方的に電話が切られた　

【写真を見る】もう電話の声を信じてはいけない！？ 声色模倣の詐欺電話 AIでサイバー攻撃がますます巧妙化

去年、実際にあった事案です。もう“声”が模倣される時代。
AI技術の進化によって、ますます巧妙化するサイバー攻撃について、専門家が解説します。

声を模倣 不自然さ見抜くしかない脅威

「人の声を模倣する音声のディープフェイクの技術というのは、既に詐欺で利用されているというふうに言われています」

情報セキュリティの専門機関「情報処理推進機構（IPA）」の小山明美グループリーダーは、去年5月に起きた事例を紹介してくれました。

「機密プロジェクトへの協力を依頼したい。連絡はこのメールを介してのみとしてほしい。」
日本の企業A社の会長の名前でメールが、A社の海外関連企業B社の社長に届きます。

メールの差出人の表示名には会長の氏名が英語表記で書いてあり、アドレスも会長のメールアドレスに似た、実在しないメールアドレスが設定されています。
アドレスの＠よりも前の文字列には、会長の名前が含まれていました。

実在する会計・法律事務所の名前や、この事務所に実際に所属する人の名前も書かれていました。

A社の会長を詐称したメールを受信した当日、A社の専務の名前で電話がきました。
「会長からメールで連絡した件のフォローアップをしている」
発信者電話番号は、A社の代表番号に偽装。
ただ、電話を受けたB社の社長が、やり取りの中で言っていることが本人ではないのではないかと疑問に思い、専務本人ではないことを指摘すると、一方的に電話を切られました。

このため金銭的な被害は発生しなかったということです。

「発信者の電話番号ですとか、声色だけで判断しないように注意することが必要です」

ただ、現時点ですぐにできる対策はまだないといいます。

「簡単に利用できる対策はまだありません。金銭にまつわるような電話は冷静になって、不自然さがないかといったことを注意したり、電話であれば折り返すというような他の連絡手段も合わせて確認するといったようなことが対策としては考えられます」

日本でははっきりとディープフェイクが使われたとする詐欺は確認されていないということですが、去年11月には岸田総理の偽動画が拡散した事例がありました。

“偽物”が簡単に作られる時代 「新しい情報を積極的に取り込んで」

岸田総理の偽動画は生成AIが使われていましたが、作成したのはAIの専門家ではありませんでした。
ただ1時間足らずで作成し、SNSに投稿していました。
小山さんは、AIの専門家ではなくても簡単に動画やイラストが作成でき、見た人には本物か偽物か判断が難しくなることが今後想定されると指摘します。

「フィッシングメールにも悪用されているのではないかと言われています。従来からの攻撃の手口がAIによって、より内容が巧妙になってパターンも増えて、件数が増えているのではないかと予想されています」

AIは人々の活動を劇的に変化させる技術として期待も大きい一方で、詐欺への悪用だけではなく、プライバシー保護、透明性、公平性、そして安全性といった様々な観点からの議論が日本だけでなく世界中で行われています。

日本ではことし2月にAIを安全に利用し、利便性を享受できるようにAIの安全性に関する評価手法や基準の検討などを行う「AIセーフティ・インスティテュート（AISI）」が設立されました。

また4月には、総務省と経済産業省が「AI事業者ガイドライン」を取りまとめ、公開しています。

小山さんは、現時点でAIのセキュリティが特別に必要なのではなく、これまで必要とされてきたセキュリティの対策を、継続していくことが重要だと指摘します。

「AIを悪用した攻撃もありますが、OSやソフトウェアの最新化、ウイルス対策ソフトの導入、パスワードの強化、共有設定の見直しとこのような基本的な行動、これを継続することが必要です」

そして、脅威や攻撃の手口、対策の情報に耳を傾けてくださいと呼びかけています。

「AIについてはまだまだ議論がされていて世界中で研究、あるいはガイドラインや法律の整備などが続いている状態です。新しい情報を積極的に取り込んで、自分にとってのリスクが大きくなっていないかということを確認していただきたいと思います」

ことし7月に発刊された「情報セキュリティ白書2024」では注目のトピックとして「虚偽情報とAIのセキュリティ」を取り上げています。
情報処理推進機構のWEBサイトから無料でダウンロードすることができます。

「知るテック」、次回は「虚偽を含む情報拡散の脅威と対策」について深掘りします。

取材協力：情報処理推進機構（IPA）セキュリティセンター　企画部　調査グループ　　グループリーダー　小山明美（こやま・あけみ）
（TBS NEWSDIG オリジナル配信番組：知るテック　より） 

・「コバエが、料理に一瞬だけ止まってしまった！」その料理、衛生的に大丈夫？専門家に聞いた
・エアコン「1℃下げる」OR「風量を強にする」どっちが節電？誤解の多いエアコン節約術【ひるおび】
・「人生が変わった」重い後遺症も…炎天下のスポーツと熱中症、高校野球“運動中止”の暑さでも「試合を消化しないと」【報道特集】