精巧なAI音声を悪用した「オレオレ詐欺」が米国で確認

　The Washington Postが5日(米国時間)報じたところによると、AIの合成音声を悪用した電話でのなりすまし詐欺が米国内で確認されているという。

　報道によれば、米国ではなりすましによる詐欺が増加傾向にあり、FTCの調査によれば2022年には3万6,000件以上の事例が確認され、詐欺の事例全体でみても2番目に多いという。そのうち、なりすまし電話による事例は5,100件以上にのぼり、1,100万ドル以上の被害が発生。中には、AIの合成音声を悪用した巧妙ななりすまし電話詐欺も確認されているという。

　AI技術の進歩にともなって、現在は少ない音声サンプルから声を真似できるようになり、高品質な音声合成を安価に生成できるオンラインサービスも登場している。また、サンプルとして使える音声はSNSなどから入手できてしまうこともあり、詐欺師が悪用できてしまうという。

　FTCでは、なりすまし電話詐欺に対して常に警戒するとともに、家族や知人から金銭を要求する電話がかかってきた場合は、一度電話を保留して本人に個別に電話をかけるといった対応を行なうよう呼びかけている。

　AI音声合成に関しては、著名人がヘイトスピーチや不適切な発言をしているような音声が生成/投稿されるなど、詐欺以外での悪用事例もすでに発生している。