2023年11月30日
富士通株式会社
犯罪心理学と生成AIを融合し、特殊詐欺防止訓練AIツールを開発
最新の詐欺手口を反映した会話形式の訓練により高齢者の防犯意識の向上に貢献
当社は、学校法人東洋大学（所在地：東京都文京区、理事長：安齋 隆、以下 東洋大学）および兵庫県尼崎市（市長：松本 眞）と実施している、被害者側に共通的に生じる心理状態などの内面の変化に着目して、多様な詐欺手口に汎用的に適用可能な特殊詐欺未然防止技術の共同研究において、このたび、生成AIで電話による特殊詐欺の手口を再現するAIトレーナーと、リアリティのある会話形式で訓練ができる特殊詐欺防止訓練AIツール（図1）を開発しました。本訓練AIツールを用いて、訓練中の高齢者の内面の変化をもとに騙されやすさを訓練結果としてフィードバックすることで、還付金詐欺や架空料金請求詐欺などの多岐に渡る特殊詐欺に対する防犯意識の向上に貢献します。
本訓練AIツールは、以下2つの機能で構成されています。
図1 特殊詐欺防止訓練AIツール1. 特殊詐欺を疑似体験できる機能：
本機能は、犯罪心理学の知見をもとに明らかにした特殊詐欺の骨組みと生成AIを融合させたコンバージングテクノロジー（注1）によって、電話応対者の応答内容に応じて詐欺に誘導する特殊詐欺の手口を模倣したAIトレーナーとの通話でリアリティのある訓練ができます。
一般的に、AIトレーナーのように生成AIに特定の振る舞いをさせるには、プロンプト（注2）を生成AIに与える必要があります。これまで生成AIに特殊詐欺の手口を模倣させるには、特殊詐欺の手口ごとに詐欺被害の詳細データを分析して、都度プロンプトを作成する必要がありました。しかし、新たな手口が編み出された場合には、少量の事例からキーワードのような断片的な情報しか入手できないため、最新の手口に対応したプロンプトの作成が困難でした。
そこで、骨組み抽出機能により、蓄積された過去の特殊詐欺被害の詳細情報をもとに、犯罪心理学の観点から、詐欺手口に共通する会話の構成である汎用シナリオと、被害者を動揺させて振込などの手続き行動を起こさせるような扇動方法などの特殊詐欺手口の骨組みを明らかにします。また、情報収集機能により、詐欺被害情報サイトなどで配信されている最新詐欺被害報告から詐欺被害での「医療費」や「還付」といった特徴的なキーワードである概要情報を収集します。特殊詐欺手口の骨組みと新規に収集した概要情報を照合することで不足情報を補う生成機能によって、断片的な情報からでも適切にプロンプトを自動生成できる技術を開発しました（図2）。このプロンプト自動生成技術と生成AI（大規模言語モデル）を連携させることにより、最新の特殊詐欺の手口を模倣するAIトレーナーを再現することが可能となり、高齢者の訓練に活用できるようになりました。
図2 プロンプト自動生成技術2. フィードバック生成機能：
フィードバック生成機能（注3）により、訓練中に非接触でセンシング（注4）された高齢者の生理反応から、緊張やストレスといった心理状態を推定し、取得・推定されたデータから総合的に算出された騙されやすさを訓練結果として高齢者にフィードバックします。また、発話情報と生理反応の変動の関係性を分析し、生理反応の変動に影響があった発話情報をフィードバックします。これらの結果から、高齢者は自身の詐欺被害の危険性を客観的に把握することができ、防犯意識の向上が期待できます。
3者は、2023年11月30日と12月1日の2日間、尼崎市の高齢者を対象に実証実験を行い、本訓練AIツールの有効性を検証し、超高齢社会においても高齢者が安心安全な生活を送ることができる環境づくりに貢献することを目指します。当社は今後も、人文社会科学とデジタル技術を融合するコンバージングテクノロジーの一つとして、人と社会を深く理解して働きかけることを通して社会課題を解決する技術の開発を進め、人々に安心安全をもたらす街づくりに貢献していきます。
商標について
記載されている製品名などの固有名詞は、各社の商標または登録商標です。
注釈
-
注1コンバージングテクノロジー：
特定の目的を達成するために2つ以上の異なる分野の科学や技術を融合した技術。 -
注2プロンプト：
生成AIの振る舞いを規定する背景情報や具体的な要求、制約などの指示。 -
注3フィードバック生成機能：
2022年度に開発した呼吸数や脈拍数などの生理反応から、犯人の嘘を信じ込まされている状態を判定する特殊詐欺推定AIモデルを活用し、騙され状態を推定。
https://www.city.amagasaki.hyogo.jp/_res/projects/default_project/_page_/001/033/893/230417-01.pdf -
注4非接触でセンシング：
非接触ミリ波センサーでリアルタイムに複数人のバイタル情報を計測する技術を開発
https://pr.fujitsu.com/jp/news/updatesfj/2023/03/24-1.html
関連リンク
- 学校法人東洋大学のプレスリリースページ
- AIと犯罪心理学を活用し特殊詐欺を未然に防ぐ日本初の共同研究を尼崎市で開始（2022年3月24日プレスリリース）
- 特殊詐欺の未然防止に向けた共同研究第2期を開始（2023年4月17日Updates from FUJITSU）
本件に関するお問い合わせ
E-mail：fj-ctfund-contact@dl.jp.fujitsu.com
当ページに記載された製品の価格、仕様、サービス内容などは発表日現在のものです。その後予告なしに変更されることがあります。あらかじめご了承ください。
