富士通開發出防詐騙的生成式AI

富士通公司開發出防止高齡者被騙的生成式AI。電話詐騙層出不窮,富士通希望自己的發明能減少高齡者受害,客戶則可能是地方政府等。

《日經MJ》12月22日報導,電話鈴聲響起,老人家拿起聽筒,聽到自稱是公所職員的男性說:「去年底通過法令修正案,重新計算過去5年的醫療費,現在要退大約10萬日圓給妳。」如果回答:「我要和家人商量一下」,對方接著催促說:「今天不辦手續就領不到。」這時候螢幕上會顯示自己的脈搏次數。男性多次指示要匯款到銀行時,自己的脈搏數會增加。

富士通蒐集過去警方公布的詐騙電話錄音,讓AI學習詐騙集團說話的方式和詞彙。再請熟悉犯罪心理學的東洋大學教授桐生正幸協助製作大致的腳本,模擬出詐騙集團的手法。而且因為AI也會上網學習當下的詐騙相關字眼,電話打來的狀況和誘導的方式,每幾個月就會改變,跟上最新的流行。

兵庫縣尼崎市11月30日和12月1日,有65歲以上的高齡者28人參加這項電話詐騙的實證實驗。結束後,市公所職員會和這些人根據實驗結果面對面討論,讓他們有防犯意識。其中一位78歲的女性指出,AI的完成度高,聽到AI講的話幾乎信以為真,快被騙了。

警察廳指出,2023年1~10月的詐騙件數達到15636件,比前一年增加12%;其中65歲以上的被害件數占了將近8成。最近用假裝是家人的方式騙取現金之外,手法也不斷進化,例如假裝因為電腦中毒而必須收費等。 

富士通和尼崎市23年6月開始,一起研發設法防止詐騙的生成AI技術。接下來要改進的是各地不同的方言,以及說話時更有抑揚頓挫等。另一方面,日本國內詐騙錄音資料等,提高精準度的材料仍嫌不足。

[2023年12月22日/流通News]

連鎖企業品牌故事

潮流探索

推薦刊物