2023年3月17日
富士通株式会社

識別性能の低下なしに画像識別AIを柔軟かつ容易に修正する技術を開発

自動車画像のデータセットで有効性を確認

画像に写っている対象が何であるかを識別する画像識別AIは大量のパラメータで構成されており、識別時のAI挙動を変えたい場合に人が各パラメータの意味を解釈した上で変更することは困難です。このため、一般的に大量データによる再学習が行われていますが、対象とする画像以外の識別における性能低下を引き起こす可能性があることが課題となっています。そこで当社は、大学共同利用機関法人情報・システム研究機構国立情報学研究所（^注1、以下、NII）と共同で、識別対象の意図せぬ識別性能の低下を抑制しつつ画像識別AIを修正する技術を開発しました。

本技術の有効性検証は、2023年3月21日より、マカオで開催されるソフトウェア解析に関するフラッグシップ国際会議「SANER 2023」にて発表します。

画像識別AIを修正する技術

本技術では、正しく識別されるデータをAIに入力したときのAI内部の反応の大きさから、誤った識別のみに影響するパラメータ群の箇所を特定し、パラメータ値を最適化します。その際、他の対象の識別性能に影響を及ぼさずに、対象とする識別動作において理想的な識別結果との誤差を限りなく少なくするパラメータ値を探索することで、性能低下の抑制を実現しました。

今回、1万枚以上の自動車画像のデータセットに対して本技術の有効性検証を2022年9月に行ったところ、データセットを用いて構築したAIにおける特定の誤りに対し、性能低下を引き起こさずに修正できることを確認しました。また、AIにとって未知のデータに対しても同様に有効性を確認しました。本技術の活用によって、AIの運用時にユーザの要求に沿ったAIの更新が可能になり、AIの高品質化やAI運用コストの削減が期待されます。

図. AIの誤識別を安全に修正する技術の概要

今後について

当社は、2024年度中に本技術の実用化を目指しており、AIの精度劣化を自動修復する当社技術「High Durability Learning（ハイ・デュラビリティー・ラーニング）」をはじめとしたAI品質技術の1つとして、今後、社会インフラの映像監視や医療画像診断など高信頼性が求められる様々な現場への適用に向けた実証実験を実施予定です。

また、本研究開発成果の一部は、当社社員が参加している国立研究開発法人科学技術振興機構（^注2、以下、JST）の未来社会創造事業Engineerable AIプロジェクト（以下、eAIプロジェクト）によるものであり、今後、本技術をeAIプロジェクトの参画組織と協働して自動運転分野での有用性を検証していきます。

商標について

記載されている製品名などの固有名詞は、各社の商標または登録商標です。

注釈

注1

大学共同利用機関法人情報・システム研究機構国立情報学研究所：
所在地東京都千代田区、所長喜連川優
注2

国立研究開発法人科学技術振興機構：
所在地東京都千代田区、理事長橋本和仁

本件に関するお問い合わせ

研究本部人工知能研究所
E-mail：fj-dnnrepair-contact@dl.jp.fujitsu.com

当ページに記載された製品の価格、仕様、サービス内容などは発表日現在のものです。その後予告なしに変更されることがあります。あらかじめご了承ください。