生成ＡＩの信頼性、ＡＩで評価し結果公表…総務省が基盤システム開発方針

　総務省は生成ＡＩ（人工知能）の信頼性を評価する基盤システムを開発する方針を固めた。ＡＩが差別表現や偏向した回答をしていないか、複数の評価用ＡＩで確認する。評価結果は、指標などの形で公表し、利用者がどの生成ＡＩを使うかを決める際の参考にしてもらう計画だ。

　来春にも総務省所管の国立研究開発法人・情報通信研究機構（ＮＩＣＴ）で開発を始め、２０２６年度中の試作モデル提供を目指す。

　複数のＡＩが様々な質問を自動的に生成して評価対象となるＡＩに回答を求め、その内容を確認する。人間による定期監査を行い、評価用ＡＩが正しく機能しているかを点検する。

　総務省は、生成ＡＩの回答を評価する基準として〈１〉差別的な表現やプライバシー情報がないか〈２〉犯罪につながる内容がないか〈３〉誤情報や根拠を欠くものがないか〈４〉バランスの取れた内容か〈５〉日本の文化に忠実な内容か〈６〉人を欺いていないか〈７〉未知のリスクに対応できるか――の７項目を想定している。

　評価基準は今後、日本の主導で先進７か国（Ｇ７）が合意した国際ルール「広島ＡＩプロセス」などを踏まえ、社会学者や法学者らが参加する会議で詳細を検討する。

　国内では、中国や米国など海外製ＡＩの利用が広がっている。ただ、中国製ＡＩが領土問題などで自国の主張を回答する事例があるほか、英語データを多く学習しているＡＩは欧米の価値観に基づいた回答を出す傾向があるとの指摘もある。

　このため総務省は、日本の基準で「信頼できるＡＩ」を示し、企業や行政機関が優先的に利用するよう促す必要があると判断した。

　将来、ＡＩの安全性確保を担う政府系機関「ＡＩセーフティ・インスティテュート」の評価システムとして活用することも想定している。

　また、ＡＩを評価する中で、日本企業が開発したＡＩの問題が浮き彫りになれば、ＮＩＣＴが補強データを生成して開発元に提供して開発を後押しすることなども検討する。