説明可能なデータバイアス緩和

Abstract

データの偏りを緩和するだけでなく、その理由を人間が理解できる説明可能な公平性手法を提案する。機械学習アルゴリズムは、雇用や融資の決定などのリスクの高いユースケースもあり、公平性、説明責任、透明性が求められる。性別、人種、年齢などのセンシティブな属性によるAI予測の違いは、公平性の問題となっている。AIにおけるバイアス緩和には様々な手法が提案されているが、従来の手法ではどのような基準でデータバイアス緩和を行ったのかを人間が直感的に理解できないという問題がある。そこで、説明可能なAIを用いたバイアス緩和手法を提案する。提案した方法により、人間はバイアス緩和がどのように達成されるかを理解することができる。German Creditデータセットによる信用スコアリングにこの方法を適用した実験結果は、性別での統計的パリティ差が-0.108から-0.004に改善されたことを示している。

第37回人工知能学会全国大会 優秀賞受賞