【no656】AIの偏見を防止できる無償ツール、プリンストン大学

AIの偏見を防止できる無償ツール、プリンストン大学

プリンストン大学の視覚AIラボに所属する研究者が、人工知能(AI)システムに活用される、画像データセットに含まれる潜在的な偏見(バイアス)を自動的に検出できるオープンソースのツール「REVISE(REvealing VIsual biaSEs)」を開発した。プリンストン大学が10月1日に公式サイトで発表した。

同ツールは、クレジットカードなどのサービスや、法廷での判決プログラムなど、あらゆるものに影響を与えるAIシステムのバイアスを是正し、防止するための取り組みとしている。