AIバイアスをどのように軽減できますか?

AIやAIアプリケーションの使用がさらに一般的になると思われますが、予報士は次のように予測しています。世界のAI市場は2030年までに1.8兆ドルの価値になる- すべての目が今、そのガバナンスに注がれています。

このコンピュータサイエンスの分野は、私たちの日常生活の多くの分野で進歩をもたらしてきましたが、不一致や格差がないわけではありません。実際、人工知能のバイアスは非常に現実的な欠点であり、広範囲にわたる結果をもたらす可能性があります。

このブログでは、AIバイアスを軽減して、組織内で倫理的な慣行を推進する方法について説明します。

AIバイアスとは?

AIモデルのテストが不十分で、チーム内の多様性が不足しているため、AIアルゴリズムやMLモデルに無意識のバイアスが忍び寄ることが明らかになりました。

AIバイアスがどのようにしてより深く掘り下げられるかについては、前回のブログをご覧ください。

特定のグループや人口統計に対するAIバイアスの潜在的に有害な影響の例は、米国eコマース省の調査では、顔認識アルゴリズムの不公平さは、顔認識AIがアフリカ系アメリカ人や有色人種を誤認する傾向があることを発見しました。

このテクノロジーの偏ったフォームを法執行目的で使用すると、これらのグループの生活に悪影響を及ぼし、不当逮捕につながる可能性があり、ひいては刑事司法制度への信頼が失われる可能性があります。

AIによる差別の別の例は、カリフォルニア大学バークレー校による調査その結果、金融サービス企業が使用する偏ったアルゴリズムは、ラテン系や黒人の顧客を含むマイノリティコミュニティの借り手が、住宅ローンに対して高い金利を日常的に請求されることを意味していることがわかりました。

AIバイアスを軽減するために人間が果たすべき役割

MLアルゴリズムが使用するデータを人間が選択し、それらのアルゴリズムの結果がどのように適用されるかを決定するとき、人間のバイアスが責任を負っています人工知能 バイアス。

ですから、倫理的なAIを支持し、偏見の軽減に向けて努力しなければならないのも人間です。

現実世界の状況における自動化された意思決定のバイアスを軽減し、その潜在的な悪影響を制限することは、データサイエンスのリーダー、政策立案者、および主要な意思決定者にとって今や優先事項です。

ヨーロッパでは、AIの共通の規制および法的枠組みを導入する試みである欧州連合の人工知能法の形で、すでに法律が制定されています。EUの一般データ保護規則およびデジタルサービス法およびデジタル市場法と組み合わせることで、AI法の目的は、テクノロジーに対する国民の信頼と信頼を向上させることです。

主要なステークホルダーがAIバイアスを軽減する方法

MLモデルとアルゴリズムを構築するAI専門家や、AIを購入して使用する組織には、いくつかのアプローチがあります。それを規制する政府- バイアスを軽減し、その潜在的な悪影響を制限するために取ることができます。

いくつかの推奨事項方法とアプローチ含める：

• 説明可能性- 説明可能なAI(XAI)は、金融サービスなどの業界の顧客に影響を与える結果について透明性のある理由を提供する方法論と一連のプロセスです。AI/MLの出力には、懸念事項や課題に対処するための説明が添えられています。
   
  貸し手やクレジット・アンダーライターは、祖先、肌の色、障害、民族、性別、性自認などの保護された属性クラスが、MLモデルで使用されていないか、プロキシを通じて存在していないことを確認する必要があります。
• ヒューマン・イン・ザ・ループ: この方法は、教師ありML学習とアクティブラーニングを、アルゴリズム構築のトレーニングとテストの段階に関与する人間と組み合わせたものです。人間と機械の知能を結びつけることで、継続的なフィードバックループが作成され、アルゴリズムが毎回より良い結果を提供できるようになります。
   
  この方法論は、自然言語処理(NLP)や、ユーザー生成コンテンツを分析するためのコンテンツモデレーションシステムなど、あらゆるディープラーニングAIプロジェクトに使用できます。
• 前処理アルゴリズム: 前処理アルゴリズム are bias mitigation algorithms applied to training data, attempting to improve fairness metrics. They are the earliest mediation category, offering the most flexibility to correct バイアス。
   
  前処理アルゴリズム can be employed if a user is allowed to modify the training data before model building.
  ただし、前処理アルゴリズムには、予測型パリティなどのモデル予測を含む公平性メトリックが含まれていないことが重要です。
• Choosing machine learning model training data that is suitable, largeそしてrepresentative enough, in order to neutralize (at least to a meaningful extent) different kinds of AI bias such as prejudice bias, measurement biasそしてsample バイアス。
• Rigorously testing the output (results) of machine learning systems and verifying that they do not incorporate AI bias rooted in data sets or the algorithm itself is another way to reduce algorithmic バイアス。
• パフォーマンス中にMLシステムを継続的に監視し、時間の経過とともにAIバイアスが忍び寄るのを防ぎます。
• リソースを使用して、トレーニング済みのMLモデル(Googleのモデルなど)の行動を視覚的にプローブします。What-Ifツール).
• Establishing data collection methods that take into consideration different opinions on data point labeling options. More inclusion means greater machine learning model flexibility — and a reduced likelihood of AI バイアス。
• Fully understanding the training data used for machine learning models, including what it includes, where it comes fromそしてhow it was generated. Training data sets that contain inaccurate or unfair classes and labels are a major source of AI バイアス。
• MLモデルを継続的に監視し、フィードバックと観察に基づいて継続的な改善を行うためにリソース(優先度、人、時間、予算)を割り当てます。

AIバイアスの軽減は継続的な取り組みです

In addition to the recommendations above, the U.S. National Institute of Standards and Technology (NIST) recommends that data scientists and other AI professionals look beyond machine learning processes and training data for potential sources of AI バイアス。

このより広い範囲には、テクノロジーがどのように考案され開発されるかを形作り、影響を与える、より広範な社会的コンテクストが含まれるべきです。聞いたところではレヴァ・シュワルツ、NISTのAIバイアスの主任研究者:

「コンテキストがすべてです。AIシステムは単独では動作しません。彼らは、人々が他の人々の生活に直接影響を与える決定を下すのを助けます。信頼できるAIシステムを開発するためには、AIに対する国民の信頼を削ぎ落とす可能性のあるすべての要素を考慮する必要があります。これらの要因の多くは、テクノロジー自体にとどまらず、テクノロジーの影響にも及んでおり、さまざまな人や組織から寄せられたコメントは、この点を強調しています」

また、AIシステムを構築する組織とそれを展開する組織の両方にとって、サイバーセキュリティの専門家が(「ビッグバウンティ」やその他のプログラムを通じて)ユーザーが脆弱性を見つけて報告することを積極的に奨励し、可能にするのと同様に、一般市民をAIバイアスとの戦いの味方と見なすことも重要です。

例えば1人のAI専門家は、AIの意思決定によって自分や他人が被害を受けた(または被害を受ける可能性がある)と考える個人が、組織的で効率的、かつ解決策に焦点を当てた方法で不平等に関する懸念をエスカレートさせることができる苦情処理プロセスを作成するよう組織に促します。

すべての当事者が正確性、適切性、公平性という同じ目的を持っているため、関与と対話は敵対的ではなく、協力的であるべきです。

最後の言葉

There are many positive — and in some cases profound — use cases for AI. 例えばAI is driving 医学調査のブレークスルーそしてヘルスケア、確立発展途上国の何百万人もの人々が教育を受けられるそして気候変動との闘いに貢献.しかし、AIは完成された万能薬ではありません。

Like many other technologies, it is developing and evolving in ways that we can anticipateそしてprobably in 私たちができない他の方法. Working earnestly at all levels to identify, reduceそしてideally prevent potential biases is a critically important way to help ensure that the ongoing story of AI is characterized by solutions instead of setbacks.

As a result, all eyes are now on AI governance.

Although artificial intelligence has provided advancements in many areas of our daily lives, it is not without discrepancies and disparities. Indeed, artificial intelligence bias is a very real shortcoming and can have far-reaching consequences.

In this blog, we'll explore how to mitigate AI bias to help you drive ethical practices in your organization.

What is AI bias?

We revealed previously that inadequate testing of AI models and a lack of diversity within teams allows unconscious, existing biases to creep into AI algorithms and machine learning models.

AI bias examples

• Examples of the potentially damaging effects of biased AI on certain groups and demographics were highlighted in a US Department of Commerce study, which found that inequity in facial recognition algorithms means facial recognition systems AI has a propensity to misidentify African-American people and people of color.
• When used for law enforcement purposes such as predictive policing, biased forms of this AI-driven technology could have a harmful impact on the lives of these groups, potentially leading to wrongful arrests. In turn, this results in a general lack of trust in the criminal justice system.
• Another example of AI-based racial bias and discrimination was revealed in a study by UC Berkeley, which found that biased algorithms used for credit scoring by financial services companies meant borrowers from minority communities, including Latino and Black customers, were routinely charged higher interest rates for mortgages.
• In healthcare, white patients were found to be prioritized for additional care management over sicker black patients when AI technology was trained on cost data rather than care needs.
• Healthcare chatbots were found to exhibit bias when trained on datasets with insufficient diversity in ethnicities and genders.
• An example of gender bias in AI-generated content was described by Bloomberg, who found in a study of 5,000 images that Stable Diffusion generative AI was more likely to depict senior executives as men than women. 

Humans have a role to play in mitigating AI bias

Humans choose the data that machine learning algorithms use and decide how the results of those algorithms will be applied.

It is also important for organizations — both those that build AI systems, and those that deploy it — to see the general public as an ally in the fight against AI bias, similar to how cybersecurity professionals actively encourage and enable users to spot and report vulnerabilities (through “big bounty” and other programs).

For example, organizations should create a grievance process that lets individuals, who believe they or others have been harmed by AI bias or could be harmed by its decision-making, to escalate their concerns about inequities in an organized, efficient, and solution-focused way.

Since all parties have the same objectives of accuracy, appropriateness, and fairness, the engagement and dialogue should be collaborative, rather than adversarial.

The final word

There are many positive, even profound, use cases for AI. For example, AI is driving breakthroughs in medical research and healthcare, establishing access to education for millions of people in developing nations, and helping combat climate change. However, AI is not a perfected panacea.

Like many other technologies, it is developing and evolving in ways that we can anticipate, and probably in other ways that we cannot. Working earnestly at all levels to identify, reduce, and ideally prevent potential biases is a critically important way to help ensure that the ongoing story of AI is characterized by solutions instead of setbacks.