AIバイアスをどのように軽減できますか?

AIやAIアプリケーションの使用がさらに一般的になると思われますが、予報士は次のように予測しています。世界のAI市場は2030年までに1.8兆ドルの価値になる- すべての目が今、そのガバナンスに注がれています。

このコンピュータサイエンスの分野は、私たちの日常生活の多くの分野で進歩をもたらしてきましたが、不一致や格差がないわけではありません。実際、人工知能のバイアスは非常に現実的な欠点であり、広範囲にわたる結果をもたらす可能性があります。

このブログでは、AIバイアスを軽減して、組織内で倫理的な慣行を推進する方法について説明します。

AIバイアスとは?

AIモデルのテストが不十分で、チーム内の多様性が不足しているため、AIアルゴリズムやMLモデルに無意識のバイアスが忍び寄ることが明らかになりました。

AIバイアスがどのようにしてより深く掘り下げられるかについては、前回のブログをご覧ください。

特定のグループや人口統計に対するAIバイアスの潜在的に有害な影響の例は、米国eコマース省の調査では、顔認識アルゴリズムの不公平さは、顔認識AIがアフリカ系アメリカ人や有色人種を誤認する傾向があることを発見しました。

このテクノロジーの偏ったフォームを法執行目的で使用すると、これらのグループの生活に悪影響を及ぼし、不当逮捕につながる可能性があり、ひいては刑事司法制度への信頼が失われる可能性があります。

AIによる差別の別の例は、カリフォルニア大学バークレー校による調査その結果、金融サービス企業が使用する偏ったアルゴリズムは、ラテン系や黒人の顧客を含むマイノリティコミュニティの借り手が、住宅ローンに対して高い金利を日常的に請求されることを意味していることがわかりました。

AIバイアスを軽減するために人間が果たすべき役割

MLアルゴリズムが使用するデータを人間が選択し、それらのアルゴリズムの結果がどのように適用されるかを決定するとき、人間のバイアスが責任を負っています人工知能 バイアス。

ですから、倫理的なAIを支持し、偏見の軽減に向けて努力しなければならないのも人間です。

現実世界の状況における自動化された意思決定のバイアスを軽減し、その潜在的な悪影響を制限することは、データサイエンスのリーダー、政策立案者、および主要な意思決定者にとって今や優先事項です。

ヨーロッパでは、AIの共通の規制および法的枠組みを導入する試みである欧州連合の人工知能法の形で、すでに法律が制定されています。EUの一般データ保護規則およびデジタルサービス法およびデジタル市場法と組み合わせることで、AI法の目的は、テクノロジーに対する国民の信頼と信頼を向上させることです。

主要なステークホルダーがAIバイアスを軽減する方法

MLモデルとアルゴリズムを構築するAI専門家や、AIを購入して使用する組織には、いくつかのアプローチがあります。それを規制する政府- バイアスを軽減し、その潜在的な悪影響を制限するために取ることができます。

いくつかの推奨事項方法とアプローチ含める：

• 説明可能性- 説明可能なAI(XAI)は、金融サービスなどの業界の顧客に影響を与える結果について透明性のある理由を提供する方法論と一連のプロセスです。AI/MLの出力には、懸念事項や課題に対処するための説明が添えられています。
   
  貸し手やクレジット・アンダーライターは、祖先、肌の色、障害、民族、性別、性自認などの保護された属性クラスが、MLモデルで使用されていないか、プロキシを通じて存在していないことを確認する必要があります。
• ヒューマン・イン・ザ・ループ: この方法は、教師ありML学習とアクティブラーニングを、アルゴリズム構築のトレーニングとテストの段階に関与する人間と組み合わせたものです。人間と機械の知能を結びつけることで、継続的なフィードバックループが作成され、アルゴリズムが毎回より良い結果を提供できるようになります。
   
  この方法論は、自然言語処理(NLP)や、ユーザー生成コンテンツを分析するためのコンテンツモデレーションシステムなど、あらゆるディープラーニングAIプロジェクトに使用できます。
• 前処理アルゴリズム: 前処理アルゴリズム are bias mitigation algorithms applied to training data, attempting to improve fairness metrics. They are the earliest mediation category, offering the most flexibility to correct バイアス。
   
  前処理アルゴリズム can be employed if a user is allowed to modify the training data before model building.
  ただし、前処理アルゴリズムには、予測型パリティなどのモデル予測を含む公平性メトリックが含まれていないことが重要です。
• Choosing machine learning model training data that is suitable, largeそしてrepresentative enough, in order to neutralize (at least to a meaningful extent) different kinds of AI bias such as prejudice bias, measurement biasそしてsample バイアス。
• Rigorously testing the output (results) of machine learning systems and verifying that they do not incorporate AI bias rooted in data sets or the algorithm itself is another way to reduce algorithmic バイアス。
• パフォーマンス中にMLシステムを継続的に監視し、時間の経過とともにAIバイアスが忍び寄るのを防ぎます。
• リソースを使用して、トレーニング済みのMLモデル(Googleのモデルなど)の行動を視覚的にプローブします。What-Ifツール).
• Establishing data collection methods that take into consideration different opinions on data point labeling options. More inclusion means greater machine learning model flexibility — and a reduced likelihood of AI バイアス。
• Fully understanding the training data used for machine learning models, including what it includes, where it comes fromそしてhow it was generated. Training data sets that contain inaccurate or unfair classes and labels are a major source of AI バイアス。
• MLモデルを継続的に監視し、フィードバックと観察に基づいて継続的な改善を行うためにリソース(優先度、人、時間、予算)を割り当てます。

AIバイアスの軽減は継続的な取り組みです

In addition to the recommendations above, the U.S. National Institute of Standards and Technology (NIST) recommends that data scientists and other AI professionals look beyond machine learning processes and training data for potential sources of AI バイアス。

このより広い範囲には、テクノロジーがどのように考案され開発されるかを形作り、影響を与える、より広範な社会的コンテクストが含まれるべきです。聞いたところではレヴァ・シュワルツ、NISTのAIバイアスの主任研究者:

「コンテキストがすべてです。AIシステムは単独では動作しません。彼らは、人々が他の人々の生活に直接影響を与える決定を下すのを助けます。信頼できるAIシステムを開発するためには、AIに対する国民の信頼を削ぎ落とす可能性のあるすべての要素を考慮する必要があります。これらの要因の多くは、テクノロジー自体にとどまらず、テクノロジーの影響にも及んでおり、さまざまな人や組織から寄せられたコメントは、この点を強調しています」

また、AIシステムを構築する組織とそれを展開する組織の両方にとって、サイバーセキュリティの専門家が(「ビッグバウンティ」やその他のプログラムを通じて)ユーザーが脆弱性を見つけて報告することを積極的に奨励し、可能にするのと同様に、一般市民をAIバイアスとの戦いの味方と見なすことも重要です。

例えば1人のAI専門家は、AIの意思決定によって自分や他人が被害を受けた(または被害を受ける可能性がある)と考える個人が、組織的で効率的、かつ解決策に焦点を当てた方法で不平等に関する懸念をエスカレートさせることができる苦情処理プロセスを作成するよう組織に促します。

すべての当事者が正確性、適切性、公平性という同じ目的を持っているため、関与と対話は敵対的ではなく、協力的であるべきです。

最後の言葉

There are many positive — and in some cases profound — use cases for AI. 例えばAI is driving 医学調査のブレークスルーそしてヘルスケア、確立発展途上国の何百万人もの人々が教育を受けられるそして気候変動との闘いに貢献.しかし、AIは完成された万能薬ではありません。

Like many other technologies, it is developing and evolving in ways that we can anticipateそしてprobably in 私たちができない他の方法. Working earnestly at all levels to identify, reduceそしてideally prevent potential biases is a critically important way to help ensure that the ongoing story of AI is characterized by solutions instead of setbacks.

What is AI bias?

AI bias occurs when an AI system produces systematically distorted or unfair outcomes. It can enter an AI system through its training data, how that data is labeled, decisions made during model development, or the way people interpret and use its outputs. Because AI systems learn from existing data, they can reflect and amplify patterns that already exist in the world around us; we revealed previously that inadequate testing of AI models and a lack of diversity within teams allows unconscious, existing biases to creep into AI algorithms and machine learning models.

Examples of AI bias

• Examples of the potentially damaging effects of biased AI on certain groups and demographics were highlighted in a US Department of Commerce study, which found that inequity in facial recognition algorithms means facial recognition systems AI has a propensity to misidentify African-American people and people of color.
• In healthcare, white patients were found to be prioritized for additional care management over sicker black patients when AI technology was trained on cost data rather than care needs. Healthcare chatbots were found to exhibit bias when trained on datasets with insufficient diversity in ethnicities and genders.
• An example of gender bias in AI-generated content was described by Bloomberg, who found in a study of 5,000 images that Stable Diffusion generative AI was more likely to depict senior executives as men than women. 

These examples show how bias can influence AI-assisted decisions and experiences. The same underlying problem matters when AI is applied to marketing. As organizations use AI to decide what content, recommendations, offers, and experiences customers receive, biased data or models can influence those interactions at scale.

What are the risks of AI bias in marketing and personalization?

AI is changing how marketers understand their audiences and create more relevant customer experiences. From AI-powered personalization and recommendations to audience segmentation and content creation, AI can help teams respond to customer needs at greater speed and scale. But AI is only as reliable as the data and decisions behind it. If customer data is incomplete or doesn't reflect the people a brand serves, AI can reinforce those gaps. The result could be recommendations that consistently favor certain products or content, audience segments that overlook valuable customers, or generated content that repeats stereotypes found in its training data. Personalization makes this especially important since customers expect brands to understand what they need and deliver experiences that feel relevant. When AI introduces bias into those experiences, personalization can miss the mark and erode the trust it was meant to build.

Marketing teams can reduce this risk by regularly reviewing the data and signals that shape AI-driven experiences, testing how personalization performs across different audiences, and keeping people involved in important decisions. Teams should also continue to monitor AI outputs as customer behavior, data, and models change. Used responsibly, AI can help marketers create experiences that are more relevant and useful to every customer while protecting the trust that makes personalization valuable in the first place.

Building trust in AI-powered experiences

AI will continue to play a bigger role in how organizations understand customers, create content, personalize experiences, and make decisions. Building responsible practices into that work can help teams get more value from AI while reducing the risk of bias.

That starts with the data AI learns from and continues through testing, human oversight, monitoring, and clear accountability. It also means staying curious about the results AI produces and being prepared to act when something doesn't look right.

For marketers, responsible AI supports something fundamental to every customer experience: trust. By understanding the risks and putting the right safeguards in place, organizations can use AI to create experiences that feel relevant, useful, and worthy of that trust.