責任あるAI対決:GenAI革命で信頼を得る

クイズの第1ラウンドは、AIの「人」の柱に焦点を当てました。観客には一連の画像が提示され、画像が本物だと思うか、AIが生成したと思うかをQRコードで投票するよう求められました。

イノベーションと創造性のバランスを取りながら、クリエイターによる倫理的な使用を確保する方法についての議論が展開されました。SitecoreのZach Escabedo氏は、組織全体の基準を設定するAI評議会または法的概要を持つことを主張しました。MicrosoftのNoel Pennington氏は、公平性、信頼性、安全性、プライバシー、セキュリティ、包括性、透明性、説明責任に基づくMicrosoftのフレームワークについて議論した。ペニントン氏は、同僚の1人が遭遇したAIバイアスの例を引き合いに出し、組織がテクノロジーよりも先に人々を訓練する必要性について話しました。SitecoreのAdeline Ashley氏もこの意見に賛同し、AIモデルをトレーニングする人々にとって倫理的な考え方が不可欠であると述べました。

第2ラウンドでは、AIの「プロセス」の柱を探りました。このトピックを紹介するために、聴衆は「ダイバーシティとインクルージョンが鍵となる世界で、AIは男性と女性を区別できると思いますか?」という質問に投票するよう求められました。

エスカベド氏は、AIコンテンツが時間とともに、さまざまな文脈で進化する際に、倫理的な正確性を維持する方法を取り上げ、大規模言語モデル(LLM)システムを使用しているブランドと、そのデータセット内でビジネスをどのように文脈化する必要があるかを指摘しました。彼は、Sitecore Streamなどのソリューションにより、さまざまなブランドキットを追加できるようになり、企業や組織が時間の経過とともに精度を確保できると述べました。ユースケースとして、彼は新しい企業や製品を買収するブランドと、買収に関連するモデル特定のデータを提供することが不可欠であることを挙げました。また、パネルディスカッションでは、精度を確保する上での時間的参照の役割や、生成AIが時間の経過とともに進化するために新しいデータの絶え間ない供給を必要とすることについても議論しました。

第3ラウンドでは、AIの「ガバナンス」の柱を掘り下げ、完全に自律的なAIを持つべきかどうかというトピックについて、観客に投票を求めることから始まりました。

その後、パネルディスカッションでは、自律型AIが構築された後に存在するべきかどうかという考えについて議論しました。Escabedo氏は、特定の状況では、AIは自律的であるべきであり、自律的であり得ると主張し、あなたに代わって決定できる意思決定モデルまたはAIモデルが非常に重要であると述べました。彼は、ユーザーと会話する大規模言語モデルを使用するインタラクティブなチャットボットエクスペリエンスの例を挙げました。このパーソナライズされたエクスペリエンスは、ガードレールを使用してすべてが正常に動作することを確認する「クローズド」シナリオですが、彼は、人間の監視なしに生成AIを採用することの落とし穴の可能性を強調しました。

第4ラウンドでは、AIの「透明性」の柱を探りました。トピックの紹介として、聴衆は、製品レコメンデーションシステムが生成AIまたは従来のAIであると思うかどうかに投票するよう求められました。

パネルは、eコマース小売業者が使用するソリューションを参照し、製品レコメンデーションシステムを従来のAIと定義し、ユーザーの閲覧行動と購入履歴を活用して時間をかけて学習すると説明しました。

このラウンドの2つ目の課題では、製品デザインの企画が生成AIなのか、それとも従来のAIなのかを問われ、エスカベド氏とペニントン氏が加わり、このプロセスを従来のAIではなく生成AIの一形態として分類しました。

セッションは、生成AIと従来のAIの違いと、両方のアプローチの長所と短所について議論するパネルディスカッションで締めくくられました。ペニントン氏は、従来のAIを使用して、顧客の購買行動に基づく関連するオファーで顧客をターゲティングするスーパーマーケットの例と、このアプローチに関連する潜在的なプライバシーと透明性の問題を引き合いに出した。一方、生成AIと透明性のトピックについて、Escabedo氏はマーケターにとってのメリットを認め、データがどこから来ているのかを特定する能力とプロセスの透明性により、マーケターがコントロールを取り戻すことができると述べました。

この洞察に満ちたセッションでパネルが確立したように、責任あるAIへの道には、倫理的で透明性があり、公正なAIシステムを開発および展開する必要があります。信頼を得るために、ブランドと組織は、データのプライバシーを確保し、バイアスを最小限に抑え、プロセス全体で説明責任を維持する必要があります。これらの主要な原則を優先することで、ブランドや組織は、AIの取り組みがプラスの影響を与えるようにしながら、ユーザー間の信頼と信用を育むことができます。

責任ある AI の詳細については、Microsoft の責任ある AI 透明性レポート。