Enfrentamiento de AI responsable: ganar confianza en la revolución GenAI

La primera ronda del cuestionario se centró en el pilar de "personas" de la AI. A la audiencia se le presentó una serie de imágenes y se le pidió que votara a través de un código QR si pensaban que las imágenes eran reales o generadas por AI.

Se desarrolló una discusión sobre cómo garantizar el uso ético por parte de los creadores mientras se equilibra la innovación y la creatividad. Zach Escabedo de Sitecore defendió tener un consejo de AI o una descripción legal que establezca los estándares en toda una organización. Noel Pennington, de Microsoft, habló sobre el marco de Microsoft, que se basa en la equidad, la confiabilidad, la seguridad, la privacidad, la inclusión, la transparencia y la responsabilidad. Haciendo referencia a un ejemplo de sesgo de AI encontrado por uno de sus colegas, Pennington habló sobre la necesidad de que las organizaciones capaciten a las personas antes que a la tecnología. Adeline Ashley de Sitecore se hizo eco de este sentimiento, diciendo que una mentalidad ética es esencial para las personas que entrenan modelos de AI.

La segunda ronda exploró el pilar del "proceso" de la AI. Para presentar el tema, se pidió a la audiencia que votara sobre la siguiente pregunta: "En un mundo donde la diversidad y la inclusión son clave, ¿cree que la AI puede distinguir entre hombres y mujeres?"

Al abordar cómo es posible mantener la precisión ética cuando el contenido de AI evoluciona con el tiempo y en diferentes contextos, Escabedo señaló a las marcas que utilizan un sistema de modelo de lenguaje grande (LLM) y cómo necesitan contextualizar su negocio dentro de ese conjunto de datos. Dijo que soluciones como Sitecore Stream permiten agregar diferentes kits de marca, lo que permite a las empresas y organizaciones garantizar la precisión a lo largo del tiempo. Como caso de uso, citó las marcas que adquieren nuevas empresas o productos y el imperativo de alimentar el modelo con datos específicos relacionados con la adquisición. El panel también discutió el papel de las referencias temporales para garantizar la precisión y cómo la AI generativa requiere una alimentación constante de nuevos datos para evolucionar con el tiempo.

La tercera ronda profundizó en el pilar de "gobernanza" de la AI y comenzó cuando se le pidió a la audiencia que votara sobre el tema de si deberíamos tener una AI totalmente autónoma.

Luego, el panel discutió la idea de si la AI autónoma debería existir después de su construcción. Escabedo argumentó que, en ciertos contextos, la AI debería y puede ser autónoma, diciendo que un modelo de decisión o un modelo de AI que pueda decidir en su nombre es extremadamente importante. Dio un ejemplo de una experiencia de chatbot interactivo que utiliza un modelo de lenguaje grande para conversar con un usuario. Si bien esta experiencia personalizada es un escenario "cerrado" que utiliza barandillas para garantizar que todo funcione como debería, destacó las posibles trampas de emplear AI generativa sin supervisión humana.

La cuarta ronda exploró el pilar de "transparencia" de la AI. Como introducción al tema, se pidió a la audiencia que votara si pensaban que los sistemas de recomendación de productos son AI generativa o AI tradicional.

Haciendo referencia a las soluciones utilizadas por los minoristas de comercio electrónico, el panel definió los sistemas de recomendación de productos como AI tradicional, explicando que aprenden con el tiempo aprovechando el comportamiento de navegación y el historial de compras del usuario.

En el segundo desafío de esta ronda, se preguntó a la audiencia si la ideación del diseño de productos es AI generativa o AI tradicional, con Escabedo y Pennington interviniendo, y categorizando el proceso como una forma de AI generativa en lugar de AI tradicional.

La sesión concluyó con el panel discutiendo la diferencia entre la AI generativa y la AI tradicional y las ventajas y desventajas de ambos enfoques. Pennington se basó en el ejemplo de un supermercado que utiliza AI tradicional para dirigirse a los clientes con ofertas relevantes basadas en su comportamiento de compra, y los posibles problemas de privacidad y transparencia relacionados con este enfoque. Mientras tanto, sobre el tema de la AI generativa y la transparencia, Escabedo reconoció los beneficios para los especialistas en marketing, diciendo que la capacidad de identificar de dónde provienen los datos y la transparencia del proceso devuelven el control al comercializador.

Como estableció el panel durante esta sesión perspicaz, el camino hacia la AI responsable requiere desarrollar e implementar sistemas AI que sean éticos, transparentes y justos. Para ganarse la confianza, las marcas y las organizaciones deben garantizar la privacidad de los datos, minimizar los sesgos y mantener la responsabilidad a lo largo de sus procesos. Al priorizar estos principios clave, las marcas y las organizaciones pueden garantizar que sus esfuerzos de AI tengan un impacto positivo, al tiempo que fomentan la confianza entre los usuarios.

Para obtener más información sobre la AI responsable, lea el Informe de Transparencia de AI Responsable.