Confronto responsável AI: Ganhar confiança na revolução GenAI

A primeira ronda do questionário centrou-se no pilar "pessoas" da AI. O público foi presenteado com uma série de imagens e convidado a votar através de um código QR se achava que as imagens eram reais ou AI geradas.

Desenrolou-se uma discussão sobre como garantir o uso ético pelos criadores, equilibrando inovação e criatividade. Zach Escabedo, da Sitecore, defendeu a existência de um conselho AI ou uma visão geral jurídica que estabeleça os padrões em toda a organização. Noel Pennington, da Microsoft, discutiu a estrutura da Microsoft que se baseia na justiça, confiabilidade, segurança, privacidade, segurança, inclusão, transparência e responsabilidade. Referindo-se a um exemplo de preconceito AI encontrado por um de seus colegas, Pennington falou sobre a necessidade de as organizações treinarem as pessoas antes da tecnologia. Adeline Ashley, da Sitecore, ecoou esse sentimento, dizendo que uma mentalidade ética é essencial para as pessoas que treinam AI modelos.

A segunda ronda explorou o pilar «processo» da AI. Para introduzir o tema, o público foi convidado a votar na seguinte pergunta: "Em um mundo onde diversidade e inclusão são fundamentais, você acha que AI pode distinguir entre masculino e feminino?"

Abordando como é possível manter o rigor ético quando AI conteúdo evolui ao longo do tempo e em diferentes contextos, Escabedo apontou para as marcas que utilizam um sistema Large Language Model (LLM) e como precisam de contextualizar o seu negócio dentro desse conjunto de dados. Ele disse que soluções como Sitecore Stream possibilitam a adição de diferentes kits de marca, permitindo que empresas e organizações garantam precisão ao longo do tempo. Como caso de uso, citou marcas que adquirem novas empresas ou produtos e o imperativo de alimentar o modelo com dados específicos relativos à aquisição. O painel também discutiu o papel das referências temporais para garantir a precisão e como a AI generativa requer uma alimentação constante de novos dados para evoluir ao longo do tempo.

A terceira ronda aprofundou-se no pilar "governação" da AI e começou com o público a ser convidado a votar sobre o tema da questão de saber se deveríamos ter AI totalmente autónomos.

Em seguida, o painel discutiu a ideia de saber se o AI autônomo deveria existir depois de construído. Escabedo defendeu que, em determinados contextos, AI deve – e pode ser autónomo, dizendo que um modelo de decisão ou AI modelo que possa decidir em seu nome é extremamente importante. Ele deu um exemplo de uma experiência de chatbot interativo que usa um modelo de linguagem grande conversando com um usuário. Embora essa experiência personalizada seja um cenário 'fechado' que usa guarda-corpos para garantir que tudo funcione como deveria, ele destacou as possíveis armadilhas de empregar AI generativas sem supervisão humana.

A quarta ronda explorou o pilar «transparência» da AI. Como introdução ao tema, o público foi convidado a votar se achava que os sistemas de recomendações de produtos são AI generativos ou AI tradicionais.

Fazendo referência às soluções utilizadas pelos varejistas de comércio eletrônico, o painel definiu os sistemas de recomendação de produtos como AI tradicionais, explicando que eles aprendem com o tempo, aproveitando o comportamento de navegação e o histórico de compras do usuário.

No segundo desafio desta rodada, o público foi questionado se a ideação de design de produto é AI generativa ou AI tradicional – com Escabedo e Pennington pesando – e categorizando o processo como uma forma de AI generativa em vez de AI tradicional.

A sessão terminou com o painel discutindo a diferença entre AI generativa e AI tradicional e as vantagens e desvantagens de ambas as abordagens. Pennington baseou-se no exemplo de um supermercado que utiliza AI tradicionais para segmentar clientes com ofertas relevantes com base no seu comportamento de compra – e nas potenciais questões de privacidade e transparência relacionadas com esta abordagem. Enquanto isso, sobre o tema da AI generativa e transparência, Escabedo reconheceu os benefícios para os profissionais de marketing – dizendo que a capacidade de identificar de onde os dados estão vindo e a transparência do processo devolve o controle ao comerciante.

Conforme estabelecido pelo painel durante esta sessão perspicaz, o caminho para uma AI responsável requer o desenvolvimento e a implantação de sistemas AI que sejam éticos, transparentes e justos. Para ganhar confiança, as marcas e organizações devem garantir a privacidade dos dados, minimizar vieses e manter a responsabilidade em todos os seus processos. Ao priorizar esses princípios-chave, marcas e organizações podem garantir que seus esforços AI gerem um impacto positivo, ao mesmo tempo em que promovem a confiança entre os usuários.

Para saber mais sobre a AI responsável, leia o Responsável AI Relatório de Transparência.