Há três anos, a Microsoft demitiu jornalistas do Microsoft News e do MSN para substituí-los por inteligência artificial. Não foi uma boa ideia! Porque um dos artigos de viagem gerados por IA agora causou uma grande confusão e indignação.
Como o crítico de tecnologia Paris Marx primeiro no X informou na quinta-feira, msn.com havia publicado um texto em seu site recomendando que os turistas visitem o Ottawa Food Bank.
A Microsoft está realmente saindo do parque com suas histórias de viagens geradas por IA! Se você visitar Ottawa, ele recomenda o Ottawa Food Bank e oferece uma ótima dica para os turistas: “Considere entrar com o estômago vazio”. https://t.co/7bvGemDad2
— Paris Marx (@parismarx) 17 de agosto de 2023
No Canadá, o Food Bank corresponde ao banco de alimentos alemão, que arrecada e distribui alimentos para os sem-teto e famílias socialmente desfavorecidas. A versão original do artigo foi removida e o link não está mais acessível.
No texto original, a placa era considerada a terceira recomendação mais importante da lista – à frente do National War Memorial e de assistir a um jogo do Ottawa Senators, time de hóquei no gelo conhecido nacionalmente. O site relata theverge.com.
Recomendações do Editor
O site também entrou em contato com a própria empresa. Em uma declaração ao The Verge, o diretor sênior da Microsoft, Jeff Jones, escreveu: “Este artigo foi removido e estamos investigando como ele passou por nosso processo de revisão”. .
Recomendação do conselho da Microsoft: “Não vá com o estômago vazio”
No texto original, a IA tinha formulado afirmações mais do que infelizes sobre a visita ao Tafel: “As pessoas que nos procuram têm trabalho e família para cuidar e fazer despesas. A vida já é difícil o suficiente. Você não deve ir lá com o estômago vazio.” The Verge tem um Captura de tela de todo o artigo carregado no Imgur.
Quando questionada sobre as declarações, a gerente de comunicações do Food Ottawa Bank, Samantha Koziara, escreveu: “Desnecessário dizer que este não é o tipo de notícia ou ‘história’ que publicamos ou desejamos ser incluídos”.
A linha ‘estômago vazio’ é claramente insensível e não teria acontecido com nenhum editor humano. “Até onde eu sei, nunca vimos nada assim – mas conforme a IA se torna mais popular, não tenho dúvidas de que haverá mais referências imprecisas/inapropriadas em tais artigos. Isso simplesmente ressalta a importância de pesquisadores, escritores e editores da variedade humana”, disse a porta-voz da Tafel.
A Microsoft, por sua vez, escreve em sua página na seção “Sobre nós” que o trabalho de IA é combinado com supervisão humana para garantir que o conteúdo que você mostra seja consistente com os valores da empresa e que informações importantes venham primeiro .
“Todos os dias, nossos algoritmos vasculham centenas de milhares de conteúdos enviados por nossos parceiros. Nós os processamos para entender dimensões como atualidade, categoria, tipo de tópico, conteúdo de opinião e popularidade potencial, e os publicamos com base nas preferências do usuário.”
Discussão sobre isso post