Índice
A nova funcionalidade de inteligência artificial da Apple gera notificações imprecisas.
A Apple recentemente lançou uma funcionalidade de inteligência artificial (IA) em iPhones para resumir notificações de aplicativos. No entanto, esse recurso gerou preocupações devido a resumos imprecisos que disseminam notícias falsas. Um exemplo ocorreu durante a semifinal do PDC World Darts Championship, quando a IA afirmou erroneamente que o jogador britânico Luke Littler havia vencido o campeonato, antes da final. Esse erro levantou questões sobre a capacidade da tecnologia em transmitir informações confiáveis.
Problemas com notificações falsas
Poucas horas depois do erro sobre Littler, a funcionalidade de IA voltou a falhar, afirmando que o tenista Rafael Nadal havia se assumido como gay, o que também era falso. Esses incidentes geraram uma reação negativa, especialmente da BBC News, que tenta resolver o problema com a Apple desde dezembro, após outra manchete falsa sobre Luigi Mangione, preso pelo assassinato do CEO da UnitedHealthcare, Brian Thompson.
Resposta da Apple
A Apple não comentou imediatamente, mas informou que está trabalhando em uma atualização para esclarecer quando a Apple Intelligence é responsável pelo texto das notificações. Atualmente, as notificações geradas aparecem como se fossem da própria fonte noticiosa, o que aumenta o risco de desinformação. A empresa afirmou que a funcionalidade está em fase beta e encoraja os usuários a reportarem notificações inesperadas.
Impacto em outros veículos
Não apenas a BBC, mas outros veículos de notícias também foram afetados. Um caso notável foi a notificação falsa de que o primeiro-ministro israelense Benjamin Netanyahu havia sido preso. Esses incidentes ilustram os desafios que a IA enfrenta em gerar conteúdo preciso.
Análise de especialistas
Especialistas como Ben Wood destacam que a Apple não está sozinha em enfrentar dificuldades com conteúdo gerado por IA. As chamadas “alucinações” de IA podem resultar em informações falsas ou enganosas, apresentadas de maneira confiante. A complexidade de resumir conteúdo em poucas linhas contribui para esses erros, tornando essencial a implementação de melhorias.
Melhorias e expectativas
A Apple prometeu uma solução para essas falhas nas próximas semanas. Enquanto isso, a empresa continua a aprimorar suas funcionalidades com base no feedback dos usuários, buscando reduzir erros e aumentar a precisão dos resumos gerados por IA.
Perguntas frequentes
Quais problemas a IA da Apple tem enfrentado em iPhones?
A IA tem gerado resumos imprecisos em notificações, resultando em notícias falsas e desinformação.
Como a Apple está lidando com as notícias falsas geradas pela IA?
A Apple está desenvolvendo uma atualização para esclarecer quando a Apple Intelligence é responsável pelos textos e está aprimorando o sistema com base no feedback dos usuários.
Quais foram alguns exemplos de notícias falsas geradas pela IA?
Exemplos incluem a vitória prematura de Luke Littler no PDC World Darts Championship e uma afirmação falsa sobre Rafael Nadal.
Outros veículos de notícias foram afetados?
Sim, a BBC e outros veículos também enfrentaram problemas com resumos imprecisos gerados pela funcionalidade de IA.