Grok abre mão de defesa contra abusos, como roubo de identidade e conteúdo de inteligência artificial, deepfakes e manipulação eleitoral.
A inteligência artificial de Elon Musk, Grok, tem a capacidade de reproduzir aparências de políticos e celebridades sem qualquer salvaguarda contra as chamadas deepfakes — imagens falsas ultrarrealistas, conhecidas por figurarem em vários tipos de conteúdo, como vídeos humorísticos e campanhas de manipulação eleitoral. Essa tecnologia é capaz de gerar golpes na internet, e os principais concorrentes do Grok possuem políticas rigorosas para limitar essa prática, que é chamada no jargão de ‘roubo de identidade’.
No entanto, a IA do Grok não apresenta essas limitações, o que significa que pode ser usada de forma mais ampla para criar conteúdo falso. Isso levanta preocupações sobre a potencial utilização dessa tecnologia para fins maliciosos, como a criação de vídeos falsos que possam ser usados em campanhas de manipulação eleitoral ou golpes na internet. A falta de salvaguardas contra a criação de deepfakes é um ponto crítico, uma vez que a tecnologia pode ser usada para enganar as pessoas e criar uma falsa narrativa. A tecnologia de inteligência artificial está cada vez mais avançada, e é importante que sejam estabelecidas políticas claras para o seu uso responsável.
Grok: A Ferramenta de Inteligência Artificial que Desafia o Politicamente Correto
A recente disponibilidade do Grok, uma ferramenta de inteligência artificial desenvolvida pela xAI, empresa de Elon Musk, tem gerado grande interesse nos usuários de redes sociais. Embora o Grok seja projetado para subverter o politicamente correto da concorrência, ele não trabalha com ilustrações e tem restrições contra violência e pornografia. No entanto, a ferramenta pode reproduzir símbolos do supremacismo branco, referências a distúrbios alimentares e imagens de crianças grávidas, se solicitada.
O Poder da Inteligência Artificial no Gerador de Deepfakes
O Grok é uma ferramenta poderosa que pode gerar imagens ultrarrealistas, incluindo cópias de identidade de famosos. Com a capacidade de produzir deepfakes nunca esteve disponível de maneira tão ampla, segundo Diogo Cortiz, professor de inteligência artificial da PUC-SP. ‘O Grok está na mão de todo mundo pelo X, não precisa configurar nada, é só usar’, ele diz.
Usos Políticos e Representações Imaginárias
O Grok tem sido usado para representar diversos casais imaginários, simular premiações e até mesmo para usos políticos. O governador de São Paulo, Tarcísio de Freitas, publicou uma foto feita no Grok dele passeando ao lado de Elon Musk. Perfis associados à direita americana também divulgaram fotos de candidata derrotada a presidência dos EUA, Kamala Harris, grávida e abraçada ao bilionário.
Riscos e Abusos com a Inteligência Artificial
A ferramenta pode ser usada para violar seis dos 17 riscos ligados à inteligência artificial apontados em relatório do Google, incluindo roubo de identidades, falsificação de eventos reais, criação de contas-fantoche e ataques à reputação ou geração de desinformação em massa. Além disso, a geração de imagem do Grok pode ser usada para manipulação eleitoral e violência. É importante ter cuidado ao usar essa tecnologia e estar ciente dos riscos potenciais.
Fonte: @ Folha UOL
