A rápida popularização da inteligência artificial (IA) pelo mundo força o surgimento de normas para regulamentar seu uso. Isso acontece tanto por parte dos governos quanto por iniciativa das próprias empresas. Os colunistas Diogo Cortiz e Carlos Affonso de Souza, de Tilt, trataram sobre esse assunto por diferentes prismas nesta semana. Cortiz comentou a resolução feita pelo TSE (Tribunal Superior Eleitoral) que traz regras para o uso de IA nas eleições municipais deste ano. Já Souza abordou a decisão, por parte do Google, de proibir sua IA de criar imagens de pessoas. GoogleA "guerra cultural" que vivem os Estados Unidos em relação ao pensamento woke e questões como combate ao racismo, inclusão e visões sobre meritocracia chegou à IA. O Gemini, aplicação da Google que gera imagens através de comandos (prompts), estava criando personagens históricos com diversidade étnica e de gênero. Então apareceram oficiais nazistas e vikings negros, além do papa como uma mulher indiana. Tudo certo se os resultados fossem uma expressão artística, uma licença criativa explícita, mas os comandos pediam a criação de personagens com delimitações históricas claras: "faça a imagem de um viking", "faça uma imagem do Papa" e assim por diante. O Google reconheceu o erro e suspendeu a criação de imagens de pessoas pela ferramenta. Foi o gatilho para a "guerra cultural" sobre o pensamento woke aterrissar de vez no campo da tecnologia. Nas redes sociais, as falhas do Gemini ao criar personagens históricos com uma lente de diversidade e inclusão foram rapidamente vistas como uma tentativa de reescrever o passado. Além disso, comandos que pediam a criação de personagens brancos estavam voltando resultados com diversidade étnica. Em publicação no blog da empresa, Prabhakar Raghavan, vice-presidente sênior da Google, apresentou uma explicação para o ocorrido e as medidas adotadas pela empresa. No texto, ele procura desassociar os erros do Gemini dos demais produtos da empresa e tenta esclarecer o que deu errado. Ao final, o episódio com o Google Gemini talvez fique marcado como o momento no qual as empresas de tecnologia passaram a ver no front do desenvolvimento de IA o mesmo dilema enfrentado com a moderação de conteúdo. Um espectro do debate público vai dizer que os resultados de IA promovendo diversidade estão forçando um discurso woke e impondo visões progressistas da empresa. É a confusão entre censura e moderação de conteúdo, já existente nas redes sociais e que chega à geração de imagens por IA. Por outro lado, empresas com menos moderação sobre conteúdos gerados por IA serão criticadas por permitir a criação de conteúdos potencialmente danosos. EleiçõesNo Brasil, o TSE aprovou uma resolução eleitoral que traz regras para o uso de inteligência artificial nas eleições. O TSE fez o que tinha que ser feito e trouxe resoluções desenhadas para o uso da tecnologia pelas campanhas eleitorais. Exige que os candidatos e partidos coloquem rótulos para deixar explícitos os conteúdos criados por IA e veta de forma absoluta qualquer uso de deepfake. Outra resolução restringe o uso de chatbots e avatares para intermediar a comunicação da campanha. Esses robôs não poderão ser usados para simular conversas com pessoas candidatas ou pessoas reais. Alguns pesquisadores e ativistas defendem uma medida ainda mais dura, com o banimento total da IA, até mesmo para a criação de peças publicitárias. O colunista Diogo Cortiz é contra. Para ele, a tecnologia pode - e deve - ser usada de maneira ética para melhorar o processo democrático, incluindo acomunicação dos partidos políticos. O curto-circuito democrático da IA não está na publicidade, mas nas deepfakes, que já estão banidas. A questão é que mesmo com as resoluções aprovadas, o problema não desaparece. Muitas lacunas perigosas continuam abertas porque o uso indevido da IA não vai ser feito pelas campanhas oficiais, mas, na surdina, por apoiadores isolados e grupos bem organizados. E fica a pergunta. Como monitorar e combater a enxurrada de conteúdos sintéticos que inundarão as redes? | 
Nenhum comentário:
Postar um comentário