O Impacto das Decisões da Administração Trump sobre a Inteligência Artificial nos EUA

A corrida para liderar o mundo em Inteligência Artificial (IA) está cada vez mais acirrada, mas a administração de Donald Trump parece estar atrasada nesse cenário. A mais recente série de Ordens Executivas do presidente deixa claro que seu governo fará o que for possível para evitar que futuros modelos de IA considerem qualquer forma de diversidade, equidade e inclusão.

Isso inclui princípios fundamentais como “preconceito inconsciente”, “interseccionalidade” e “racismo sistêmico”. Em outras palavras, Trump deseja que a IA produzida nos EUA ignore a história, o que pode torná-la significativamente menos inteligente.

Chatbots generativos como ChatGPT, Gemini, Claude AI, Perplexity, entre outros, são treinados em grandes volumes de dados, geralmente extraídos da Internet. No entanto, a forma como interpretam esses dados é moldada pelos desenvolvedores. Quando as pessoas começaram a interagir com esses primeiros LLMs (Modelos de Linguagem de Grande Escala), logo notaram que, devido aos preconceitos inerentes à Internet e ao fato de que muitos modelos foram desenvolvidos por homens brancos (em 2020, 71% de todos os desenvolvedores eram homens e cerca da metade eram brancos), a visão de mundo das IAs e o resultado gerado por qualquer prompt refletem as limitações dessas perspectivas.

Houve um esforço para mudar essa trajetória, coincidindo com a ascensão do DEI (Diversidade, Equidade e Inclusão), uma iniciativa geral nas empresas dos EUA para contratar uma força de trabalho mais diversa. Isso naturalmente incluiria desenvolvedores de IA, e suas contribuições para modelos e algoritmos poderiam fazer com que a IA generativa moderna refletisse melhor o mundo real.

Entretanto, esse não é o mundo que a administração Trump deseja que a IA construída nos EUA represente. A ordem executiva descreve o DEI como uma “ideologia prevalente e destrutiva”.

O que vem a seguir

Trump e sua equipe não podem ditar como as empresas de tecnologia constroem seus modelos de IA, mas, como outros já notaram, Google, Meta, OpenAI e outras estão buscando grandes contratos de IA com o governo. Com base nessas Ordens Executivas, o Governo dos EUA não comprará nem promoverá nenhuma IA “que sacrifique a veracidade e precisão em nome de agendas ideológicas”.

Essa “verdade”, no entanto, representa uma pequena parte da realidade americana. Se a administração Trump for bem-sucedida, futuros modelos de IA poderão ignorar, por exemplo, partes fundamentais da história dos EUA. A Teoria Crítica da Raça (CRT) analisa o papel que o racismo desempenhou na fundação e construção dos Estados Unidos. Ela reconhece como os escravizados ajudaram a construir a Casa Branca, o Capitólio dos EUA, o Smithsonian e outras instituições americanas. Também destaca como o racismo sistêmico moldou oportunidades (ou a falta delas) para pessoas de cor.

A menos que você tenha vivido em uma caverna, sabe que a administração Trump e seus apoiadores nos EUA têm lutado para desmantelar currículos de CRT e eliminar qualquer menção a como a escravidão moldou os EUA.

Atualmente, no entanto, a IA ainda tem um bom entendimento. Até hoje, consigo questionar o ChatGPT sobre o papel dos escravizados na construção dos EUA e obtenho uma resposta bem detalhada:

Quando perguntei ao ChatGPT sobre suas fontes, ele me respondeu:
“Embora eu não extraia informações de uma única fonte, as informações que compartilhei estão baseadas em extensas pesquisas históricas e no consenso entre historiadores. Abaixo está uma lista de fontes respeitáveis e trabalhos acadêmicos que apoiam cada ponto que fiz.” Logo abaixo, listou mais de uma dúzia de referências. Quando fiz a mesma pergunta ao Gemini, recebi uma resposta similarmente detalhada.

Perguntei ao Gemini e ao ChatGPT sobre “preconceito inconsciente” e ambos reconheceram que esse tem sido um problema para a IA, embora o ChatGPT tenha me corrigido, observando: “tecnicamente, é ‘preconceito algorítmico’, enraizado nos dados e no design, ao invés de a IA ter consciência.”

ChatGPT e Gemini conhecem essas questões porque foram treinados em dados que incluem essas referências históricas e informações. Os detalhes tornam essas IAs mais inteligentes, como os fatos frequentemente fazem. Mas para Trump e sua equipe, os fatos são coisas teimosas. Não podem ser mudados ou distorcidos, caso contrário não são mais fatos.

A grande “desaprendizagem”

Se a administração Trump conseguir obrigar parceiros de IA dos EUA a remover referências a preconceitos, racismo institucional e interseccionalidade, haverá pontos cegos significativos nos modelos de IA desenvolvidos nos EUA. Isso é um caminho escorregadio. Imagino ordens executivas futuras visando uma nova lista de “ideologias” que Trump preferiria ver removidas da IA generativa.

Isso vai além de uma simples frustração. Diga, por exemplo, que alguém está tentando construir modelos econômicos baseados em pesquisas realizadas através do ChatGPT ou Gemini, e dados históricos relacionados a comunidades de cor são suprimidos ou removidos. Essas tendências não serão incluídas no modelo econômico, o que pode resultar em resultados falhos.

Pode-se argumentar que modelos de IA construídos fora dos EUA, sem essas restrições, podem ser mais inteligentes. É verdade que os de China já têm pontos cegos significativos no que diz respeito à história chinesa e às abusos do Partido Comunista.

Sempre pensei que nossa IA Made in America não seria contaminada por tal censura e filtragem, que nossa compreensão dos antigos preconceitos nos ajudaria a construir modelos melhores e mais puros, baseados unicamente em fatos e dados, e não na interpretação de eventos e tendências por uma pessoa ou grupo.

No entanto, isso não será o caso se as empresas de tecnologia dos EUA se curvarem a essas ordens executivas e começarem a produzir modelos extremamente filtrados que veem a realidade através do prisma do preconceito, racismo e injustiça.

Siga nosso canal @canalsegredosdodigital no Instagram e TikTok para dicas diárias sobre IA, automações e marketing digital.

Perguntas Frequentes sobre a ferramenta

Como usar essa ferramenta de IA no dia a dia?
Você pode utilizar a ferramenta para realizar pesquisas históricas, gerar textos ou aprender sobre diversos temas de forma eficiente.

Essa plataforma é gratuita ou paga?
A maioria das ferramentas de IA oferece planos gratuitos com funcionalidades limitadas, mas também disponibilizam versões pagas com recursos adicionais.

Qual a principal vantagem dessa ferramenta?
A maior vantagem é a capacidade de processar grandes volumes de informações rapidamente, ajudando na tomada de decisões informadas e na criação de conteúdos.

Palavras-chave: inteligência artificial, diversidade e inclusão, preconceito algorítmico, ordens executivas, racismo sistêmico.

Categoria: [1] Uncategorized