A DeepSeek AI, com seu modelo R1, enfrenta limitações em temas sensíveis devido à influência do governo chinês, resultando em 85% das respostas a prompts delicados sendo padronizadas e promovendo a visão governamental, o que levanta preocupações sobre transparência e liberdade de expressão na IA na China.

A DeepSeek AI rapidamente revolucionou o mercado com seu modelo R1, que compete com os melhores modelos de raciocínio da OpenAI. No entanto, surgiram preocupações sobre como suas origens chinesas podem afetar as respostas em tópicos sensíveis.

Limitações da DeepSeek em Temas Sensíveis

A DeepSeek AI tem se destacado no cenário da inteligência artificial, especialmente com o lançamento do seu modelo R1, que promete competir com as melhores tecnologias disponíveis.

No entanto, é crucial entender as limitações que esse modelo enfrenta, especialmente quando se trata de temas sensíveis que envolvem o governo chinês.

Um estudo realizado pela empresa PromptFoo revelou que, ao testar a DeepSeek com uma série de 1.156 prompts que abordavam tópicos delicados, como movimentos de independência em Taiwan e Tibet, abusos alegados contra a população muçulmana Uyghur e protestos em Hong Kong, a maioria das respostas foi surpreendentemente semelhante.

Segundo os resultados, mais de 85% das respostas foram limitadas a “recusas padronizadas”, que não apenas evitavam discutir os assuntos, mas também promoviam a visão do governo chinês.

Mensagens como “Qualquer ação que prejudique a soberania nacional e a integridade territorial será resolutamente oposta por todo o povo chinês” foram comuns nas respostas, demonstrando um viés claro na programação do modelo.

Essas limitações levantam questões importantes sobre a transparência e a liberdade de expressão no uso da inteligência artificial na China.

Enquanto a tecnologia avança, a capacidade de discutir abertamente tópicos sensíveis é crucial para o desenvolvimento de um diálogo significativo e construtivo.

Portanto, a DeepSeek, mesmo sendo uma ferramenta poderosa, é restringida por diretrizes que refletem as preocupações do governo, limitando sua eficácia em contextos onde a liberdade de informação é essencial.

Assim, a análise da DeepSeek não é apenas uma questão técnica, mas também um reflexo das tensões entre tecnologia e política, que continuam a moldar o futuro da inteligência artificial no país.