O avanço da inteligência artificial desperta fascínio pela velocidade e pela aparente precisão com que ela produz respostas sobre qualquer tema. Contudo, por trás dessa promessa de conhecimento ilimitado, surgem questões fundamentais sobre a natureza da verdade, da consciência e da própria capacidade humana de conhecer. Este artigo propõe uma reflexão crítica sobre os limites da IA, argumentando que máquinas não “sabem” realmente, mas apenas processam dados sem compreensão moral ou intelectual. Em meio ao entusiasmo tecnológico contemporâneo, o texto recorda que o verdadeiro conhecimento permanece inseparável da inteligência, da consciência e da responsabilidade humanas.
John Horvat, The Imaginative Conservative | Tradução: Equipe Instituto Newman
Os entusiastas da Inteligência Artificial (IA) ficam particularmente impressionados com a quantidade de conhecimento que os aplicativos de IA parecem possuir. Eles estão convencidos de que os aplicativos sabem tudo. Basta perguntar e os bots de IA geram uma enorme quantidade de informações sobre qualquer assunto em questão de segundos. E esses resultados são considerados precisos e confiáveis.
No entanto, isso é uma ilusão. Na realidade, a IA não pode “saber”nada, pois não é capaz de perceber as coisas. Seus resultados não são precisos nem confiáveis, pois a IA trata tudo como dados e não como verdade. O que a IA não é capaz de saber deve ser analisado para obter a perspectiva correta sobre esse mais recente desenvolvimento no mundo cibernético.
Saber ou não saber
O primeiro problema da IA é a natureza de seu “conhecimento”. A IA não produz suas informações por meio de um processo de compreensão do conteúdo de seus assuntos.
Saber significa perceber diretamente, ter uma compreensão ou conhecimento direto de algo. Isso pressupõe a existência de um sujeito que conhece. Não se pode dizer que a IA sabe algo, pois ela não é um sujeito consciente de suas ações. Ela apenas executa processos iniciados por seres humanos em algum momento.
A IA carece dessa capacidade de conhecer. Os aplicativos de IA coletam, compilam e apresentam resultados de acordo com procedimentos pré-estabelecidos, probabilidades matemáticas e algoritmos. Esses algoritmos podem ser sofisticados e produzir muitos resultados que simulam o saber. Mas a IA não está gerando conhecimento. Sem programação humana, gatilhos e comandos, ela é inútil.
Gerando dados, não conhecimento
O segundo problema da IA é que ela carece do objeto do conhecimento. Não só a IA não possui um sujeito que conhece, como também não há compreensão daquilo que deve ser conhecido. Os aplicativos não reúnem conhecimento, mas apenas compilam dados indiscriminados.
Dados são informações em forma numérica que podem ser transmitidas ou processadas digitalmente. Para o aplicativo, não há significado além da coleção de uns e zeros que serve de base para encontrar certos padrões, usos e critérios. Assim, para a IA, a verdade sublime da existência de Deus e as últimas cotações da bolsa de valores são a mesma coisa. Verdade e erro são igualmente indistinguíveis nas coleções de zeros e uns da IA.
Os sistemas de IA utilizam probabilidades matemáticas para determinar a melhor resposta a perguntas e diálogos. Frequentemente, eles apresentam a resposta mais popular, e não a mais precisa, com base em sua análise de dados. Assim, podem gerar respostas que satisfaçam os usuários. No entanto, informações errôneas podem se infiltrar — e de fato se infiltram — até mesmo nos sistemas mais sofisticados. Os dados não captam nuances.
Milhões de mentiras por hora
Um problema fundamental dos sistemas de IA é que nem sempre são precisos e confiáveis. A precisão das respostas geradas pelos bots de IA depende inteiramente do conjunto de dados do qual elas são extraídas. Esse conjunto pode incluir sites confiáveis, bem como sites gerados por usuários, como o Facebook, o Reddit e a Wikipédia.
Um estudo recente da AI Overview analisou resumos gerados por IA que agora aparecem no topo dos resultados de pesquisa do Google. O recurso usa um programa de IA chamado Gemini 3, transformando o Google de um curador de informações de outras pessoas em um criador de conteúdo.
Um estudo do New York Times concluiu que essas respostas da IA são precisas em cerca de 90% das vezes. Com mais de cinco trilhões de buscas por ano, o número de respostas erradas é enorme. Outro artigo sugere, de forma irônica, que o Google conta dezenas de milhões de mentiras a cada hora. A cada minuto, surgem centenas de milhares de imprecisões.
Ninguém no mundo real consegue agir com eficácia com uma precisão tão imprecisa. Uma margem de erro de 10% é um convite ao desastre.
Errar é próprio da IA
Essa tendência a errar não é segredo. Todas as respostas do Google AI Overview incluem uma advertência do Google em letras pequenas logo abaixo, que diz: “A IA pode cometer erros, portanto, verifique as respostas com cuidado.”
As formas de errar são tão complexas quanto os sistemas que operam a IA. Por exemplo, duas pesquisas idênticas no Google, mesmo feitas com segundos de diferença, podem gerar resultados diferentes: um preciso, o outro não.
Algumas vezes, a IA pode fornecer a resposta certa, mas os sites vinculados não oferecem evidências concretas para fundamentar essa resposta. Outras vezes as pesquisas ainda apresentam os detalhes desejados corretamente, mas erram nas informações contextuais adicionais.
O estudo também afirma que a IA pode ser manipulada. Quem sabe como burlar o sistema pode adaptar seus textos para que sejam selecionados nos resumos dos resultados de pesquisa. Parece que uma coisa que a IA nem sempre consegue saber é a verdade.
À Beira do Abismo
A gravidade da falta de precisão e confiabilidade da IA fica evidente quando os usuários confiam nos chatbots para ajudá-los a tomar decisões que mudam suas vidas ou que envolvem forte carga emocional. Os usuários presumem que a IA “conhece” o estado de suas almas e pode oferecer ajuda psicológica.
Essa confiança na IA é muitas vezes infundada, já que conselhos mal orientados resultaram em tragédias, relacionamentos pseudo-românticos fatais com a IA e outros danos em todas as faixas etárias. Os desenvolvedores estão se vendo como alvo de ações judiciais que os responsabilizam por tais ocorrências.
A Anthropic, desenvolvedora do Claude, está consultando líderes cristãos sobre como incorporar o “pensamento ético” nas máquinas. Sem essa orientação, muitos acreditam que a IA pode levar a sociedade à beira do abismo.
Esses temores têm fundamento. A IA pode assumir um caráter sinistro porque não há restrições morais em seu mundo orientado por dados. Ela não pode saber o que é o comportamento correto; somente os humanos podem. Não existem algoritmos “éticos” que possam ser introduzidos no projeto da IA.
A IA se baseia em dados da Internet, que refletem o estado decadente da humanidade. Evitar o desastre que a IA pode causar deve envolver uma reforma da humanidade. Isso significa retornar às formas pelas quais o homem foi destinado a conhecer Deus e sua lei por meio das faculdades humanas. Assim, o homem poderá amar e servir a Deus e afastar-se da beira do abismo.
O autor
John Horvat II é colaborador sênior do The Imaginative Conservative, além de ser acadêmico, pesquisador, educador, palestrante internacional e autor do livro *Return to Order*, bem como de centenas de ensaios publicados. Ele mora em Spring Grove, na Pensilvânia, onde ocupa o cargo de vice-presidente da Sociedade Americana para a Defesa da Tradição, da Família e da Propriedade.
