O que a IA faz bem, o que faz mal e o que ela não faz

Em 2023, dois advogados de Nova York entregaram à Justiça um documento que citava seis decisões judiciais favoráveis ao cliente. Nenhuma das seis existia. O assistente de IA que eles usaram as tinha inventado, com nome, número e trechos citados. O juiz aplicou uma multa de 5 mil dólares aos advogados e ao escritório. O problema não foi usar a IA. Foi entregar sem conferir, e insistir depois.

Onde ela costuma acertar

A IA vai bem onde o trabalho é linguagem e padrão: resumir um texto longo, reescrever num tom diferente, traduzir, organizar anotações soltas numa tabela, propor um primeiro rascunho, classificar mensagens, sugerir ideias para você escolher. Nessas tarefas, o erro é fácil de ver e barato de corrigir.

Onde ela tropeça

Os tropeços aparecem nos fatos exatos: número, data, nome, lei, citação. Contas longas também são um ponto fraco, assim como assuntos muito recentes ou muito específicos da sua empresa, que ela não conhece. E, como só trabalha com o que recebe, ela falha em tudo o que você não contou. O pior é que erra no mesmo tom seguro com que acerta.

O que ela não faz

Assumir responsabilidade, conhecer o seu cliente como você conhece e saber o que a sua empresa considera aceitável ficam fora do alcance dela. Isso continua com gente.

Uma regra simples resolve boa parte dos casos: quanto mais caro for o erro, mais você confere. Um rascunho de legenda para as redes pede uma olhada. Um contrato, uma proposta com preço ou uma resposta a um cliente pedem revisão de quem entende do assunto.

Nos próximos artigos vão aparecer termos como prompt, token e agente. O próximo é um dicionário, para você consultar quando precisar.