Como reduzir os riscos

Com o falecimento da avó, um passageiro precisou viajar para a cerimônia fúnebre. Antes de comprar a passagem, perguntou ao robô de atendimento da Air Canada se poderia pedir o desconto para viagens por luto depois da viagem. O robô disse que sim. A política da própria empresa, publicada no mesmo site, dizia que não. Em fevereiro de 2024, um tribunal da Colúmbia Britânica, no Canadá, mandou a empresa indenizar o passageiro. A Air Canada tinha argumentado que o robô era responsável pelo que dizia. O tribunal não aceitou.

A indenização foi pequena, cerca de 650 dólares canadenses. O princípio vale para qualquer empresa: você responde pelo que a sua IA produz. Quem dá a entrada, o pedido, para a IA gerar uma saída responde inteiramente pelo que ela entrega.

Cinco hábitos que reduzem a maior parte do risco

Escreva uma regra de uso de uma página, com o que pode e o que não pode ir para a IA. Escolha um responsável por área, alguém que responda pelo uso ali. Ajuste a revisão ao custo do erro: um rascunho interno pede uma olhada, e uma resposta a cliente pede revisão humana antes de sair.

Teste antes de expor. Rode a ferramenta com casos reais dentro da empresa e só depois deixe o cliente falar com ela. E guarde o registro do que a IA produziu nas decisões importantes, para poder explicar depois como se chegou ali.

Nada disso trava o trabalho. Só evita que um erro pequeno vire uma notícia.

Reduzir risco é metade da conta. A outra metade é fazer o benefício acontecer de verdade, e esse é o tema do próximo artigo.