O governo do Quebeque cancelou três projetos-piloto de automação e chatbots baseados em inteligência artificial generativa após relatórios internos detetarem falhas técnicas graves. Os testes em serviços públicos revelaram tempos de resposta incompatíveis com o atendimento ao cidadão, incapacidade de processar pedidos complexos e taxas elevadas de erro nas respostas geradas.
A decisão de interromper os testes expõe uma falha recorrente na digitalização do Estado: colocar modelos de linguagem como interface direta com o público antes de ter os processos e os dados subjacentes devidamente estruturados. A tecnologia de geração de texto lida mal com a exigência de rigor absoluto e determinismo que o serviço público requer.
Quando um cidadão contacta a administração pública, procura uma resposta exata e fundamentada na lei, não uma interação conversacional aproximada. A latência elevada e as incorreções detetadas nos testes canadianos mostram que adicionar uma camada generativa sobre processos complexos não resolve a ineficiência interna, apenas transfere a incerteza para o utilizador.
O recuo no Quebeque demonstra que a modernização eficaz do setor público exige começar pelo processamento estruturado de dados e pela validação interna de rotinas. Substituir sistemas de suporte por interfaces conversacionais sem reformular a arquitetura subjacente compromete a prestação do serviço e a confiança nas instituições.