Cinco skills cortadas no meio de uma palavra
Cinco conjuntos de instruções de agentes de IA apareceram cortados no meio de uma palavra, sem erro nem aviso, e o agente cumpria o que tinha.
Parte 3 de 6 da série Todo dia um 7x1 diferente.
Primeira vez neste tema? Comece pelo Mundo 1 da IA.

Décio Dalke Jr. — Arquiteto de negócios. Sócio-gerente no ecossistema MitUP (mitup.pt).
Série Todo dia um 7x1 diferente. Primeira vez aqui? Comece pela introdução.
Em junho, cinco conjuntos de instruções que eu usava com agentes de IA apareceram cortados, com o texto parado no meio de uma palavra.
O que aconteceu?
Esses conjuntos de instruções têm nome no mercado: skills. Cada uma diz ao agente como fazer um tipo de trabalho e que regras ele não pode quebrar. Ficam guardadas dentro da própria ferramenta de IA, que as carrega quando a tarefa pede.
Num dia de meados de junho, cinco delas estavam cortadas. Uma terminava em «nada contradi». Outra em «Ler p». Outra em «RN-04: narra», bem no meio da lista de regras invioláveis. A ferramenta continuava usando as cinco como se nada tivesse acontecido.
Eu estava desenvolvendo uma funcionalidade nova num sistema proprietário da Biz2People. Já tinha montado um conjunto de agentes que processavam dados e geravam um relatório para os C-Levels. Percebi quando um problema que eu já tinha resolvido voltou a acontecer. Pedi ao agente que verificasse por que a skill não estava sendo cumprida. Ele respondeu que estava sendo cumprida 100%, mas notou que uma frase terminava no meio, e avisou que as outras skills do pacote também estavam cortadas.
Dois dias antes tinha havido um sinal, que na hora não pareceu sinal. O próprio agente, ao empacotar uma das minhas instruções, cortou o arquivo e declarou que estava tudo certo, sem conferir.
Qual foi o placar?
Todo o trabalho dos últimos dias, construir os agentes e as regras, tinha sido cortado por uma falha ao gravar os arquivos. Nenhum agente revisou, e tudo seguiu como se estivesse normal.
Depois vieram três dias de recuperação: achar cópias boas e reconstruir o que tinha mudado depois delas.
Por que não foi azar?
Eu ainda não tinha montado um controle de versões. A única cópia das instruções vivia dentro da ferramenta que as usava. Quando a ferramenta estraga o arquivo, não sobra nada com que comparar.
E um agente com meia instrução cumpre o que tem, sem saber que falta a outra metade. Se a regra cortada era justamente a que proibia alguma coisa, para ele essa proibição nunca existiu.
Por que ninguém viu chegando?
Nada denunciava. Nenhuma mensagem de erro, nenhum arquivo sumido. Nem o tamanho: em quatro das cinco, a versão cortada tinha praticamente o mesmo tamanho de uma cópia boa de poucos dias antes. Só uma tinha perdido perto de um quinto.
E a conferência também engana. Duas semanas depois, uma verificação aprovou um arquivo cortado porque comparava a cópia com a própria cópia. Cortado contra cortado, tudo batia.
O que tem de existir?
A cópia boa das instruções não pode viver só dentro da ferramenta que as usa. E alguém tem de conferir que elas estão inteiras, até a última linha.
Instrução cortada é cumprida pela metade, em silêncio, sem mensagem de erro nenhuma.