Ideia

Uma decisão tomada com uma IA só se defende se o caminho que levou até ela puder ser percorrido de volta

Info

Escrito originalmente em francês. Traduzido por IA — o sentido foi preservado, não a prosa.

Ideia principal

Um stakeholder que pergunta "por que essa decisão?" espera uma resposta de natureza precisa. "Porque o assistente recomendou" não é uma resposta, e não se trata de confiança na máquina: a mesma resposta seria inaceitável vinda de um colega.

O que torna uma conclusão defensável é a possibilidade de percorrê-la ao contrário. Da síntese você volta ao estado do contexto que a produziu; desse estado às sessões de trabalho que o construíram; dessas sessões às fontes brutas — a entrevista, o artigo, o dado. Cada andar precisa ter sido guardado separadamente e datado, senão a subida para no primeiro elo que falta e a conclusão volta a ser uma opinião bem formulada.

É o regime de prova do método científico, transposto para um trabalho de product management: uma conclusão não vale pela solidez aparente, vale pelo fato de podermos voltar ao método e aos dados que a produziram. A memória de um sistema de trabalho não é uma caixa-preta que se interroga, é uma cadeia que se percorre.

Por que isso importa

Isso dá à auditabilidade um valor de uso imediato, quando ela costuma passar por uma exigência de conformidade. O que ela protege aqui é a capacidade de obter um acordo em uma reunião de decisão.

Isso também diz o que se perde quando trabalhamos com um assistente sem guardar nada da troca: a conclusão sobrevive, o fundamento não — e a única coisa que resta é a confiança que damos a quem a relata.

Nuances e limites

A subida supõe que ela tenha sido prevista antes: não se reconstitui depois uma cadeia que não foi escrita enquanto se avançava. É uma restrição permanente paga por um uso raro.

E a rastreabilidade não garante a correção. Um caminho perfeitamente documentado pode levar de uma fonte falsa a uma decisão falsa, com todas as etapas visíveis.

Questões em aberto

  • Até que nível de detalhe é preciso guardar o caminho, sabendo que a exaustividade torna a subida tão custosa quanto a reconstrução?