Saltar para o conteúdo

SEGURANÇA E CONFIANÇA NA IA

Uma IA a quem pode pedir contas

Cada ação do assistente é verificada contra o seu perfil, espera pela sua confirmação quando é destrutiva, leva um id de rastreio e fica num registo de auditoria ao qual só se acrescenta. O dinheiro mantém-se em cêntimos inteiros.

Cada alteração fica registada.

Cada escrita, sua ou do assistente, fica registada com o pedido que a originou e com o autor que a fez. O registo completo segue dentro da exportação dos seus dados.

  • IA
    ai.categorize09:41:07

    entidade: Supermercado → cat: Alimentação · confiança: 0,94

  • Utilizador
    budgets.move09:58:12

    aprovado por si · 40,00 € Alimentação → Restaurantes

  • Regra
    rules.apply10:14:03

    FNAC → Livros · a regra abrangeu 4 movimentos

  • Importação
    transactions.import10:22:47

    Sincronização bancária · 38 novos, 0 duplicados

  • API
    transactions.update11:05:19

    Uma aplicação ligada · etiquetou 12 movimentos

trace: 01H8T1-Z078H · role: editor

  • Cada linha diz de onde veio

    Cada entrada guarda o pedido que a produziu, para que qualquer alteração possa ser seguida do clique até à linha.

  • Quem ou o quê, sem dúvidas

    O utilizador, o assistente, uma regra, uma importação ou uma chave de API. O registo guarda o autor, não apenas a alteração.

  • É seu, leve-o consigo

    O registo completo segue dentro da exportação dos seus dados, num formato que consegue abrir.

  • Nada o reescreve

    As entradas só são acrescentadas. Não existe forma de editar nenhuma dentro do produto, e só uma limpeza agendada as remove.

Como tratamos os seus dados

As mesmas ferramentas em todo o lado.

74 ferramentas no registo, 8 das quais esperam pela sua confirmação antes de mudar o que quer que seja. O assistente, a aplicação, a API e o MCP leem a mesma lista.

  • A quem paga

    8 coisas que consegue fazer aqui

  • Os movimentos do dia a dia

    8 coisas que consegue fazer aqui, 1 das quais perguntam primeiro

  • Categorias e grupos

    7 coisas que consegue fazer aqui, 1 das quais perguntam primeiro

  • As suas contas e saldos

    6 coisas que consegue fazer aqui

  • O orçamento do mês

    6 coisas que consegue fazer aqui, 2 das quais perguntam primeiro

  • Recibos e fotografias

    6 coisas que consegue fazer aqui

  • Contas que se repetem

    6 coisas que consegue fazer aqui

  • Regras que arrumam por si

    6 coisas que consegue fazer aqui, 1 das quais perguntam primeiro

  • Objetivos de poupança

    3 coisas que consegue fazer aqui, 1 das quais perguntam primeiro

O que obriga o assistente a prestar contas.

O assistente, a aplicação web, a API pública e o MCP chamam o mesmo registo de ferramentas. Cada ferramenta declara o perfil mínimo do agregado que a pode usar e as permissões de API de que precisa, e a verificação faz-se no servidor antes de executar o que quer que seja: quem só consulta tem apenas ferramentas de leitura, editores e proprietários têm as de escrita, e algumas eliminações ficam reservadas ao proprietário. Uma ferramenta inventada pelo modelo é recusada da mesma forma.

As ferramentas destrutivas nunca correm à primeira chamada. Deixam uma ação pendente com uma pergunta e uma pré-visualização construída com dados que a ferramenta já resolveu, e esperam pelo seu sim; o registo recusa-se a arrancar se uma ferramenta destrutiva chegar sem confirmação. Algumas escritas também perguntam quando a entrada o justifica: editar muitas linhas de uma vez, aplicar uma regra ao histórico, carregar um pacote inicial. Uma confirmação só pode ser reclamada uma vez, por isso um pedido repetido não corre duas vezes, e uma ação cancelada fica registada como cancelada.

Cada alteração entra no registo de auditoria, ao qual só se acrescenta, com quem agiu, a partir de que superfície, o que mudou e o id do pedido por trás, e esse registo segue dentro da exportação dos seus dados. Os modelos são o Claude (Anthropic) e a OpenAI, escolhidos consoante a tarefa, com limites de tokens por turno, por pessoa e por dia e um teto mensal por agregado definido pelo proprietário; ao atingi-lo, o assistente para e diz-lho. O dinheiro está em cêntimos inteiros, por isso nada se perde em arredondamentos.

Id de rastreio
Um por alteração
Ferramentas destrutivas
Esperam confirmação
Perfis
Proprietário, editor, leitor
Registo de auditoria
Só de acréscimo
Limites de tokens
Por turno, por dia, por agregado
Modelos
Claude e OpenAI, consoante a tarefa

O que cada tipo de ferramenta tem de passar.

Três tipos de ferramenta, três barreiras. A resposta não depende da superfície que pergunta.

  1. Leitura

    Qualquer membro pode pedir, incluindo quem só consulta.

    Espera confirmação
    Não
    Exige editor ou proprietário
    Não
    Escrita no registo de auditoria
  2. Escrita

    Algumas entradas perguntam primeiro: edições em bloco, aplicar uma regra ao histórico, carregar um pacote inicial.

    Espera confirmação
    Consoante a entrada
    Exige editor ou proprietário
    Sim
    Escrita no registo de auditoria
    Sim
  3. Destrutiva

    Eliminações e reposições; algumas ficam reservadas ao proprietário.

    Espera confirmação
    Sim
    Exige editor ou proprietário
    Sim
    Escrita no registo de auditoria
    Sim

Verificado no servidor em cada chamada, venha de que superfície vier.

As pré-visualizações são dados estruturados que a ferramenta já conhece (nomes resolvidos, ícones, linhas de exemplo); uma pré-visualização inventada tira o sentido à confirmação.
ADR 0089 · Assistant tool model v2

Confiança, com provas

Deixe o assistente ajudar, com cada passo verificado por permissões, confirmado, rastreável e reversível.