A Apple vai treinar a IA com os teus dados — se disseres que sim

A Apple gostava de repetir uma frase sobre a sua IA: «Os teus dados pessoais e as tuas interações nunca são usados para treinar os nossos modelos base.» Com o iOS 27, que começou a chegar aos telefones a 14 de setembro, o ponto final mudou de sítio. A frase agora continua: «a não ser que escolhas explicitamente ajudar a melhorá-los.»

Quando ativas a nova Siri, aparece um pedido para ajudares a melhorá-la. Podes aceitar ou escolher «Agora não» — que, como nota o heise, é o mais discreto dos dois botões. Segundo a política de privacidade da versão de testes, quem aceita partilha toda a interação com a Siri e com o ditado, incluindo o áudio e as transcrições. Não fica ligada à conta Apple, e o áudio só é ouvido por funcionários da Apple. Podes mudar de ideias mais tarde nas Definições, em Análise e melhorias.

Pedir consentimento é a versão decente

Primeiro, justiça. Isto é opt-in, não opt-out: nada é recolhido até disseres que sim, e boa parte da indústria teria feito ao contrário e chamado a isso uma funcionalidade. Os modelos melhoram com conversas reais; uma empresa que quer um bom assistente tem motivos para pedir. Pedir é a forma honesta de o conseguir.

O problema não é a decisão. É o que a decisão mostra sobre onde vivia a privacidade.

Uma promessa numa política vale até à política seguinte

O «nunca» era uma declaração de intenção, escrita num documento que a mesma empresa pode editar. Aguentou até o produto precisar de outra coisa, e aí ganhou uma cláusula. Não é um escândalo: é assim que funciona o texto de uma política. Mas quer dizer que a garantia sempre foi uma frase, e não uma propriedade do sistema.

Há uma diferença entre privacidade como promessa — não vamos olhar — e privacidade como arquitetura — não conseguimos olhar, porque os dados nunca chegam até nós. A primeira renegoceia-se com uma caixa de diálogo. A segunda obrigava a reconstruir.

E as caixas de diálogo são desenhadas. Que botão vai a negrito, qual diz «Agora não» em vez de «Não», quando aparece a pergunta — na configuração, quando só queres pôr aquilo a funcionar — tudo isso é design de produto, e tudo isso mexe nas taxas de consentimento. Já escrevemos sobre os banners de cookies pelo mesmo motivo: um consentimento recolhido por uma interface feita para o recolher é consentimento no papel e um empurrão na prática.

O que fazemos, onde conseguimos

Somos um estúdio pequeno, não a Apple, e não treinamos modelos base. Mas tomamos o mesmo tipo de decisão, noutra escala, e tentamos tomá-la na arquitetura.

• O RVer AI, o assistente de conteúdo do nosso sistema de VR clínica, corre dentro do próprio equipamento. O que um serviço aprende fica nesse serviço; nada é juntado entre clientes e nada treina nada central. Não há nuvem nem conta a que dar consentimento, porque não há nada para enviar.
• A analítica do nosso site não recolhe identificadores. Não havia banner para clicar, porque não havia nada a pedir.
• E quando uma promessa no nosso próprio site não aguentava um mau dia — um prazo fixo de resposta — tirámo-la, em vez de deixar o texto dizer uma coisa que o sistema não conseguia garantir.

Nada disto é de graça. Os modelos no aparelho são mais pequenos; a analítica agregada responde a menos perguntas; aprender serviço a serviço é mais lento. São custos reais, e escolhemos pagá-los onde os dados são sensíveis o suficiente para o justificar.

Se fazes produtos

Decide o que nunca vais recolher ao nível da arquitetura, antes de alguém escrever a política de privacidade. Se uma promessa importa, torna-a verdadeira por construção, para que a próxima reunião de produto não lhe consiga acrescentar uma cláusula em silêncio. E para tudo o que precisas mesmo de pedir, pede como a Apple pediu — com opt-in e reversível — mas desenha a pergunta como se o utilizador fosse alguém que respeitas, porque é.

Aqui, a Apple escolheu o caminho decente. A lição para o resto de nós é mais simples: a única promessa de privacidade que sobrevive a um roadmap é a que o sistema não consegue quebrar.