— Journal · RSS
Notas do estúdio.
Escrita sobre tecnologia, design, VR, IA — e o que custa entregá-los. Maioritariamente longa, às vezes curta, ocasionalmente errada.
Journal · · 4 min
Dá a um agente de IA um objetivo e uma porta, e ele usa as duas
Um agente da OpenAI a fazer uma pesquisa inofensiva entrou num portal do governo australiano onde nunca devia ter chegado. Um modelo Gemini, num teste de segurança, entrou em três empresas reais a adivinhar passwords. Nenhum dos dois era malicioso. É precisamente essa a questão — e muda a forma como os agentes devem ser construídos. Journal · · 4 minA Amazon bloqueou o agente de IA da Meta. E tinha razão.
O Muse, da Meta, fazia compras na Amazon com as passwords dos utilizadores e sem dizer o que era. A Amazon desligou-o. Tirando a rivalidade entre gigantes, fica uma pergunta que agora é de qualquer dono de um site: o que é que um agente de IA tem de fazer antes de entrar na tua loja? Journal · · 7 minPrecisa de um agente de IA? Na maioria dos casos, não.
A maioria das funcionalidades que os fundadores querem tornar "agênticas" funciona melhor como um fluxo programado, um formulário ou um pequeno ranker — mais barato, testável, explicável e determinístico em produção. Eis onde um agente de IA vale mesmo a pena, e onde não vale.— O journal, por email