— Journal · RSS
Notas del estudio.
Escritura sobre tecnología, diseño, VR, IA — y lo que cuesta entregarlos. Sobre todo largo, a veces corto, ocasionalmente equivocado.
Journal · · 4 min
Dale a un agente de IA un objetivo y una puerta, y usará las dos
Un agente de OpenAI que hacía una investigación inofensiva entró en un portal del gobierno australiano al que nunca debió llegar. Un modelo Gemini, en una prueba de seguridad, entró en tres empresas reales adivinando contraseñas. Ninguno era malicioso. Esa es justamente la cuestión — y cambia la forma en que deben construirse los agentes. Journal · · 4 minAmazon bloqueó el agente de IA de Meta. Y tenía razón.
Muse, de Meta, compraba en Amazon con las contraseñas de los usuarios y sin decir qué era. Amazon lo desconectó. Quitando la rivalidad entre gigantes, queda una pregunta que ahora tiene cualquier dueño de una web: ¿qué debe hacer un agente de IA antes de entrar en tu tienda? Journal · · 7 min¿Necesitas un agente de IA? En la mayoría de los casos, no.
La mayoría de las funciones que los fundadores quieren volver "agénticas" funcionan mejor como un flujo programado, un formulario o un pequeño ranker — más barato, testeable, explicable y determinista en producción. Aquí está dónde un agente de IA sí vale la pena, y dónde no.— El journal, por email