Anthropic Lanza Claude, un Agente de IA para Chrome que Realiza Acciones en tu Navegador Video

Anthropic está probando Claude para Chrome con 1,000 usuarios del plan Max. Si estás suscrito al plan de suscripción Claude Max de Anthropic (cuesta $100 por mes), puedes unirte a la lista de espera a través de este enlace y registrarte en el programa.

Anthropic advierte que instrucciones maliciosas ocultas en sitios web pueden engañar a Claude para que realice acciones dañinas. Por eso está adoptando un enfoque lento y probando solo con usuarios Max por ahora. Investigadores de Brave publicaron recientemente que Comet AI, el navegador de Perplexity — que es un navegador agente, diseñado para realizar acciones — es propenso a ataques de inyección de instrucciones.

Así que es bueno que Anthropic esté lanzando Claude para Chrome de manera escalonada. Como he mencionado antes, la inyección de instrucciones es un problema desafiante en el campo de la IA/ML y la investigación aún continúa para alinear el modelo con los valores humanos, y para separar las instrucciones del usuario de las instrucciones maliciosas que se encuentran en la web.

Anthropic dice que las instrucciones maliciosas pueden engañar a los agentes de IA para que realicen acciones dañinas como acceder a tus cuentas o archivos, compartir tu información privada, realizar compras sin tu conocimiento, realizar acciones que nunca pretendiste, y más.

OpenAI, por otro lado, está utilizando un navegador en la nube aislado para realizar acciones a través del Agente ChatGPT. Mientras tanto, Google está integrando su agente Project Mariner en varios productos, en lugar de ofrecer el agente directamente en Chrome.