Sigue a ZDNET: Agréganos como fuente preferida en Google.
Takeaways de llave de ZDNET:
- Claude está incorporando IA en una extensión del navegador internet Chrome.
- La beta cerrada permite a los usuarios chatear con Claude en un panel lateral.
- Anthrope advirtió a los primeros usuarios que usen la extensión con cuidado.
Claude, el modelo AI de Anthrope, está siguiendo la perplejidad con su navegador internet Comet y DIA incorporando IA en un navegador internet. El primer esfuerzo de Anthrope es un Beta cerrada de una extensión del navegador web Chrome.
Con esta extensión, podrá chatear con Claude en un panel lateral persistente que mantiene el contexto de las sesiones de navegador activo. Más allá de la IA conversacional, la extensión puede leer, navegar y tomar medidas dentro de los sitios internet. Estas acciones pueden incluir tareas como la ubicación de listados en Zillow, resumir documentos o agregar artículos a los carritos de compras, directamente desde la barra lateral del navegador.
Además: algunos maestros están usando IA para calificar a sus alumnos, descubre Anthrope: por qué eso importa
La compañía dijo que está adoptando este enfoque porque ve «el navegador que usa la IA como inevitable: se produce mucho trabajo en los navegadores que dar a Claude la capacidad de ver lo que está viendo, los botones de clics y los formularios de relleno lo harán sustancialmente más útil».
Cómo probarlo
Sin embargo, la mayoría de los usuarios no podrán usar esta extensión pronto. En su lanzamiento inicial, «Claude for Chrome» solo estará disponible hasta 1,000 Claude Max Plan de suscriptores. Max tiene dos niveles de servicio y no son baratos. El plan de $ 100 ofrece a los suscriptores cinco veces más uso por sesión, mientras que el plan de $ 200 tiene 20 veces más uso por sesión. Los suscriptores también pueden Regístrese para una lista de espera Para probar Claude para Chrome.
También: Anthrope acepta establecer una demanda colectiva de infracción de derechos de autor: lo que significa
Mientras que muchos usuarios están ansiosos por probar Claude para Chrome, otros sospechan. Como un comentarista de Ycombinator sugirió:
Claude para Chrome parece estar caminando directamente hacia el «trifecta letal.»
La trifecta letal de las capacidades es:
- Acceso a sus datos privados: ¡uno de los propósitos más comunes de las herramientas en primer lugar!
- Exposición al contenido no confiable: cualquier mecanismo por el cual el texto (o imágenes) controlado por un atacante malicioso podría estar disponible para su LLM
- La capacidad de comunicarse externamente de una manera que podría usarse para robar sus datos (a menudo llamo a esto «exfiltración», pero no estoy seguro de que el término se entienda ampliamente).
Si su agente combina estas tres características, un atacante puede engañarlo fácilmente para acceder a sus datos privados y enviarlos a ese atacante.
Proceder con precaución
Para ser justos, Anthrope es consciente de los peligros. De hecho, la compañía dijo: «Realizamos extensas pruebas de inyección de aves adversas, evaluando 123 casos de prueba que representan 29 escenarios de ataque diferentes. El uso del navegador sin nuestras mitigaciones de seguridad mostró una tasa de éxito de ataque del 23.6% cuando fue deliberadamente atacado por actores maliciosos».
También: Los mejores servicios de VPN (y cómo elegir el adecuado para usted)
Para bloquear estos ataques, Claude for Chrome implementa un sistema de permiso robusto para mitigar los riesgos. Los usuarios deben otorgar un permiso explícito para cada sitio internet o acciones específicas, con una mayor seguridad cuando están involucradas tareas confidenciales, como compras o cambios de cuenta. La extensión ofrece controles personalizables, permitiendo que los usuarios elijan cuándo Claude puede actuar de manera autónoma y cuándo se requiere la aprobación humana.
Además, Claude para Chrome no se puede utilizar con sitios internet de categorías de alto riesgo, como servicios financieros, contenido para adultos y contenido pirateado.
También: Claude gana los altos elogios de un juez de la Corte Suprema: ¿es la racha authorized perdedora de la IA?
Sin embargo, incluso con todas esas defensas en su lugar, los ataques todavía estaban ganando a una tasa del 11,2%. Eso no es bueno.
Por lo tanto, Anthrope advirtió a los usuarios que usen la extensión con cuidado y que no confíen en ella con información privada o trabajo actual. Con todas esas advertencias en mente, puede aplicar para probar la extensión. No se puede decir que Anthrope no le advirtiera que se dirigirá a un territorio peligroso. Buena suerte.
