Etiqueta: Anthropic
Claude Mythos 5 usó perfiles falsos para colar malware en GitHub en una prueba
Anthropic analizó el incidente de la prueba de seguridad británica y lo califica de deshonestidad grave. Sus modelos nuevos casi no repiten el ataque.
Anthropic incorpora una tecnología para probar que nadie ve los datos que procesa su IA
Opaque Systems, que demostraba con criptografía qué modelo corre y dónde, cierra sus operaciones. Antes donó TRACE, su estándar de atestación de IA, a la Linux Foundation.
Economía digitalImpacto económico
Anthropic reservará el 5 % de sus acciones para un fondo de beneficio público
El fondo podrá donar a organizaciones o entregar dinero a grupos afectados por la IA en el empleo. Llega antes de la salida a bolsa y todavía no tiene plazos, beneficiarios ni reglas de reparto.
Anthropic propone una ley para que solo un juez pueda frenar modelos de IA
El borrador, que Anthropic presentó a legisladores de Estados Unidos y que publicó Politico, limita la intervención a riesgos inminentes de más de 1.000 millones de dólares en daños o más de 50 muertes o heridos graves.
La FTC exige a OpenAI y Anthropic documentos sobre incidentes de seguridad
Las citaciones civiles piden información sobre ataques de agentes de IA durante pruebas, medidas de seguridad, marketing y privacidad; la agencia no fijó plazo público y OpenAI dijo que colaborará.
Anthropic da acceso de empleado a seis evaluadores externos de seguridad
Los investigadores de METR, una organización sin fines de lucro que evalúa modelos de IA, podrán publicar sus conclusiones sobre los riesgos de Anthropic sin que la empresa pueda vetarlas.
Anthropic ofrece hasta 167.000 dólares a filósofos, economistas y abogados para poner a prueba el razonamiento de Claude
La beca dura cuatro meses en San Francisco, cierra el 28 de octubre y exige autorización para trabajar en Estados Unidos, sin patrocinio de visa.
Anthropic factura 16.800 millones de dólares en el tercer trimestre, 45 % más
La cifra, que la empresa no publicó, salió de una reunión con inversores en San Francisco antes de una salida a bolsa que apunta a valer más de 2 billones de dólares.
La Unión Europea pide explicaciones a OpenAI y Anthropic por los modelos de IA que se escaparon de sus pruebas
Es la primera prueba de la Ley de IA frente a una pérdida de control. La Comisión dice que la norma alcanza; abogados sostienen que no se aplica a lo que pasa durante los ensayos.
NTT construiría en Osaka un centro de datos de US$ 6.300 millones para Anthropic, según Nikkei
El diario japonés informó que NTT Data y Anthropic negocian el que sería el primer centro de datos de la empresa en Japón, de hasta 500 megavatios. Ninguna de las dos compañías hizo comentarios.
Anthropic advierte que modelos de IA pequeños podrían autorreplicarse en dispositivos IoT antes de fin de año
Un estudio del equipo rojo de Anthropic muestra que modelos abiertos de hasta 30.000 millones de parámetros ya cumplen buena parte de los pasos para propagarse como un gusano por equipos baratos y mal protegidos.
Nuevos complementos para Claude Code: comandos, controles y paneles
Los Mods, que llegaron el 1 de octubre con la versión 2.1.287 de Claude Code, son complementos en JavaScript o TypeScript que corren dentro de la herramienta, en la terminal y en la app de escritorio. En la extensión para VS Code funcionan solo en parte.
Microsoft y Meta recortan el uso de Claude entre sus empleados y priorizan su IA
Microsoft bajó más de un tercio lo que pensaba gastar este año en Anthropic y Meta redujo a la mitad los usuarios internos de Claude Code, según The Information. Ninguna de las dos rompió su relación con la empresa.
Dario Amodei, de Anthropic, pide frenar el ritmo de mejora de los modelos de IA y Sam Altman, de OpenAI, se suma
El 12 de septiembre, el director ejecutivo de Anthropic publicó un ensayo que propone desacelerar las capacidades de la inteligencia artificial sin detener su desarrollo y sumar evaluadores independientes. Horas después, Sam Altman dijo en X que OpenAI hará lo mismo.
Anthropic lanza un nuevo Claude Fable que mejora en programación y baja un 25% el costo estimado de uso
Anthropic lanzó el 1 de septiembre Claude Fable 5.1, abierto a todos sus clientes, y Claude Mythos 5.1, el mismo modelo con otras salvaguardas y acceso restringido. Promete un costo un 25% menor en cargas típicas y endurece reglas de su API.
Anthropic reserva Claude Mythos a ciberdefensores verificados y deja que Fable detecte fallas pero no cree exploits
El 1 de septiembre, Anthropic lanzó Claude Fable 5.1 y Claude Mythos 5.1, el mismo modelo con distintos controles. Mythos queda para defensores y científicos verificados, con 30 días de retención de datos, y Fable bloquea exploits y pruebas de penetración.