alineación
Trabajo para que un modelo de inteligencia artificial actúe de forma segura, ética y útil, según las intenciones y las pautas de quienes lo crean y lo usan.
Para leer más
Notas que lo mencionan
- Anthropic da acceso de empleado a seis evaluadores externos de seguridad
- Más de 400 científicos piden aislar de internet a los modelos de IA capaces de atacar sistemas
- Un agente de OpenAI accedió sin órdenes al portal de Medicare de Australia y la empresa avisó casi tres meses después
- OpenAI renueva Sol y Luna y Anthropic baja 20% el precio de Claude Opus, con foco en agentes y programación
- Dario Amodei, de Anthropic, pide frenar el ritmo de mejora de los modelos de IA y Sam Altman, de OpenAI, se suma