OpenAI casi duplica el contexto por omisión de su modelo Sol en Codex

OpenAI subió de 272.000 a 500.000 tokensUnidad mínima de texto que procesa un modelo de lenguaje, como una palabra, parte de una palabra o un signo. Se usa para medir cuánto lee y escribe un modelo y para cobrar su uso. la ventana de contexto por omisión de GPT-6.1 Sol, su modelo más avanzado, cuando se usa desde Codex y ChatGPT Work. Es un aumento de cerca del 80 %, anunciado el 11 de octubre en X por Thibault Sottiaux, uno de los responsables de Codex en la empresa.

La ventana de contexto es la cantidad de texto que el modelo puede tener presente a la vez, medida en tokens, los fragmentos de palabra con los que trabaja. En Codex, el asistente de programación de OpenAI, esa ventana se llena con el código, las instrucciones y el historial de una tarea. Cuando se acerca al límite, Codex hace una compactación: resume los pasos anteriores y descarta detalle para poder seguir.

Menos resúmenes en las tareas largas

Sottiaux explicó que el cambio busca reducir las compactaciones y ayudar en las tareas que exigen sostener mucho contexto y matices durante bastante tiempo. Dijo que el nuevo valor "se probó con cuidado" y que es "el nuevo punto justo para la mayoría de nuestros usuarios". Quien quiera puede fijar otro valor, más alto o más bajo, hasta un máximo de un millón de tokens. "Vamos a ir más alto en el futuro", escribió.

El anuncio fue el día 7 de una serie de 28 días de lanzamientos de OpenAI, según OrcaRouter y la agencia BlockBeats. GPT-6.1 Sol salió el 29 de septiembre y está disponible en Codex y ChatGPT Work para los planes pagos Plus, Pro, Business, Enterprise y Edu, pero no en el chat común de ChatGPT, según la guía del desarrollador Flavio Copes.

De recortar a ampliar

El número no es nuevo para Codex. En agosto, OpenAI había bajado la ventana de Codex de 372.000 a 272.000 tokens sin anunciarlo, con un cambio en el código abierto de su herramienta de línea de comandos. Sottiaux justificó entonces el recorte por costo: cuanto más grande es el contexto, más caro sale reenviarlo en cada paso de una tarea, y la calidad de las respuestas por encima de 272.000 era similar.

El aumento llega acompañado de un cambio en el cobro, según OrcaRouter y BlockBeats: OpenAI dejó de cobrar el recargo por contexto largo de GPT-6.1 Sol cuando se usan los créditos de una suscripción de ChatGPT. En la APISigla en inglés de interfaz de programación de aplicaciones: conjunto de reglas que permite que un programa le pida datos o funciones a otro de manera estandarizada., en cambio, el valor por omisión y los precios siguen iguales: cada pedido con más de 272.000 tokens de entrada se cobra al doble en la entrada y a una vez y media en la salida.

Sottiaux no dijo cuándo llegará el próximo aumento ni si alcanzará también a la API.