Categories
Los desarrolladores de inteligencia artificial de OpenAI han lanzado GPT-4o mini, un nuevo modelo lingüístico multimodal (LLM) que es una versión más pequeña del GPT-4o. Este modelo promete ofrecer mejores resultados que el GPT-3.5 Turbo, al cual ha reemplazado en ChatGPT.
Según el anuncio, GPT-4o mini es el modelo lingüístico pequeño más rentable que OpenAI ha desarrollado hasta ahora. El LLM ha alcanzado una puntuación del 82 por ciento en MMLU (Medición de la Comprensión Lingüística Multitarea Masiva), mientras que el GPT-3.5 Turbo, que ha sido sustituido por GPT-4o mini, solo alcanzaba el 69.8 por ciento. El modelo completo GPT-4o sigue siendo el líder con una puntuación del 88.7 por ciento. Por su parte, el competidor Gemini Flash alcanza el 77.9 por ciento. Además, se espera que el modelo tenga un rendimiento superior en otras métricas.
Mejor y más económico que el GPT-3.5 Turbo
El costo del GPT-4o mini es de 15 centavos de dólar por cada millón de tokens de entrada y 60 centavos de dólar por cada millón de tokens de salida. Esto significa que el LLM es un 60 por ciento más económico que el GPT-3.5 Turbo y, sin embargo, ofrece un mejor rendimiento. El modelo lingüístico tiene ventajas en términos de costo y baja latencia cuando se encadenan múltiples llamadas, especialmente cuando se utilizan múltiples APIs, y puede procesar entradas con mayor contexto, como la importación de una base de código completa.
Actualmente, GPT-4o mini admite ventanas de contexto de 128,000 tokens y 16,000 tokens de salida por solicitud. Como modelo lingüístico multimodal, en el futuro se espera que admita texto, imágenes, videos y audio tanto como entrada como salida. El conocimiento del modelo tiene una fecha de corte en octubre de 2023.
Al igual que con otros modelos lingüísticos de OpenAI, antes del entrenamiento se filtraron informaciones para que el LLM no se entrene ni genere respuestas con ellas. Entre estas informaciones se incluyen discursos de odio, contenido para adultos, páginas con información personal principalmente y spam.
Disponible gratuitamente en ChatGPT
GPT-4o mini está disponible desde ahora en las API de Assistants, Chat Completions y Batch de OpenAI. Los desarrolladores deben pagar los mencionados 10 centavos de dólar y 60 centavos de dólar por cada millón de tokens de entrada y salida, respectivamente, para acceder al modelo.
Dentro de ChatGPT, que es ofrecido por OpenAI, GPT-4o mini está disponible para los usuarios de los grupos Free, Plus y Team, en lugar del GPT-3.5 Turbo. A partir de la próxima semana, también se realizará la migración de los usuarios empresariales.
