Investigador de OpenAI afirma que DeepSeek descubrió ideas clave detrás de o1 196

Mark Chen (@markchen90)28 de enero

¡Felicidades a DeepSeek por desarrollar con éxito un modelo de razonamiento de nivel o1! Su artículo de investigación muestra que han descubierto algunas de las ideas centrales que nosotros tuvimos en el proceso de implementación de o1.

Sin embargo, creo que la reacción externa ante este logro ha sido un tanto exagerada, especialmente en lo que respecta a la narrativa sobre el coste. Existen dos paradigmas (preentrenamiento y razonamiento) que significan que podemos optimizar las capacidades en dos ejes, no solo en uno, lo que reduce el coste total.

Pero esto también demuestra que podemos ampliar las capacidades en ambas direcciones, ¡y tenemos previsto invertir activamente recursos computacionales en ambas direcciones!

A medida que avanza la investigación sobre destilación, también descubrimos que la relación entre la reducción de costes y la mejora de capacidades es cada vez más independiente. Ofrecer servicios a un coste menor (especialmente con mayor latencia) no equivale a lograr mayores capacidades.

Seguiremos optimizando nuestros modelos para ofrecer servicios a un coste menor, manteniendo al mismo tiempo el optimismo sobre nuestro plan de investigación y centrándonos en su ejecución. ¡Esperamos ofrecerles modelos aún más potentes durante el primer trimestre de este año y a lo largo de todo el año!