Capital de TokensUn billón de parámetros, pero solo 49.000 millones por consulta
Ver en YouTube El billón describe el tamaño total del modelo. Los cuarenta y nueve mil millones describen los parámetros que, según Mistral, se activan por consulta. AI Weekly explica que eso acerca el coste de los cálculos de cada respuesta al de un modelo denso de cuarenta y nueve mil millones. No significa que guardar el modelo co
El billón describe el tamaño total del modelo. Los cuarenta y nueve mil millones describen los parámetros que, según Mistral, se activan por consulta. AI Weekly explica que eso acerca el coste de los cálculos de cada respuesta al de un modelo denso de cuarenta y nueve mil millones. No significa que guardar el modelo completo o disponer de la infraestructura para ejecutarlo cueste lo mismo. Los parámetros que no trabajan en una consulta siguen formando parte del sistema.
Episodio completo: https://youtu.be/3sNB5QRQ95g
🤖 Contenido generado con IA: el guion, las voces y las imágenes de este episodio se produjeron con herramientas de inteligencia artificial.
#Shorts