赛博禅心

“最强”小模型:Ministral 3B/8B 发布

要点如下


来自官方的数据

对于 Pretrained Models,如下

Image

小模型的比较,用表来说↑

Image

小模型,用图来比较↑

对于 Instruct Models,如下

Image

小模型的比较,用表来说↑

Image

对于 3B 级别的小模型,用图来比较↑

Image

对于 8B 级别的小模型,用图来比较↑


调用方法

可通过以下平台进行调用:

  • Azure AI

  • AWS Bedrock

  • Google Cloud Vertex AI Model Garden

  • Snowflake Cortex

  • IBM watsonx

并支持私有化部署,和无损量化(lossless quantization)


最后

Mistral 在发布信息页放了个图...

官方玩梗,最为致命...

Image


以及

官方漏了 Gemma 9B,我帮着给补充下🐶

Image