羲和(Halo)2025.10产品动态
本文介绍10月份羲和(Halo)的产品功能动态,关于内核的一些更新说明。
在之前的产品动态里,我们曾预告原生AI能力,本期带你预览下该能力。正如我们的理念:THINK DATA, THINK FUTURE!让数据能思考,真正让数据发挥其价值是我们一直追求的目标。为此,我们创造性的设计了MRT(Model Runtime)内核组件,把数据和AI紧密结合,就像大脑一样,数据和计算不是割裂的,而是有机结合的。
MRT主要由执行单元、接口单元和实现单元等部分组成。其中实现单元是模型运行的具体实现,目前已支持GGUF格式的模型,后续也将会支持ONNX格式的模型。
以Qwen3的量化模型为例:
目前我们内置了to_vector系统函数即可完成数据的量化,假使我们对“Halo Database”进行量化,只要执行:
即可完成数据的量化,输出1024维(不同模型可能输出不同的维度)的向量数据:
数据太多,这里就不完整展示了。
正式产品能力将具备自动量化、召回、精排等能力,让数据真正思考起来,敬请期待!