Halo Tech

羲和(Halo)2025.10产品动态

本文介绍10月份羲和(Halo)的产品功能动态,关于内核的一些更新说明。

Image

在之前的产品动态里,我们曾预告原生AI能力,本期带你预览下该能力。正如我们的理念:THINK DATA, THINK FUTURE!让数据能思考,真正让数据发挥其价值是我们一直追求的目标。为此,我们创造性的设计了MRT(Model Runtime)内核组件,把数据和AI紧密结合,就像大脑一样,数据和计算不是割裂的,而是有机结合的。

Image

MRT主要由执行单元、接口单元和实现单元等部分组成。其中实现单元是模型运行的具体实现,目前已支持GGUF格式的模型,后续也将会支持ONNX格式的模型。

Image

以Qwen3的量化模型为例:

Image

目前我们内置了to_vector系统函数即可完成数据的量化,假使我们对“Halo Database”进行量化,只要执行:

Image

即可完成数据的量化,输出1024维(不同模型可能输出不同的维度)的向量数据:

Image

数据太多,这里就不完整展示了。

正式产品能力将具备自动量化、召回、精排等能力,让数据真正思考起来,敬请期待!