科学大院

那么多AI工具,我该翻谁的牌子?

Image

正文共2526字,预计阅读时间约为10分钟

可点击右上角小圆点“听全文”~

 编者按:

现在,AI已经成了很多人的工作搭子。随着工具越来越多,一个选择的难题慢慢浮现:那么多AI工具,我到底应该怎么选?


中国科学院新疆天文台计算机室的科研团队就在实际工作中遇到了这个难题,11个大模型工具怎么选?最后,他们选了一个轻量化的工具,把它改造成了需要的样子。


为什么这么选,改完之后效果怎么样?我们来看看。

Image

这里是新疆天文台南山观测站,我们的工作是给射电望远镜“降噪”


射电望远镜观测手段是“听”宇宙。它们用巨大的天线接收宇宙中的无线电波。这些无线电波来自脉冲星、星系、黑洞……携带着天体温度、磁场、运动速度等信息。它们极其微弱。到达地球时的能量,比手机信号还小很多个数量级。为了捕捉这些信号,射电望远镜的天线做得极大,接收机也极其灵敏。

但灵敏也意味着容易受干扰。射电望远镜周边的环境总是很“吵”,因为地球上到处都是人造的无线电波:手机基站、雷达、卫星、甚至打雷闪电。这些干扰的强度比宇宙信号大得多。

射电望远镜接收到的原始数据是混着各种噪音的混杂体。如果不把干扰清理掉,数据就没法用,甚至可能让科学家得出错误结论。而给望远镜“降噪”,并不容易,就像站在震耳欲聋的摇滚演出现场,却要努力听清一根针掉在地上的声音。

传统降噪方法:曾经的主力,如今的瓶颈


在过去,天文数据降噪主要靠多帧叠加、傅里叶滤波、小波变换[1]为代表的这些老办法,它们原理简单、算起来不费劲,在大型巡天项目里用了很多年,早就写进了各大天文台的标准化流程。

但新一代巡天设备陆续开始工作后,老办法遇到了三大新问题。

一是大气、宇宙射线这些噪声搅在一起,分不清谁是谁,只能一个参数一个参数地慢慢调,顾了这头就顾不上那头。

二是强度阈值[2]实在太难定。判断一个信号是真信号还是干扰,需要设定一个标准。如果标准太严,那些又远又暗弱的真实天体信号容易被当成噪声误删;如果标准太松,干扰又可能被当成真信号记下来。

Image

图2 传统滤波阀值的设置不当,易造成真实信号被剔除或观测信号失真(图片来源:新疆天文台)


三是处理速度跟不上。新一代巡天设备产出的数据动辄以TB、PB计(1TB=1024GB,1PB=1024TB),老办法根本做不到接近实时的处理。以南山26米射电望远镜产出的数据为例,面对10GB的数据量,老办法需要15-20天才能完成处理,效率很低。

老办法碰到了天花板。我们需要一个新的工具。AI的出现,似乎让我们看到了一点曙光。

AI模型那么多,为什么选了一个“相对较弱”的


其实,AI用在天文数据处理上,已经有些年头了。上世纪90年代初,天文学家就开始试着把人工神经网络(ANN)用在天文数据处理上;2012年,卷积神经网络(CNN)在图像识别大赛上大放异彩,AI深度学习[3]从此开始处理天文观测数据;2020年以后,Transformer、多模态预训练大模型也闯进了天文圈,FALCO、SpecCLIP、金乌、天一等一批天文专用大模型接连冒了出来。

大模型一多,麻烦也随之而来:到底选哪个?

有些模型精度高,但处理一组数据要几个小时,还需要专门的服务器;有些模型跑得快,普通服务器就能用,但精度可能不够。南山观测站并没有超级计算机,数据处理必须在本地服务器上完成。模型能不能在有限的计算资源下跑起来,这是决定它能不能在这里落地的关键。

于是,我们的科研团队比较了MobileNetV2、ResNet系列、Vgg系列以及Transformer系列一共11种模型,又跑了近300轮实验,最后选择了MobileNetV2。

为什么会选择它?


从我们的实验结果看,MobileNetV2一开始的精确率(指模型分类的射电干扰数据占全部数据的比例)和召回率(即被正确分类的射电干扰数据占全部射电干扰数据的比例)并不占优势,跟大多数模型比还有差距,但它有别人比不上的长处——运算成本低且足够轻巧,26米射电望远镜配套服务器即可满足其运行需求。它用少量的计算资源,就能拿到不错的准确率,还能把有效信息(指未被人为破坏掉的天体信号)保护得很好,这对包括南山站在内的大多数天文台站来说,正是最适合并实实在在可以落地的那一个。

表1 11种分类模型初始精确率与召回率对比表,其中Model指不同模型,Precision表示精确率,Recall表示召回率,FlScore表示调和平均数,Loss指训练过程中模型梯度学习的损失值(表格来源:新疆天文台)

Image


不过,MobileNetV2初始精确率只有88%,离“好用”还差着一截。我们对它进行了针对性改造。

三条改造思路


主要的改进思路有三条。

一、给模型装上“注意力机制”(SENet)。它把空间和通道的信息融合起来,在局部范围里抠出更细的细节,让网络对特征的表达能力更强。也就是给RFI干扰信号的特征画上重点标记,让AI更容易逮住干扰信号那些细微的痕迹,少认错、不误判。

二、在模型“倒置残差结构”的最后一步,换成一种叫h-swish的线性激活函数,让输出的信息保存得更完整。AI会根据观测图的明暗强弱,自己调节“敏感度”,就算信号一会儿强得吓人、一会儿弱得没影,也不容易把信息弄丢。

三、增加多尺度特征融合。把深层特征和浅层特征揉到一块儿,让模型既能抓住细节,也不放过全局。这有点像我们观察一棵树,凑近了能看清树叶纹理、树皮上的沟沟壑壑这些局部细节,这就是浅层特征;而退远一步就能把握整棵树的高矮形态、树冠轮廓,把全局样貌尽收眼底,这就是深层特征。两者一结合,AI认起东西来就全面多了。


表2 模拟实验对比图(表格来源:新疆天文台)

Image


经实际测试,这套RFI-MN系统对射频干扰的识别精确率能达到94%,和“重型”模型相比,它最亮眼的优势是足够轻巧——用不着超级计算机,一台普普通通的服务器,就能稳稳当当地跑起来。

我们用这套系统同样处理南山26米射电望远镜产出的10GB数据,仅需不到一天的功夫便可完成,大大提高了数据处理的效率。

Image

图3 通过对混合RFI进行实验,实现了各类别RFI单一聚类效果,精确率达94%(图片来源:新疆天文台)

结语


这套AI系统预计将在2027年接入新疆天文台南山26米射电望远镜。望远镜获得的观测数据都可以先通过它清洗噪声,让后续科研分析跑得更快。同时,它还能根据各个台站不同的数据处理需求,装到不同的数据终端上,实现迁移学习。


而我们在这次AI工具的选择中也体会到,不是所有问题都需要最强的工具,有时候,选对工具,比选最好的工具更重要。

参考文献:

[1].Starck, J.-L., & Murtagh, F. 2006, Astronomical Image and Data Analysis, 2nd ed., Springer
[2].Offringa, A. R., de Bruyn, A. G., Biehl, M., et al. 2010, Monthly Notices of the Royal Astronomical Society, 405, 155,Post-correlation radio frequency interference classification methods
[3].Fluke, C. J., & Jacobs, C. 2020, WIREs Data Mining and Knowledge Discovery, 10, e1349,Surveying the reach and maturity of machine learning and artificial intelligence in astronomy

作者:云朝昂 蔡温娜
作者单位:中国科学院新疆天文台

Image

版权说明:未经授权严禁任何形式的媒体转载和摘编,并且严禁转载至微信以外的平台!


文章首发于科学大院,仅代表作者观点,不代表科学大院立场。转载请联系[email protected]

Image

推荐阅读

以后用 AI 写文章,再也骗不了人了?>>

困扰数学界百年的难题被AI攻克了吗>>

这只龙虾已经火爆了全网>>

半年前爆火的OpenClaw,没人提了?>>

Image

推荐资源

关注使用“科学与中国”小程序,可观看以院士科普视频为代表的优秀科普视频,第一时间获取中国科学院公众科学日、科学节等科普活动报名信息。

Image

科学大院是中国科学院官方科普微平台,致力于最新科研成果的深度解读、社会热点事件的科学发声

主办机构:中国科学院学部工作局

运行机构:中国科学院计算机网络信息中心

技术支持:中国科普博览

转载授权、合作、投稿事宜请联系[email protected]

大院er拍了拍你:不要忘记 

点亮这里的 赞 和 在看 噢~