关注公众号

关注公众号

手机扫码查看

手机查看

喜欢作者

打赏方式

微信支付微信支付
支付宝支付支付宝支付
×

近红外光谱大数据的发展及应用前景

2019.10.29

随着近红外光谱大数据的进一步发展,近红外光谱技术的各个领域,尤其是数据采集、存储与管理、数据分析以及数据可视化方面将会经历巨大的革新。 


在数据采集方面,以数据采集、处理和分析3项基本功能为基础设计的传统近红外光谱仪器将会逐步被小型化、智能化的新型近红外光谱仪器所取代。


新的近红外光谱仪器仅需包含数据采集与传输功能,数据在经仪器采集之后可直接传输至数据终端进行处理与分析。


而在数据存储与管理方面,传统的以实验室信息管理系统(laboratory information management system,LIMS)为基础的近红外光谱数据存储与管理系统将会升级和发展成为近红外光谱大数据管理系统。



该系统使用以分布式文件系统、分布式数据库为代表的大数据技术存储和管理不同类型和来源的近红外光谱大数据。


在数据分析方面,面对各行各业数据体量巨大、种类繁多的近红外光谱大数据时,传统的数据预处理、奇异样本筛选、多元校正和模型转移技术的分析能力将大打折扣。


因此,必须发展以大数据算法为基础的新型近红外光谱分析技术。新的算法能够在短时间内对TB甚至PB级别的数据进行分析后输出结果,满足了大数据快速、实时分析的需求。


此外,传统的近红外光谱分析由于数据类型简单、数据量小,因此可以文本或图片的形式直接输出分析结果,不存在可视化的问题。而在输出近红外光谱大数据的复杂的分析结果时,必须开发和设计新的大数据可视化方法,对分析结果进行解释和输出。


上面提到的各种技术集成到一起,组成了一个近红外光谱大数据云计算平台。该平台以网络化管理系统为基础,通过新型仪器搜集和传输光谱数据,并使用大数据管理系统存储和管理不同类型和来源的近红外光谱大数据。


同时,  云计算平台还可以使用大数据分析技术对光谱大数据进行分析,挖掘数据中的有效信息,  并将结果以可视化的方式进行表达,为生产生活提供相关的信息,最终实现工业生产的信息化管理。


云计算平台在药检、食品、药品、农业等领域中有广阔的应用前景。通过云计算平台可以管理和存储原料生产、在线产品和实验室研究等不同来源的近红外光谱数据。


同时,使用大数据分析方法对搜集到的光谱大数据进行分析与挖掘,然后将分析结果以可视化的方式进行输出,可以有效地为产品的质量控制提供标准,为原料的管理与存储、产品的销售以及上级有关部门的监控与执法提供可靠依据。


近红外光谱大数据云计算平台的建成对于药检、食品、药品、农业等领域实现的数字化、信息化的管理有重要的意义。


但也需要清醒地认识到,该平台的实施与建设十分复杂而繁琐,硬件和软件方面均存在大量的问题。从硬件角度来说,需要设计和选择不同样式的近红外光谱仪器以满足不同类型样品光谱采集。


此外,为了对采集到的数据进行分析和管理,需要组建大型服务器机群。从软件角度来说,必须开发出相关的大数据分析方法对采集到的近红外光谱大数据进行挖掘,以获得有价值的信息; 还要建设相应的数据管理系统来存储和管理采集到的光谱与分析结果。


建设云计算平台需要做扎实的基础研究和系统的技术开发等工作,属于典型的系统工程,涉及诸多专业,需要多方面的配合,要实现满意的应用效果,需要长期的努力。


随着生产力水平的不断提高,近红外光谱技术将成为一种必须的分析手段。


而将近红外光谱技术与大数据进行融合,建立一套基于大数据的近红外光谱分析管理技术,对于近红外光谱在各行各业之中的深入发展,有着十分重要的意义。


相信在不远的未来,融合了大数据技术的近红外光谱分析技术一定能够在我国信息化与工业化深度融合的发展历程中发挥应有的作用。


推荐
关闭