repeat

 

《30天到3分钟的改变!》系列主要讨论机器学习流程的三个阶段:数据获取和处理、模型训练和评估、模型部署和迭代。在第一期中我们通过数据接入能力、数据准备能力、数据探索和可视化能力三部分,介绍了机器学习建模流程和机器学习平台在数据获取和处理方面需要具备的能力,以及DataCanvasAPS相关的功能特性。本期将重点讨论模型训练和评估!

模型训练和评估

Gartner将数据科学家分成两类:

●ExpertDataScientist(核心数据科学家)

核心数据科学家就是传说中的具备各种交叉学科的综合能力,有深厚的统计学、数学功底,有丰富的数据挖掘、机器学习的经验,有较强的编码能力,对某些业务领域有深入理解的专家。在今天,这样的大神也是凤毛麟角,随着对AI需求的爆发,全部依赖核心数据科学家完成建模工作只能是一个奢侈的愿望,因此衍生出了平民数据科学家的概念。

●CitizenDataScientist(平民数据科学家)

平民数据科学家的门槛更低,他们具备一些统计分析的背景,具有一定建模工具的使用经验,对某个业务领域有较深的理解。平民数据科学家可以很好的弥合企业的建模需求与核心数据科学家严重不足之间的鸿沟,但是真正填补这个鸿沟的实质因素是机器学习平台在建模工具和自动化技术上的突破。

编码、拖拽、自动化三位一体的建模工具已经是机器学习平台必备的能力。核心数据科学家通常更倾向使用IDE、Notebook通过编码的方式完成建模。平民数据科学家更多的是通过拖拽式的可视化建模,甚至是通过AutoML自动建模工具完成建模。当然AutoML同样可以帮助核心数据科学家减少重复劳动,比如自动特征衍生、自动超参数优化、自动模型筛选等。另外拖拽式建模中的模块封装也是通过模块化的思想实现代码沉淀、复用,以及模型生产化和迭代中不可或缺的工程化支撑。

机器学习平台示意图

建模工具是数据科学家的入口,如上图:在建模工具下层是算法和框架的支持,再深入是高性能训练、资源调度的支持,在建模工具之上还需要很多管理特性的支撑,这四个方面是支撑机器学习模型训练和评估的基础。

接下来我们就展开介绍一下:

1、建模工具

使用Notebook交互式编码工具是目前非常流行的建模方式,比较常用的有JupyterNotebook、JupyterLab,以下简称notebook和lab。

notebook的特色是可以实现代码片段(cell)的运行调试不需要每次都运行全部代码,代码段的运行结果(图表、数据、文本)直接显示在代码下方,我们还可以使用markdown插入富文本的说明增加整个notebook的可读性。notebook完成之后,我们还可以选择隐藏掉所有的代码cell只保留文档和运行结果生成一个图文并茂的报告,并且可以导出成html、pdf等格式的文档,这些功能在传统的IDE中都是无法实现的,也是数据科学家们钟爱它的原因。lab可以理解为是一个可以同时打开多个notebook的IDE工作台,功能更加强大。

APS在探索空间集成的JupyterLab

APS在分析模块中集成的JupyterNotebook

APS分析模块中的IDE

拖拽式建模基本上可以算是机器学习平台的标配,其主要原因是:

1、门槛低,不需要编程;

2、可视化,工作流可以让建模过程一目了然;

3、模块化,工作流上的每一个节点完成特定的工作,好的平台不但提供足够多的预置模块还可以让用户自己开发模块实现代码积累和复用。

APS的工作流开发界面

AutoML是近几年机器学习领域的热点,Gartner预计到2020年40%的建模工作是通过自动化方式完成的。全流程的自动化是一个终极目标,从自动准备宽表、特征衍生和加工、模型选择、超参数优化、模型融合到自动化的模型迭代。在深度学习领域NAS(神经网络架构搜索)和强化学习、迁移学习可以大幅提升建模效率、减少对核心数据科学家的依赖。

从本质上说自动建模是一个用算力换算法的过程,那么如何使用更少的算力得到更优质的算法模型是考验AutoML水平的核心问题,其中包括元学习的方法、贝叶斯优化算法、基于Boosting思想的特征选择方法等等,在学界和业界呈现百花齐放的状态。在此之上人类经验目前还是提升模型性能的关键要素,如何把人类经验和AutoML能力有机结合,APS给出了自己的方案:

Tags：

转载请标注：信息网——【布道师系列】杨健——30天到3分钟的改变！中篇