NNI的特性及核心功能

上次开场白说明了NNI最基本的Hyper-parameters（超参）调整，其实只是其中的功能之一。NNI尚有其他的特性及核心功能。
NNI的特性：
NNI 是一个工具包，可有效的帮助使用者设计并调优机器学习模型的神经网路架构，复杂系统的引数（如超参）等。NNI 的特性包括：易於使用，可扩充套件，灵活，高效

• 易於使用：NNI 可通过 pip 安装，只需要在程序码中新增几行，就可以利用 NNI 来调优超引数与模型架构。
• 可扩充套件：调优超参或网路结构通常需要大量的计算资源。NNI 在设计时就支援了多种不同的计算资源，如远端 服务器组、OpenPAI 和 Kubernetes 等训练平台。
• 灵活：除了内建的演算法，NNI 中还可以轻松整合自定义的超参调优演算法、神经网路架构搜寻演算法、提前终止演算法等等。还可以将 NNI 连线到更多的训练平台上，如云计算虚拟机器丛集、Kubernetes 服务等等。
高效：NNI 在系统及演算法级别上不停地优化，例如可通过 Trial 早期的反馈来加速调优过程

核心功能：
• 超参数优化：最核心的功能，提供了许多流行的自动调优演算法和提前终止演算法。
• 通用NAS框架：指定候选的架构，并且可以为NAS的研究人员提供了简单的介面，便於开发新的NAS演算法。NNI支援多种one-shot NAS演算法，使用这些演算法不需要启动NNI experiment，只需直接运行。 但是如果需要调整超参数，就需要启动NNI experiement。
• 模型压缩：压缩后的网路通常具有更小的模型尺寸和更快的推理速度， 模型性能也不会有明显的下降。NNI 上的模型压缩包括剪枝和量化演算法
自动特徵工程：为下游任务找到最有效的特徵。