《科创板日报》（上海，记者 汪慧）讯，《科创板日报》记者独家获悉，RealAI（瑞莱智慧）的RealSafe人工智能安全平台将于今年年底迭代升级。

瑞莱智慧CEO田天博士表示，升级后的RealSafe平台有两方面的特性，一是场景多样化，从人脸识别的模型安全测评扩展到目标检测、图像分类等；二是功能增强，在算法和模型安全的基础上，增加数据安全板块。

田天介绍道，RealSafe是业内首个针对AI系统的安全检测和防御加固产品。就如互联网时代，网络攻击的大规模渗透催生出杀毒软件，为计算机系统提供一键漏洞检测与漏洞修复等防御功能，RealSafe则是为AI系统量身打造的杀毒软件与防火墙系统，为应对算法模型所面临的新型安全漏洞。平台核心技术来自于RealAI和清华大学人工智能研究院，完全国产自主可控。

目前，RealAI已完成两轮融资，总额约1亿人民币，投资方包括中科创星、松禾资本、BV百度风投、同渡资本和水木清华校友基金。

作为一家清华背书的明星企业，RealAI创始团队阵容可谓豪华。清华大学人工智能研究院院长张钹院士、清华大学人工智能研究院基础理论研究中心主任朱军教授坐阵担任首席科学家。公司CEO由清华大学人工智能专业博士田天担任，田天曾凭借物理竞赛保送清华计算机系，本科毕业后师从朱军教授就读博士，在校期间曾获清华大学“特等奖学金”和“西贝尔学者”称号，是当时计算机系十余年间唯一研究生获得者。

安全AI到底是什么？尖端技术如何落地？《科创板日报》记者与瑞莱智慧CEO田天博士进行了连线专访。

图|瑞莱智慧RealAI CEO 田天

谈初衷：2018年博士毕业，为何选择创业？

“近年来人工智能技术发展非常快，以深度神经网络为代表的第二代AI技术在图像和语音识别、决策控制、大数据挖掘等领域取得了许多成功，但它们仍然与人类智能相差甚远，原因还是在于基础方法层面存在缺陷，比如高度依赖数据质量与规模、决策逻辑不可解释、动态环境中容易被攻击等。

这些反映到业务层面也就是应用效果不及预期，比如有偏差的数据样本可能导致算法对特定人群给出不公平的预测结果，黑盒模型给出的决策结果难以被业务人员真正信赖，因为缺乏推理路径等。

更重要的是，当前的AI技术正面临严峻的安全挑战。一方面，市面上的主流算法模型存在明显的安全漏洞，比如对抗攻击、数据投毒、算法后门等，在人工智能迎来大规模应用之际，这些攻击手段一旦被恶意利用将引发巨大的社会损失。另外，数据作为AI系统构建的重要部分，也陆续被爆出使用过程中不加保护、被恶意窃取引发隐私泄漏等安全问题。

以上种种问题都是实现真正人工智能过程中所必须要克服的。

我们此前一直坚持从底层架构进行创新、重构，深耕贝叶斯深度学习、AI对抗攻防等前沿技术方向，一系列的落地实践让我们看到，这些新的技术方法能够真真切切地帮助企业获取原本受制于技术瓶颈而尚未产生的全新业务价值。另外，人工智能安全作为一个全新的市场方向，虽然才刚刚兴起，但随着人工智能不断走向深水区，我们相信未来它能够形成与网络安全一样的市场局面，所以在早期‘蓝海’阶段，我们希望能够尽快抢占高地。”

对于田天来说，创业以来最大的挑战在于，技术向商业转型的过程。“在技术方面我们是一直领先的，但是如何把我们的优势技术转化为可复制的产品，规模化的去落地是目前为止最关键最有挑战的一块。”

谈痛点：新技术需要“新安全”

不管是黑客利用算法漏洞恶意操纵模型的输出结果、制造“致盲攻击”，抑或是通过数据投毒让人工智能系统失控。

田天指出，目前的人工智能应用基本处于一个裸奔的状态，“大家考虑的是用的好不好，根本就不去考虑它安不安全，但真等到实质性的安全问题产生再去考虑就已经晚了。”

“更重要的是，AI作为一项新技术，是基于数据训练出来的一套全新的系统，与传统软件程序有很大的不同，比如说对抗样本攻击，它对于整个系统架构层面没有任何干扰，只是在算法的输入里面添加干扰，就能导致最终的输出错误。所以，人工智能带来的安全问题是崭新的，解决问题的方法也是新的。”

究其原因，就如张钹院士曾指出的那样，现在的深度学习技术本质上是基于概率统计的学习，简单来说，就是寻找那些重复出现的模式，重复多了就会被认为是规律和真理，但这种没有理解的人工智能有时会做出非常荒唐的结果。

针对此，2016年，张钹院士倡导发展第三代人工智能，“增强算法安全”则是其中的重点方向之一。

田天看来，提升人工智能算法安全性主要包含两层含义，第一层，算法漏洞修复和防御升级，主要针对广泛应用于社会公共安防领域的人脸识别、目标检测系统，避免算法漏洞带来被恶意攻击的风险；第二层，对于训练数据没有覆盖到的边缘场景，比如自动驾驶在开放道路中可能遇到之前没“见”过的极端路况，需要提高算法的判断能力。

RealSafe平台也正是从这两部分能力出发，为人工智能系统构筑起安全的高墙。除了布局算法模型安全这一尚是“无人区”的新领域，据田天透露，未来他们也将增加数据安全板块，为人工智能提供全生命周期的安全保障。

“安全是一项基础能力，”田天补充称，“在这之上，我们也致力于实现更加可靠、可信的人工智能。”

比如在工业制造领域，场景碎片化严重，导致样本不足或标注质量差，必须用新的方法进行升级，提升算法在噪音数据上的性能。包括在金融信贷风控、智能投顾等场景，提供人类可理解的判断逻辑、决策依据，更好的辅助业务人员做出决策。

谈落地：市场培育和合作模式

田天也不讳言，AI安全是个新兴领域，还需要市场教育。因此，RealAI正积极通过学术活动、产业论坛、专业赛事等途径，让社会公众意识到AI潜在的安全问题。

在产品布局上，除了RealSafe人工智能安全平台，RealAI还推出一款RealBox机器学习平台，可以大幅增强建模环节的可靠性与可解释性。

在与客户的合作模式上，RealAI目前提供两类服务：一类是标品的企业采购，包括在特定算法场景的安全性评估；二是金融、工业等领域特定业务场景的解决方案制定。前者包括平台付费使用、软硬件一体机的销售，后者则是按需定制。

“长远来看，我们想要打造的是安全人工智能新商业生态。”田天说，“所以，我们不只提供一个安全组件，而是把它作为一项基础设施，上层再去打造贴合行业需求、效果更优的行业解决方案，去赋能不同领域。”

田天表示，在技术和产品层面，RealAI已经建构起了“护城河”。

“首先，做这一技术领域的存量人才比较少；第二，需要较深的积累，后来者想要复制，至少需要把我们前面走过的路再走一遍，”田天说道，“当然，未来也需要持续的研发投入来保证我们的优势。”

田天还指出，RealAI的一个长久目标是想去规范这个行业，或者说是去探讨人工智能产业未来该如何造福社会，所以RealAI也在联合各界力量共同推动人工智能安全相关的国家标准、行业标准、联盟标准的制定，为人工智能安全的定义提供统一参考。