由国家制造强国建设战略咨询委员会担任指单位，成都市人民政府主办，成都市经信局市新经济委、成都市投资促进局承办，《财经》杂志、《财经智库》策划举办的“2023现代都市工业发展大会”12月23日至24日在四川成都举行。12月24日，中科驭数科技有限公司副总裁曹辉在会上表示，随着人工智能的广泛应用，物联网端侧所产生和需要处理的数据量将会有一个极大提升，这些数据同时要在决策端以及同类型的物联网端点之间进行同步。首先是低时延，一直以来是工业物联网的明确需求，直接决定了一些核心业务能否真正成熟和落地；其次，工业物联网领域产生的越来越多的的数据，数据的流转需要大带宽的高速网络来承载；第三点是泛安全，物联网在源头对于数据获取的安全性极为重要。同时，以CPU为中心的架构已经遇到了瓶颈，需要探索新的技术和方案，DPU无疑是被业界共同认可的一个方向。

以下为部分发言实录：

曹辉：谢谢主持人，大家早上好。周主任刚才也提到了人工智能的三要素：数据、算力、算法。数据其实很大一部分就来源于最端侧的物联网，这是指数据的产生；另外还有很多的算法以及算力公司，来共同使用这些数据实现人工智能的训练、推理等等一系列工作。其实在这中间还有一层，就是网络的连接层，这些数据的流转和处理过程都需要网络的参与。所以我们所说的算力的强弱，并不是看单体算力有多强，而是整个系统的能力有多强，这一点已经在英伟达的方案中得到了证明。目前业界在提一个算力网络的概念，希望能够把算力高效流转起来，让它像自来水一样方便地提供给所有人使用，中科驭数做的就是相关的工作。

回到我们今天的话题：从感知到智能。随着人工智能的广泛应用，物联网端侧的感知和智能处理能力更加紧密结合，意味着其所产生和需要处理的数据量将会有一个极大提升，这些数据同时要在决策端以及同类型的物联网端点之间进行同步。从这里看，必然会产生三个主要的需求：

1. 低时延的需求。数据传输的时延越低越好，这样才能更快的在中心和端侧进行决策的同步。工业物联网一直对低时延有着非常明确的要求，例如远程医疗、自动驾驶等等，网络的低抖动+低时延是影响这两项业务能否成熟最重要的因素。之前有很多设备通过采用DSP+FPGA的方式，可以实现微秒级的时延效果。但是随着智能和感知相结合，这个效果还是远远不够的。

2. 大带宽的需求。数据量的增多，意味着本地物联网网络和本地-中心网络之间所需要的网络带宽要足够大、足够快，才能保证海量数据的及时传输。我们都知道，在物联网领域，消费物联网不必多说，从之前的文本，到视频、AR/VR，数据量增加了几万倍；而工业物联网更是产生了产生大量的生产数据、监控数据、操作数据等等，此时需要支持更大带宽的高速网络来承载这些数据。

3. 泛安全的需求。随着数据成为越来越重要的资产，工业物联网在源头数据的获取、处理的安全绝不可忽视，一旦被攻破，可能会产生无效甚至是有害数据，造成严重影响。

大家都知道，传统的CPU为核心的架构已经遇到了摩尔定律失效的瓶颈，尤其是在物联网场景下的末端，将无法满足智能物联网对基础设施的要求，所以这块需要我们探索新的技术来实现。驭数作为一家DPU公司，一直在积极探寻DPU在数据中心以及边缘的作用和价值，并且逐渐落地了一些项目。除了数据中心，驭数具有国内唯一一款低时延DPU，可以达到1微秒的超低时延能力，并且已经在金融证券行业落地应用；我们现在也在和一些国内的5G专网公司讨论在端侧用DPU做一些不止是低时延的方案探索，微秒级甚至10微秒级的时延性能将是一个非常棒的基础。除此之外，驭数的DPU在高速网络、安全方面也都有比较强的能力，驭数期待能够和在座的各位一起，为智能感知的物联网打好基础。

曹辉：对于今天咱们论坛这个话题，我非常有感触。讲两个让我印象深刻的真实的例子。

我们都知道，前两年疫情管理期间，手机或者说手机接入网络是最先纳入筛查的。和之前手机简单接入运营商网络不同，在进入运营商基站前，在一些端侧的皮基站内需要做很多的策略，比如人员信息，需要去比对、核查等等。这些处理量越来越大时，传统的服务器是很难完成的。所以5G专网的一些伙伴合作找到我们，希望能通过DPU在端侧实现更多的处理能力。通过这件身边的事，我觉得后续必然会有越来越多的在接入或者感知侧需要更多算力的需求。

第二个是关于生态，刚才两位嘉宾也提到了生态。我所看到的，在数据和人工智能时代，生态建设所遇到的一个核心问题是数据的安全。我们知道各行各业都产生了海量的数据，以医疗行业来举例：各大医院会产生大量的临床数据，我们怎么样把这些数据安全使用起来？比如协和医院、华西医院，是不是简单地把这两个医院的临床数据结合到一起给人工智能学习就可以看病了？显然这样是行不通的。首先这些数据是医院非常核心的资产，其次它里面还涉及到很多患者个人的隐私，并不是很简单的把明文的数据直接拿出来作处理。现在比较前沿的隐私计算技术，最开始是应用在数据中心的，实现数据不出数据中心，或者说出去的是经过了处理以后、脱敏了的。但是，随着人工智能向端侧包括物联网端侧的延伸，我觉得未来的隐私计算一定是一种分布式的隐私计算。那么会有更多的安全处理、计算的任务分布到物联网端侧的设备上，是不是要用CPU来实现？通过之前的讨论我们知道，很难，所以就需要有新技术或新设备，比如DPU去承担这个工作，实现分布式的隐私计算，为更多数据的打通提供安全能力。

作为一家DPU公司，驭数已经做了很多与感知侧/物联网端侧相关的探索。我们在驭数北京亦庄信创园区搭建了一个基于DPU的下一代高性能环境，就是我们刚才所说的基础设施。在里面我们做了一些端侧智能化的探索，以及解决方案的孵化展示。在座各位有兴趣的话，也欢迎后续去园区讨论方案，我们一起推广智能感知相关的国产化解决方案。