底层算力跨入万卡级别大模型“上车”又“造车”｜WAIC 2024

财联社报道

2024-07-26

①摩尔线程的AI旗舰产品夸娥智算集群解决方案从千卡级别大幅扩展至万卡规模；天数智芯参与建设的中国移动智算中心（呼和浩特）项目上线运营，标志着国家级N节点万卡规模AI训练场的建立；
②大模型不止“上车”，还能“造车”。制造业是大模型应用的主战场，而汽车正是制造业的一个重要的领域。

《科创板日报》7月6日讯（记者黄心怡）世界人工智能大会（WAIC）已经来到了第七届。AI逐步从遥不可及变得触手可及。2024年，AI从百模大战走向了应用落地，从底层计算平台到上层应用，一轮更大的变革正在降临。

▌算力迈入万卡级别多元异构成智算平台侧重点

随着AIGC和大模型的热潮，算力正从传统的CPU、GPU迈入NPU、VPU甚至XPU主导的智能异构算力时代。

记者在WAIC看到，对于国产算力兼容适配和异构算力的调度成为AI基础设施建设的侧重点之一。

浪潮信息展示了支持多元算力和多模算法的新一代液冷智算中心，可覆盖了不同的计算节点，兼容了通用CPU、GPU、OAM多元算力，实现算力的聚合、调度、释放，应对AI计算、元宇宙、科学计算等不同的业务场景。

摩尔线程携全栈AI产品和万卡集群解决方案首次亮相WAIC，展示了包括计算加速卡、服务器、超融合一体机、万卡集群方案和AIGC应用，以及基于夸娥智算集群的行业大模型与应用方案。

记者了解到，WAIC前夕，摩尔线程的AI旗舰产品夸娥智算集群解决方案从当前的千卡级别大幅扩展至万卡规模，为万亿参数级别的复杂大模型训练而设计。此外，摩尔线程联合中国移动通信集团青海有限公司、中国联通青海公司、北京德道信科集团、中国能源建设股份有限公司总承包公司、桂林华崛大数据科技有限公司分别就三个万卡集群项目进行了战略签约。

算丰信息和优刻得则宣布，与国内主流AI芯片厂商达成深度合作，在优刻得青浦智算中心上线首个了国产千卡智算集群，打造强大的国产通用GPU算力底座，已经成功支持千亿参数级别的国产大模型研发与验证。

天数智芯携天垓与智铠两大系列多款产品在WAIC登场。记者获悉，天数智芯参与建设的中国移动智算中心（呼和浩特）项目，全集群系统已上线运营。该中心作为全球运营商领域内规模最大的单体液冷智算中心，标志着国家级N节点万卡规模AI训练场的建立，算力规模达6.7EFLOPS（FP16）。

大模型的训练和部署需要大量的计算资源，而训推一体机的开箱即用满足了政企用户的需求。

极视角在WAIC带来了极栈4.0 AI训推一体化基建平台，兼容适配英伟达、华为、寒武纪、中科曙光、天数智芯、海光、燧原、登临等十余家国产芯片。开发者一个训练任务可同时构建多个异构算法开发实例。

天数智芯与新华三信息科技联合推出了AIGC一体机，搭载多款国内外主流模型，可实现大模型应用场景一站式交付，面向用户需求进行灵活定制，交付周期可缩短至小时级。

谈及大模型所面临的算力紧缺挑战，壁仞科技副总裁兼AI软件首席架构师丁云帆认为，“解决算力瓶颈问题需要从三个维度考虑：硬件集群算力、软件有效算力、异构聚合算力。做好这三个维度的工作，即使国产AI芯片单个算力不强，也能通过综合手段提升算力，满足国内大模型训练的需求。”

▌大模型“上车”、“造车”等新模式涌现

在云知声展台，搭载山海大模型的智己L6成为现场焦点。结合大模型，智己L6获得更强大的语音识别和理解能力，可以理解更广泛的用户语义，实现更流畅的交互体验。无论是复杂的导航、车控，还是车辆问题，亦或是精彩图片生成，系统都能快速响应，精准判断分类，为用户提供服务。

圣点科技在本次大会上展示了其汽车手掌钥匙产品。该产品通过非接触式手掌静脉识别，实现高安全的身份认证和解锁开门操作。其技术原理基于手掌血液中的血红蛋白吸收近红外光，形成静脉血管图像，利用深度学习模型进行特征提取和比对，从而确认用户身份。

汽车手掌钥匙展区

现场工作人员告诉《科创板日报》，公司正和多家头部车企沟通，如奔驰、奥迪、大众以及头部造车新势力，共同开发无钥解锁、智能手势识别等应用，未来将应用于智能座舱实现整车智能化的身份安全管理，推动新能源汽车迈入无钥时代。

大模型不止“上车”，还能“造车”。制造业是大模型应用的主战场，而汽车正是制造业的一个重要的领域。

本届WAIC上，中信国际电讯CPC联合3133拉斯维加斯、中信戴卡，发布共创铝制汽车零部件行业大模型的“人工智能+”新行动。此次双方联合共创的铝制汽车零部件行业大模型，将运用人工智能和大数据等创新技术，结合中信戴卡多年的制造业领域知识积累，在AI视觉赋能制造、AI赋能工艺优化、AI赋能研发设计、AI赋能运营决策、AI赋能绿色低碳等多个领域，构建铝制汽车零部件垂直行业大模型。

▌C端杀手级应用在哪？

大模型要在C端落地，离不开端侧模型和算力的支持。面壁智能在WAIC期间开源业内首个端侧大模型工具集 "MobileCPM "，帮助开发者一键集成大模型到APP。"MobileCPM "包含了开源端侧大模型、SDK开发套件以及翻译、摘要等丰富的intent（意图），让开发者定制出满足不同应用场景需求的大模型 APP，低门槛速成大模型创业者。

社交平台Soul App则在探索“AIGC+社交”，重点展出了“数字分身”“狼人魅影”和“异世界回响”等AI能力落地的新功能和新场景。

其中，游戏“狼人魅影”中引入了AI智能体，用户可以与具备自主推理、发言、“伪装”的AI一起进行真实游戏对决。Soul还上线了独立新产品“异世界回响”。该产品定位为AI社交平台，用户可与虚拟角色进行沉浸式即时交流，还能根据喜好自定义角色人设，实现不同的对话风格，人物的形象可通过文字描述或上传心仪的图片生成，平台提供多种基础音色，用户可自行创建、融合出属于该角色的专属声音，实现多模态互动。

Soul语音生成大模型已于今年上线，同时自研语音大模型正式升级。对于大模型的探索，Soul App CTO陶明坦言曾有一段焦虑的时期：“并不清楚当前生成式AI的技术天花板在哪里？是否能端到端地解决问题、全行业全覆盖地解决问题？后来我们的预判是，单一模型没有办法全方面解决问题，还是需要垂类大模型。我们要思考的并非做不做通用大模型，而是如何在社交网络借助AI带来更好的用户体验，帮助用户构建平等的关系连接，让不同性格的人体验和感受线上社交的美好。”

除了应用厂商，大模型企业也在探索端侧应用。MiniMax在会上展示了面向消费者的生产力产品“海螺AI”、沉浸式 AI 内容平台“星野”等多款 AI 原生应用产品。

MiniMax副总裁刘华认为，大模型的落地应用是一个比较复杂的过程，需要综合考虑多方面因素，比如技术成熟度、数据隐私和安全问题、跨学科合作等。若出现能够解决用户痛点、提供显著价值并且用户易于接受和使用的大模型应用，都有可能成为爆款。

云知声联合创始人、创新事业部总裁陈吉胜表示，尽管大模型技术备受瞩目，但目前其在消费端缺乏明确的杀手级应用，而在企业端的应用主要集中在设计和客服等边缘环节，尚未深入核心的生产经营管理层面。他认为这一现象并非技术限制，而是由于大模型企业普遍缺乏深入特定行业的知识和数据。他指出，大模型企业在开发垂直化解决方案时面临行业知识和数据获取的双重挑战，导致服务同质化，难以满足企业客户的核心需求。总体来看，大模型技术的发展和应用是一个长期过程，需要解决行业知识和数据获取的问题，并逐步融入企业的业务流程中。

Products & Services

CeOne-CONNECT Private Network

Information Security

Identify & Predict Assessment Services Asset Identification Service Vulnerability Assessment Service Penetration Test Service Code Review Service AI Visual Security

Protect Managed Network Security Device Service Managed Next-Generation Firewall (NGFW) Unified Threat Management (UTM) Managed Web Application Firewall (WAF) Network Security Secure Access Service Edge (SASE) Mail Security Mail Protecition Service

Detect Threat Detection Services Endpoint Detection & Response (EDR) Managed Security Services (MSS) Traffic Monitor and Analysis TrustCSI Secure AI Network Traffic Analysis

Respond & Recover Security Response Services Security Orchestration, Automation and Response (SOAR) Threat Hunting Service Security Incident Response (IR) Backup & Disaster Recovery as a Service Virtualized Backup, Replication & Recovery (BRR)

Professional Services & Compliance Professional Services Security Device Migration Service(SDMS) Compliance Services China Cybersecurity Law MLPS 2.0 Compliance Service Cross-Border Data Compliance Assessment Service

SmartCLOUD Cloud Solutions

IaaS – Infrastructure as a Service Cloud Computing (Compute) Dedicated Private Cloud (vONE)

PaaS - Platform as a Service

SaaS – Software as a Service Cloud Email & Collaboration Suite (M@il)

XaaS – Anything as a Service Backup & Disaster Recovery as a Service Virtualized Backup, Replication & Recovery (BRR) Storage as a Service Object Storage Solution (OS) Virtual Desktop as a Service Managed VDI (DaaS Lite)

Managed Service Professional Service (PS)

Cloud Connectivity Multi-Cloud Connect

DataHOUSE Cloud Data Center

Internet Services

Managed Portal Managed Portal

Solutions

Solutions

Technology & Services

Technology & Services

About Us

About Us

Resources Center

Resources Center

Contact Us

Contact Us

底层算力跨入万卡级别 大模型“上车”又“造车”｜WAIC 2024

汽车手掌钥匙展区

Identify & Predict
Assessment Services Asset Identification Service Vulnerability Assessment Service Penetration Test Service Code Review Service AI Visual Security

Protect
Managed Network Security Device Service Managed Next-Generation Firewall (NGFW) Unified Threat Management (UTM) Managed Web Application Firewall (WAF) Network Security Secure Access Service Edge (SASE) Mail Security Mail Protecition Service

Detect
Threat Detection Services Endpoint Detection & Response (EDR) Managed Security Services (MSS) Traffic Monitor and Analysis TrustCSI Secure AI Network Traffic Analysis

Respond & Recover
Security Response Services Security Orchestration, Automation and Response (SOAR) Threat Hunting Service Security Incident Response (IR) Backup & Disaster Recovery as a Service Virtualized Backup, Replication & Recovery (BRR)

Professional Services & Compliance
Professional Services Security Device Migration Service(SDMS) Compliance Services China Cybersecurity Law MLPS 2.0 Compliance Service Cross-Border Data Compliance Assessment Service

IaaS – Infrastructure as a Service
Cloud Computing (Compute) Dedicated Private Cloud (vONE)

SaaS – Software as a Service
Cloud Email & Collaboration Suite (M@il)

XaaS – Anything as a Service
Backup & Disaster Recovery as a Service Virtualized Backup, Replication & Recovery (BRR) Storage as a Service Object Storage Solution (OS) Virtual Desktop as a Service Managed VDI (DaaS Lite)

Managed Service
Professional Service (PS)

Cloud Connectivity
Multi-Cloud Connect

底层算力跨入万卡级别大模型“上车”又“造车”｜WAIC 2024