以全栈智算拥抱生态,为AIGC种一棵向上生长的巨榕

1657b63383fd48eb45c0c5738c78be43.jpeg

榕树,被称为百木之王。它既有极深的根,又有繁茂的叶。只要一棵榕树长成,就能够独木成林,遮天蔽日。更可贵的是,榕树可以为树荫下繁茂的生态提供支撑,形成“一榕生,万物长”的格局。

开年以来,OpenAI推出了炸裂的Sora文生视频模型,再一次将AIGC技术竞赛的天花板拉高,科技巨头苹果也宣布大力投资生成式AI。

种种迹象都表明,狂飙了一年的AIGC,仍在吸引大量行业和企业的涌入,我们已经很少见到科技与互联网公司说他们不关心大模型、不想做AI。

然而,在大模型及AIGC的落地实践中,大型政企会面临一个困难局面:既希望确保AI技术与基础设施全栈可靠,具有高自主、高安全的特征,同时又希望接入开放多元的生态,满足行业专属场景定制化、个性化需求,实现生态化发展。

2baada881f9395ab42ea7b0ab4c2378f.png

如何帮助政企平衡二者的发展?今天的AIGC和大模型,需要一棵榕树般根深叶茂的支撑。其中,根,就是AI技术;叶,则是AI生态。

产业用好AIGC、激活新质生产力的现实需求,也驱动着基础设施服务商们不断升级。

以新华三为例,就选择将AI技术的“根”扎得很深很牢,又要让AI产业生态枝繁叶茂,催生应用落地繁荣生长。

d08ee7919c5bd5931434158819e1529c.png

如何更快地利用AI技术长出新质生产力,是这个春天很多企业都在思考的问题。那么不妨一起来看看新华三是如何以端到端的全栈智算解决方案助万物生长。

3f4034785c3f14a235e98a2b72cb932c.png

根要深,叶要茂

政企AI之路的挑战

在讨论新华三这棵AI巨榕之于产业的价值之前,我们有必要先了解一下,从2023年春季的爆火,AIGC狂飙一年之后,如今的政企所面对的技术与产业背景。

整体来看,中国大模型和AIGC产业已经达到了惊人的成就,相关应用也开始尝试向具体的业务场景探索,展现出强劲的增长态势。大模型、AIGC作为新质生产力,目前已经成为各行各业的共识。

然而这一年来的落地实践,也让我们看到了存在于国内AI产业的深层隐忧:大型政企、科研院校做AI大模型,有着三大难以兼顾的发展挑战。

1. 技术不易贯通。AI及大模型训练,是一项复杂且技术密集的任务,要求异构算力的深度整合以及高效的分布式并行计算,其中的技术挑战层出不穷。比如异构算力意味着要将不同类型的计算硬件,如GPU、FPGA甚至ASIC,进行有效协同。然而,不同硬件之间的接口、通信协议以及优化方法各不相同。此外,分布式并行训练要求在多个计算节点之间,实现数据的快速传输和同步。网络延迟、数据不对称以及节点故障等问题,都可能影响到训练的性能和稳定性。可以说,想要利用多种计算资源来提供算力,必须实现对分布式并行计算的“一体化”贯通/协作,以满足模型训练的复杂需求,这是做AI的首要难关。

ed1f68a28795f57131a06d8d877559ec.png

2. 信息安全无法保障。AI作为新质生产力,与各行各业的结合才刚刚开始,其中包括大量国计民生关键行业。训练AI模型时,往往需要使用大量的用户数据,这些数据可能包含商业机密或隐私信息,在公域环境下,如何确保这些数据不被泄露或滥用,成了一个巨大的挑战。此外,AI的训练推理都十分依赖高性能计算硬件及相关软件,人工智能基础设施的供应链韧性与安全性难以保障,也是很多企业的顾虑所在。

3.生态难以发展。我们知道,大型政企或实体行业在落地AI时,需要的软硬件很多,往往会考虑一揽子工程。这时,一个繁荣且富有活力的AI生态,可以为政企提供多样化的AI产品和服务。但生态建设需要各方以开放的态度,愿意共享资源,携手合作创新,而目前部分科技巨头更希望将生态伙伴锁定在自身的软硬件体系内,这让很多不想“把鸡蛋放在一个篮子”的政企,无法加速拥抱AI的脚步。

3b23eb9e3dd58b733fae241ed8d38039.png

不难看出,生态的融合是部署AIGC能力落地、推进智能化升级的关键。

有没有一种可行的解决办法,能同时实现三者的兼顾与平衡,帮助政企加速部署AI能力呢?今天的新华三,就提供了一种解题思路:

端到端的全栈的灵犀智算解决方案,如同一颗AI巨榕。新华三选择将AI之根扎进深处,打造安全坚实的AI软硬件底座;用一体化的技术枝干,让AI开发使用全栈贯通;将生态之叶伸向苍穹,携手优选生态模型,孕育出AI应用与服务的繁花万千。

技术之根深入大地

一棵坚韧不拔的AI之榕

965e7557e6be14ada32e37d7e3671a2f.png

政企做AI最担心的是什么?一开始引入AI应用或大模型很容易,但那只是“首付”。AI技术与业务场景的结合,需要长时间的适配、迭代、升级。如果在这个过程中,出现了“算力买不到”“模型用不了”的风险,会给相关业务和服务带来持续的危机。因此,一个高可靠、高安全的AI基础软硬件生态,对于政企市场来说必不可少。

坚韧不拔的AI巨榕,必须将技术牢牢扎根。目前,业界已形成共识,那就是我国的AIGC行业可以分为基础设施层、模型层和应用层三个层级结构。但能够将三层一体贯通的厂商仍属少数。新华三发布的灵犀智算解决方案,就是新华三自身所打造的、面向AI时代的全栈技术体系,在这个体系里,三个层面将一体贯通,让技术之根向下扎入底层创新、向上抵达应用末梢。

53a48a1aa51faf74f6e075e7ee233518.png

首先是基础设施层。

如前所说,单一的计算资源,难以满足AIGC及大模型的训练需求,需要综合利用多种计算硬件,而将不同架构、不同类型的计算资源有效地整合并实现协同工作,是一个巨大而重要的问题。尤其是自2024开年 Sora文生视频大模型惊艳亮相以来,更强大的AIGC模型与万亿参数规模LLM的研发进程还将进一步加速,中国算力瓶颈的突围变得愈发紧迫。对此,新华三利用自身的技术积累,充分发挥“算力×联接”的乘数效应,将新华三领先的算力和联接技术进行最佳的调优与配合,带来倍增的技术整合优势和智算效率,放大智算资源价值,发挥AIGC应用的最大潜能。   

 “算力多元化”,聚合多种算力资源,提供CPU和GPU多元化选择,满足市场与客户的多样化需求,并加强供应链的供给保障。

 “联接标准化”,推动联接标准化,通过服务器内、外部GPU联接标准化,实现异构GPU的智算集群,降低算力部署和应用的成本,并通过软件生态的标准化,打通智算孤岛,促进资源共享与产业共同繁荣。

这一智算底座,将为“AI巨榕”下的政企用户们,提供源源不断的算力“养分”。

其次是模型层。

去年,新华三推出国内首个面向To B、To G领域的私域大模型百业灵犀(LinSeer),支持在私域环境下进行数据分析和模型训练,可以确保政企客户在安全、专属的环境下使用大模型,解决了很多国计民生行业的后顾之忧。今年,新华三在模型层上有了更显著的提升,首先是在知识蒸馏上,以推动模型基座小型化实现数据高精度、高质量和高表现,其次是在输出校准上,以精炼模型回答提升用户体验,同时针对特定场景设计专用算法,增强AI使用的精准度,最后是在模型使能上,通过模型、知识、应用及安全等多层次的融合,解决更加复杂的问题。

然后是应用层。

想要让更多行业用户能够轻松上手,降低使用成本至关重要。因此,新华三打造了一站式灵犀应用使能平台(LinSeer Hub),可实现多元模型组合管理、AI Agent开发、模型服务等功能,能够灵活兼容新华三百业灵犀私域大模型及其他国内外主流模型,不断降低AI使用门槛,助力政企客户快捷构建智能应用,实现“模型使用自由”。

2490997d1ddfb2176c6812604f285506.png

总的来说,依托新华三这棵AI之榕,政企可以一站式获得覆盖各层级的软硬件支持,让自身的AI能力快速生根发芽。

725b340817b9bcd92c6ddb0b3680c5a8.png

生态之叶繁茂参天

百行百业的智能生长

但如前文所说,构建一个开放的AI生态实属不易。对于投入了大量资源的AI厂商来说,将AI开发者、ISV服务商、客群关系都绑定在自身的生态内,可以更早地建立竞争壁垒,实现商业回报。但这也给AI使用者和政企客户带来了不便,比如无法灵活选择更适合自己的大模型,难以得到充分及时的技术支持。

在一个开放多元的繁荣生态中,政企用户可以收获更多。为什么这么说?我们可以从新华三今天的回答中找到一些解题思路。

新华三提出“1+N”大模型策略(即百业灵犀私域大模型+N个优选通用大模型和行业细分大模型),代表着将以开放兼容的态度,携手业内各垂直领域的杰出者,共同推动AIGC应用发展。AI不是闭门造车,作为一个方兴未艾的产业,AI高度依赖于产业各方的深度合作,汇聚多方智慧和资源,共同攻克技术难题,推动AI技术向应用转化。因此,开放协作是AI创新的源泉。

956dc24dfefa2a26c5478571b7d620fb.png

更多选择。新华三结合行业应用场景,优选N个生态大模型,百行百业客户可以在这里找到全套弹性扩展方案,灵活地满足自身业务对个性化、专属化的AI需求,而无需担心只能使用某一厂商的模型,有着更充分的选择空间。

更高效益。丰富多元化的产业生态,也为政企客户提供了更具成本优势、效益优势的产品和服务。比如在医疗、交通、制造等领域,新华三都提出了端到端的AI解决方案,助力客户实现数字化转型的智能化升级。

更多资源。政企的智能化升级是一个长期的综合工程,其间的创新迭代升级,需要一系列的技术、人才、金融、政策等支持,远离产业集群会大大增加成本。新华三与各地政府合作,打造全国知名的AIGC产业发展先行区、产业集聚地和人才新高地——图灵小镇,让各地形成有影响力的AI产业集群。目前“图灵小镇”模式已在杭州、郑州、咸阳等多地先行落地。

都说“背靠大树好乘凉”,总体来看,依托新华三所打造的开放、多元的繁荣生态体系,政企的智能化升级之路,也会走得更稳、更轻松、更可持续。

一榕参天,万物生长

d9f4178e023c3804634e288e4dc9a338.png

以大模型为首的人工智能技术是新一轮科技革命和产业变革的重要驱动力量,为各行各业注入源源不断的新质生产力,是很多企业不想错过、不敢错过的技术大潮。

0ed28f7ad7baa14eb598d9c7306078a2.png

面向大型政企私域部署的需求,新华三已经培育出了一棵天时地利的参天巨榕。从核心底层技术支撑、安全可靠AI大模型部署方案,到开放的生态选择、合作机制间的贯通,实现了技术可信、安全可靠、生态可依的兼顾与平衡。

在AIGC时代快节奏、高效率的进程中,以新华三为代表的ICT厂商,将为百行百业提供新质生产力的动能。

“一榕参天,万物生长”,坚韧而生机勃勃的AI巨榕,正向我们袒露出一片智能时代的盎然春意。

3a2327c7b9fe57ea7f30181444ce7ed6.gif

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mfbz.cn/a/584419.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

MySQL中SELECT语句的执行过程

2.1.1. 一条SELECT语句的执行过程 MySQL 的架构共分为两层:Server 层和存储引擎层 Server层负责建立连接、分析和执行SQL存储引擎层负责数据的存储和提取,支持 InnoDB、MyISAM、Memory 等多个存储引擎,MySQL5.5以后默认使用InnoDB&#xff0…

set_input_delay的理解

1,set_input_delay约束理解 input_delay是指输入的数据到达FPGA的pad引脚时相对于时钟边沿的延迟有多大,单位是ns,数值可以是正,也可以是负。通过set_input_delay约束告诉编译器输入时钟和输入数据的相位关系。如下图所示假设时钟…

RSA加密---java和node兼容版(可直接复制使用)

目录 背景 实现 一、node代码 1、引入依赖 2、生成公钥和私钥 3、生成工具类 二、java代码 背景 本来项目的后端是node,里面登录接口用的是后端生成RSA公钥和私钥,公钥给前端网页用来加密,node后端解密,一切很和谐&#x…

Flexible布局在Web前端开发中的实际应用

随着Web前端技术的不断发展,Flexible布局(弹性布局)已成为现代网页设计中不可或缺的一部分。它提供了一种高效、灵活的方式来组织和管理页面元素,使开发者能够轻松应对各种复杂的布局需求。本文将通过一个实际的应用案例来介绍Fle…

鸿蒙内核源码分析(汇编基础篇) | CPU在哪里打卡上班

本篇通过拆解一段很简单的汇编代码来快速认识汇编,为读懂鸿蒙汇编打基础.系列篇后续将逐个剖析鸿蒙的汇编文件. 汇编很简单 第一: 要认定汇编语言一定是简单的,没有高深的东西,无非就是数据的搬来搬去,运行时数据主要…

阿里云服务器(Ubuntu22)上的MySQL8更改为大小写不敏感

因为windows上默认的mysql8.0是大小写不敏感的,部署到服务器上之后发现ubuntu默认的是大小写敏感,所以为了不更改代码,需要将mysql数据库设置为大小写不敏感的。 !!!重要一定要做好数据库的备份&#xff0…

【Vue3】openlayers加载瓦片地图并手动标记坐标点

目录 一、创建Vue3项目 二、openlayers加载瓦片地图(引js文件版) 2.1 将以下的文件复制到public下 2.2 index.html引入ol脚本 2.3 删除项目自带的HelloWorld.vue,创建Map.vue 2.4 编码Map.vue 2.5 修改App.vue 2.6 启动项目测试 三、…

与Apollo共创生态:Apollo 7周年大会带给我的启发和心得

Apollo 7周年大会 前不久的Apollo 7周年大会,吸引到我这个对自动驾驶有着浓厚兴趣的开发者,真的精彩,受益匪浅。Apollo 7周年大会展示了Apollo在自动驾驶领域的创新成果,探讨自动驾驶技术的未来发展趋势,并推动自动驾…

关键技术自主可控,中国移动发布大云磐石DPU芯片,速率达400Gbps

4月28日,中国移动在2024算力网络大会上正式发布大云磐石DPU,该芯片带宽达到400Gbps,为国内领先水平,将应用于移动云新一代大云磐石DPU产品,实现关键技术自主可控。 据介绍,DPU是一种专注于数据处理的处理器…

Python多线程并不是真的并行执行

Python多线程虽然能够利用多个CPU核执行计算,但并不能真正执行多线程并行计算。因为在Python中,有一个全局解释锁(GlobalInterpreter Lock,GIL),该锁的存在使得在同一个时间只有一个线程执行任务&#xff0…

KKView远程控制2.0版本发布,TeamViewer面临巨大挑战

KKView远程控制2.0版本发布,TeamViewer面临巨大挑战 近日,备受瞩目的远程控制软件KKView发布了其全新2.0版本,KKView以其独特的创新性和用户友好的设计,为远程办公、远程培训等领域提供了更加高效、便捷的解决方案。 KKView远程…

DVWA靶场

DVWA是指Damn Vulnerable Web Application,是一个用于教育和训练网络安全人员的虚拟漏洞应用程序。DVWA模拟了一个包含了多种常见Web安全漏洞的虚拟环境,包括SQL注入、XSS攻击、CSRF攻击等等。通过使用DVWA,安全人员可以学习和实践各种Web安全…

c#数据库: 8.在窗体上显示学生信息

以上一章学生信息表为例,首先将查询的学生信息存储到数据集中,然后将数据集与数据显示控件绑定,从而实现学生信息在窗体上的显示 (1)创建一个名为StudentGridView的窗体应用程序,为窗体添加一个DataGridVi…

OSI 模型

OSI参考模型包括什么: OSI 参考模型分为七层从下往上分别是:物理层、数据链路层、网络层、传输层、会话层、表示层和应 用层 应用层 : 应用层是 OSI 标准模型的最顶层,是直接为应用进程提供服务的。其作用是在实现多个系统应用…

2024年十五届蓝桥杯省赛大学B组真题(Java完整版)

2024年十五届蓝桥杯省赛大学B组真题(Java) 前言: 赛后一直犹豫要不要对比赛进行复盘出个题解,拖到了现在,终于也是等到比赛结果出来,看到没有辜负个人期望成功取得省一,决定在国赛前对省赛进行…

【网络原理】UDP协议 | UDP报文格式 | 校验和 | UDP的特点 | 应用层的自定义格式

文章目录 一、UDP协议1.UDP的传输流程发送方接收方 2.UDP协议报文格式:长度受限校验和如何校验:CRC算法:循环冗余算法md5算法: 2.UDP的特点 二、开发中常见的自定义格式1.xml(古老)2.json(最流行…

nn.TransformerEncoderLayer详细解释,使用方法!!

nn.TransformerEncoderLayer nn.TransformerEncoderLayer 是 PyTorch 的 torch.nn 模块中提供的一个类,用于实现 Transformer 编码器的一个单独的层。Transformer 编码器层通常包括一个自注意力机制和一个前馈神经网络,中间可能还包含层归一化&#xff…

uniapp关于iconfont字体图标使用

1、打开[阿里巴巴矢量图标库](https://www.iconfont.cn/),选择需要的图标添加到购物车 2、点开购物车,将图标添加到项目 3、点开项目,点击下载至本地,会得到一个download.zip包 4、解压download包 5、将包里的iconfont.css和iconf…

正点原子[第二期]Linux之ARM(MX6U)裸机篇学习笔记-8.1--C语言LED驱动程序

前言: 本文是根据哔哩哔哩网站上“正点原子[第二期]Linux之ARM(MX6U)裸机篇”视频的学习笔记,在这里会记录下正点原子 I.MX6ULL 开发板的配套视频教程所作的实验和学习笔记内容。本文大量引用了正点原子教学视频和链接中的内容。…

Q1季度阿胶电商数据分析:某黑马品牌线上销售增长超1800%

作为滋补养三大宝之一,阿胶具有补血滋阴、润燥止血、益智健脑、缓延衰老、强筋健骨、提高免疫力等多种功效和作用。同时阿胶被誉为“补血神器”、“美容养颜”等,使得其备受市场欢迎。 根据鲸参谋数据显示,今年Q1季度,在综合电商…
最新文章