生活工程体验信仰哲学精神
快软网
精神世界
探索历史
哲学文学
艺术价值
信仰创造
境界审美
体验技术
技能工具
工程信息
医学生产
生活运用
操作能力

ChatGPT横空出世,传统企业如何迎接“大模型”下的技术变

10月2日 霸王亭投稿
  ChatGPT的惊艳表现牵动了全球科技爱好者的心弦,仅仅2个月就实现了用户数从0到1亿的蜕变。ChatGPT能准确地理解语义并能进行流畅和较为正确的问答。多模态的大模型具备绘画、生成视频以及编写代码的能力。扩散模型的运用让人感到智能“涌现”的魅力,大模型的综合能力和效率甚至达到了专家级水平。
  就在众多企业高管面对如此重大技术变革而感到不知所措和迷茫、焦虑时,那些对技术有着敏锐洞察力并勇于拥抱变革的企业已开始摩拳擦掌、跃跃欲试了。
  没有万张加速卡,企业无缘大模型?
  训练大模型需要巨大的算力,然而这些企业发现,在垂直行业,可借助各类开源模型,以及自己企业所积累的大量数据和经验,通过微调技术的再训练,就可以构建一个垂直领域的GPT(GenerativePreTrainedTransformer生成式预训练Transfomer模型)模型。
  企业真正要落地GPT却不是件容易的事,摆在眼前的就有三大挑战。在证券机构执掌技术团队多年、出任公司CTO的颜云峰表示:“我们首先遇到的就是算力难题。虽然微调技术并不像大模型那样需要成千上万张的AI加速卡,但所需的算力也是有极高的要求。这就需要企业能构造一个可扩展、能持续演进的算力发展架构。”
  “第二是数据安全难题。无论是数据还是模型都是企业多年积累的高价值数据资产。因此无论在计算、存储中都要保障数据资产的安全。”
  “第三是部署与运维难题。AI带来的新算力、存储需求要与原有IT系统融合、互通,加快数据流通的同时也增加了IT部署与运维的难度。”
  持续创新应立即行动,但要做好五方面准备:
  “希望通过持续创新提高竞争力的公司一定会选择立即行动。虽然这项技术还不成熟,但这也取决于公司自身的条件。任何AI的部署都是个非常复杂的工程。如果企业要实现规模化和可持续的生产,就需要在流程、技术和开发上做大量的准备工作。”HPE与AI云服务业务发展总监EdmondoOrlotti这样表示。
  对此,对那些坚定地期望利用GPT创新的企业给出了五点建议,他表示:
  “第一,要评估企业数据的成熟度水平。即战略、组织和技术能力,使其能够利用人工智能从数据中创造价值时,生成式人工智能才能生存和发展。但据HPE最新的全球调查显示,绝大多数组织在此能力上还存在巨大的差距。”
  “第二,在数据架构和治理方面,企业需要搭建一个统一的公司级的数据架构和治理平台。完善数据架构和数据治理平台才能以优质的数据不断进行训练,以此推动企业的生产和服务不断地向好发展。”
  “第三,做好采用混合平台的准备。模型训练和推理可以在大型语言模型供应商(如OpenAI、AlephAlpha、Google)运营的集中式AI超级计算机上运行,但从长远来看,会有各种原因会导致公司必须建立一个混合或边缘到云的平台。具有实时推理的用例要求模型在本地AI基础设施上运行,以尽量减少延迟。但随着训练数据越来越多地分布在各地,企业就要汇总数据,而不是将其集中起来,因为集中地数据成本极高且速度慢、不安全。”
  “第四,知识产权和版权问题。生成式人工智可能是未来十年决定性技术之一,将对企业未来的发展起到战略性作用。可以预见,大型语言模型市场将被全球少数几个供应商所主导,这使得知识产权和版权将成为生成性人工智能的一个关键影响因素。企业应尽量减少对外的版权依赖和注重保护自身的知识产权。企业应采用混合方法规避相关风险,在本地运行具有版权的的大型语言模型。”
  “第五,流程整合。企业在规划人工智能应用时,往往忽略了将其整合到现有的运营和技术流程中,这是造成人工智能项目失败的主要原因。企业应建立起包括应用和数据生命周期的管理、安全、运营规划和控制流程、运营安全和风险管理的各完善体系。”
  HPE“四大能力”应对“三大挑战”,GPT解决方案让大模型飞入寻常“企业”家
  不论是大模型还是以LoRA这样的微调方式,都需要让模型适配不同算法和数据集,就需要底层硬件具备“由低向高”平滑过渡的整体解决方案。进而满足不同企业部署不同规模模型实现合理投入产出的方案。而这正是HPEGPT整体解决方案的优势所在,其核心就是算力和数据读写能力。
  HPE通过GPT方案的四大能力来应对颜云峰所提出的三大挑战。
  第一,灵活的动态调整能根据业务进行适配。
  降低入门门槛,实现无缝衔接扩展,完美配合企业从入门到发展壮大的各阶段以及根据产品研发的进展动态调整是这一方案的特色之一。
  计算资源上,企业可以从HPEProLiant系列服务器开始入门。HPEProLiant服务器经过优化设计,可以为组织的数据密集型工作负载提供超高性能。与此同时,HPEProLiantGen11支持多种架构,包括第四代AMDEPYC处理器,第四代IntelXeonScalable处理器,以及AmpereAltra和AmpereAltraMax云原生处理器。
  进阶级的企业可以选择HPEApollo6500服务器。它采用了业内领先的硬件配置与性能参数,HPEApollo6500系统成为人工智能领域最高端的引擎。不仅是GPU与计算架构进行了升级,在计算、网络和存储各个方面都不会有性能瓶颈。
  HPEApollo6500
  最高8颗GPU计算架构,并支持NVLink2。0协议。NVLink能在GPU与GPU以及GPU与CPU间实现高带宽直连的快速通讯机制。单个NVIDIATeslaV100GPU即可支持多达6条NVLink链路,总带宽为300Gb秒,是PCIe3。0带宽的10倍。NVLink2。0高效混合立方网格是目前最为高性能的解决方案。用户也可以使用基于PCIe的4:1或8:1的GPU:CPU连接。不同拓扑在高性能与易用性上各有优势,适用各种场景,用户可以根据业务模型灵活的选择。
  HPEApollo6500不仅能满足各类深度学习应用场景需求。其高度易用性和灵活性,充分降低了构建高性能人工智能系统的门槛,企业可以在HPEApollo6500构建的坚实基础架构上以最短的时间完成对各类算法的训练。
  第二,“6个9”的高可用性确保企业数据资产高效安全。
  高达“6个9”的高可用性是HPE无论在计算还是存储上的标配。同时HPE存储支持远程复制对等持久性、保护模板、快照、克隆等多种数据保护措施。在AllNVMe的加持下能实现高性能、超低延迟的AI运算。
  存储方面也为不同的企业提供了适合不同场景灵活、可持续发展的路线。GPT为代表的AI训练与预测需要更快、更大的存储。NVMe拥有更短的IO路径,更大的队列深度与宽度,以及更简单的协议堆栈等优势,同时,NVMe增加了多队列特性,对并行任务的友好设计也使得系统负载更加均衡,使闪存介质的性能得以充分发挥,NVMeSSD正全面替换SASSSD和SATASSD。
  HPEAlletra是一款支持端到端NVMe的闪存系统,除了介质层NVMeSSD之外,还支持前端的NVMeoF、以及数据处理层NVMeSCM,从而在整个数据链路上摆脱了传统存储阵列的瓶颈,性能势不可挡。同时,其独有的多活互联架构与NVMeSCM的结合,配合软硬件上全面优化,可以跨越式地降低读写IO的时延,同样能更好地应对实时交易类,要求极致的IOPS需求。
  HPEApollo4000
  针对非结构化数据场景的训练与预测AI需求,对所有数据进行访问只是开始,能大规模管理数据、支持数据密集型应用并确保数据安全的系统则是关键。HPEApollo4000系统能够以极大规模存储数十亿个文件和对象。这一系统还可运行各种现代化、数据驱动型的应用。
  第三,方案简单易用便于部署,加速企业的大模型上线。
  为了让企业更加专注助于核心业务,降低企业在IT运维、部署的难度是HPE的职责所在。HPEProLiant服务器采用基于云原生技术的管理中枢。无论计算环境位于何处,用户都能安全地自动访问、监控和管理服务器,进而实现高效运维。云原生管理中枢带来了便捷、统一和自动化的运维体验,通过实现全局可见性和洞察让您更好的管理计算环境。
  HPEAlletra系列存储同样采用云化的管理模式,以订阅方式1分钟就能实现数据上线。大幅降低了企业在IT方面的运维和部署难题。
  第四,提供本地化服务,让企业无后顾之忧。
  以OpenAI为首的行业龙头在采用HPE的解决方案,同时,HPE利用本地化的合作伙伴网络,提供企业所需的策略帮助、运维支持和培训服务。能让企业获得从边缘到云的运维能力,从而加快企业的数智化转型。
  ChatGPT是通用智能,“千人一面”。传统企业在体量上拥有灵活的优势,在数据上拥有深耕行业的专精数据与经验积累,利用好大模型技术则能让企业的服务实现“千人千面”更好地服务客户构建自身竞争力,也必将使其在细分行业大放异彩。
投诉 评论 转载

燕教授预芊饮结合古方精髓,精准配伍,直击湿气根源热评聚热点网 经典名方御湿于千里之外夏季燥热,长期与空调作伴,雪糕冷饮不断,加之熬夜久坐等一些不健康的生活方式,会加重湿气入侵,湿邪内生。湿气是百病之源,一定要及时干预,否则任由……【歌词】I歌手:SUPERCAR热文聚热点网 DUBIDUB词于光中曲SusannePernilleGeorgiDubIDubIDubIDubBuBuDubIDubIDubIyeahyeahDubIDubIDu……石林溶洞意思?热闻聚热点网 石林溶洞是石林的著名景观。溶洞指石灰岩被含有二氧化碳的流水所溶解、腐蚀而形成的天然洞穴。是可溶性岩石中因喀斯特作用所形成的地下空间,溶洞的形成是石灰岩地区地下水长期溶蚀的……帕金森病人,日常生活中需注意哪些点?热闻聚热点网 帕金森病本身不是一种致命的疾病,目前提倡以“药物脑起搏器手术身体康复心理康复”的科学治疗。除了相关的药物和手术治疗等,有什么日常生活各方面需要加强关注的吗?一、吞咽有困难……承认了!总人口即将“负增长”热文聚热点网 8月1日出版的第15期《求是》杂志上,“中共国家卫生健康委党组”发表了题为《谱写新时代人口工作新篇章》的文章。文章首次公开承认,“十四五”期间我国的人口将进入负增长阶段。……ChatGPT横空出世,传统企业如何迎接“大模型”下的技术变 ChatGPT的惊艳表现牵动了全球科技爱好者的心弦,仅仅2个月就实现了用户数从0到1亿的蜕变。ChatGPT能准确地理解语义并能进行流畅和较为正确的问答。多模态的大模型具备绘画……绝味食品跌停,卤味食品这场“硬仗”该怎么打?热闻聚热点网 作者:泰罗,编辑:小市妹7月5日,绝味食品跌停收盘,今年以来股价已经跌去了接近40。相对于2022年,绝味食品业绩开始好转,2023年一季报显示,公司营收录得18。……看完“潮光”宣传片,我想和张靓颖、唐诗逸说两句话热议聚热点网 近日,网易MMO网游《逆水寒》发布了全新流派【潮光】的实机演示视频,不到一天就吸引到了超过500万网友围观,可以说是人气爆棚了!早在前段时间这一新流派公布之初,众多玩家就……环比增18。5广汽丰田6月销量87200辆热博聚热点网 《车市纵览》是车市物语旗下自媒体,始终关注海内外所有汽车企业。日前,我们从官方了解到,广汽丰田6月销售87200辆,环比增长18。5。今年上半年,累计销售452800辆。……上线两周年后,《永劫无间》为什么转向了免费模式?热传聚热点网 在上线两年后,《永劫无间》官方在今日上午举办了年度屋顶发布会,公布了大量包括英雄、皮肤、玩法和机制在内的新内容。一般而言,一款游戏的“周年庆”是个较为重要的时间节点,官方……通过《索尼克起源PLUS》,一起看看早年间跑酷之外的索尼克热 欢迎关注,获取更多游戏评测资讯,入手与否不再犹豫喜欢的不妨点个赞唷()文:弦隐编辑:Rin提起马里奥,大多数朋友最先想到的大概率是小霸王时代的跳跳跳吃蘑菇,其次是3……中央驻港机构举行升旗仪式庆祝香港回归祖国26周年热文聚热点网 7月1日清晨,中央驻港机构举行升旗仪式,庆祝香港回归祖国26周年。上午7时整,中央人民政府驻香港特别行政区联络办公室、中华人民共和国外交部驻香港特别行政区特派员公署分别举……
半生已过,别再执着热评聚热点网 喜悦开心是生命的黄金热传聚热点网 小学生国庆节作文500字热议聚热点网 免疫集女人如何增强免疫力提高免疫力的食物热评聚热点网 热文医用退热贴的用途(医用退热贴都有哪些用)热博聚热点网 重庆冷门瀑布集合,全部都是免门票开放,部分瀑布轻轨直达热闻聚 施工单位三大管理体系具体是什么(施工单位三大管理体系是什么) 不留情面给谁不留空隙给谁热传聚热点网 热文晚上不能戴银睡觉的原因分析(为什晚上不能戴银睡觉)热文聚 愚人节作文1000字热传聚热点网 【歌词】你是我一生最爱的人阿龙正罡歌手:音乐合辑热文聚热点网 哪里可以学哪里可以学中医热议聚热点网
租赁合同延期付租金违约金规定是什么?热传聚热点网 韩安冉直播嘲讽兜儿,称其不是正经女孩,父母也不是啥好人蜂蜜的作用与功效及禁忌人群懂行中国行2021华为榆林碳中和能源峰会成功举办旅行社可以办个人签证吗2022虎年男孩临风而立,古风意蕴的男宝宝名字大全始于唐朝的熟地黄,名医张锡纯曾用它来挽救危重病人酷狗音乐适配魅族手机Flyme状态栏歌词功能作文粗心的我500字光盘打印机哪款好?光盘打印机报价及型号推荐图文推荐鲋鱼读音是什么揭秘鲋鱼是什么鱼高速六大行车诀窍停车提前警示避免追尾

友情链接:中准网聚热点快百科快传网快生活快软网快好知文好找新乡渭南铜川松江山南雅安松原荃湾淮北昭通平凉鞍山赤峰苗栗保亭池州渝北株洲陇南濮阳三沙秀山密云鸡西