中新网首页 安徽 北京 重庆 福建 甘肃 贵州 广东 广西 海南 河北 河南 湖北 湖南 黑龙江 江苏 江西 吉林 辽宁 内蒙古 宁夏 青海 山东 山西 陕西 上海 四川 天津 新疆 兵团 云南 浙江

中国新闻网河南新闻

搜 索
投稿邮箱:zxwhnxw@163.com
新闻热线:0371-65700861

首页 > 推广 > 正文 >

企业大模型应用开发提速 浪潮信息元脑企智EPAI一体机发布

  • 2024年09月29日 16:06
  • 来源:中新网河南
  • 责任编辑:经晓佳

  9月27日至29日,2024中国算力大会在郑州举行。会上,浪潮信息重磅发布元脑企智EPAI一体机,通过软硬件高度协同的一体化设计,为客户提供多元多模、简单易用、本地部署、安全可靠的大模型开发平台。

图为发布会现场。 主办方供图
图为发布会现场。  主办方供图 

  元脑企智EPAI一体机基于专为大模型应用场景设计的元脑服务器,搭载元脑企智EPAI企业大模型开发平台,支持多元算力、多模管理、全链工具以及本地部署,可一站式解决数据处理、模型微调、RAG搭建、模型部署、应用上线和系统运维等环节开发难题。

  浪潮信息产品方案开发部总经理魏健表示,随着大模型和生成式技术的飞跃式发展,如何以大模型赋能现有的技术、业务,已成为企业在新一轮技术周期中保持竞争力的要素之一,但企业在应用大模型的过程中往往面临诸多挑战。

  首先,多元多模适配难度大、周期长、成本高。不同场景、不同业务对模型能力的多样需求,业务生产环境往往是多模并存的状态,而由于特定应用加速等原因,所使用的算力资源也是多元并用的。

  其次,巨大参数量级的通用大模型,很难直接用于复杂、离散的行业场景,各行业知识专业化程度高,可迁移性低,通用大模型本身难以覆盖,所以经常出现大模型“幻觉”或是“胡言乱语”的问题,因此必须结合行业和企业专业数据进行再学习。

  最后,要实现大模型与行业场景的深度结合,实现高效、高可靠、高质量的模型应用效果,涉及数据、微调、RAG、部署、上线和运维等极为复杂的流程,特别是数据治理和模型微调,需要具有丰富经验的实施团队才能胜任,技术门槛高。

  魏健指出,对于大多数企业而言,大模型应用开发的系统性、复杂性,往往让企业对大模型开发望而却步。因此,实现大模型的深入行业应用与广泛落地,关键在于如何有效提高AI应用创新的质量和效率,卓越的大模型及应用开发工具成为释放智能生产力的关键。

  ——多元多模。元脑企智EPAI一体机具备多元算力和多模管理能力,通过大模型计算框架TensorGlue实现异构算力调度,通过算子基础化技术实现上层模型算法和下层基础设施的逻辑解耦,从而降低企业跨算力平台迁移、多元模型部署适配的试错成本。

  ——简单易用。元脑企智EPAI一体机提供从数据准备、大模型微调、知识库构建、大模型部署上线运维的全流程支持工具链。

  ——本地部署、安全可靠。由于大模型应用开发需要结合企业私有数据,要求企业数据不出域。本地部署可以确保用户数据不被上传至云端,避免数据泄露和滥用的风险,这在处理敏感信息或符合严格数据保护法规的行业中尤为重要。

  “元脑企智EPAI一体机能显著提升大模型应用的开发效率,并极大节省人力成本。”魏健称,浪潮信息先行先试,采用1台元脑企智EPAI一体机标准版,低代码完成企业知识库构建、模型微调、应用开发等工作,1人1月即简单高效、低门槛地打造出智能售前助手“元小智”,赋能日常售前业务,实现智慧化变革,团队工作效率提升3-5倍。

  据知,本次大会发布了基础版、标准版、高级版、创新版和集群版五个版本,主要面向制造、金融等行业客户、传统ISV和SI三类用户提供一站式大模型生产及应用全流程开发工具链,同时支持接入更多元脑伙伴的算法和模型能力,共同打造AI原生应用开发的“超级工作台”,加速AI应用创新和落地。(完)

关于我们  |  About us  |  联系我们  |  广告服务  |  法律声明  |  招聘信息  |  留言反馈
本网站所刊载信息,不代表中新社和中新网观点。 刊用本网站稿件,务经书面授权。
未经授权禁止转载、摘编、复制及建立镜像,违者将依法追究法律责任。
[网上传播视听节目许可证(0106168)] [京ICP证040655号] [京公网安备:110102003042] [京ICP备05004340号-1] 总机:86-10-87826688 违法和不良信息举报电话:15699788000