基于AI大模型,更多AI应用得以迅速落地。但作为AI应用的底座■◆,大模型对算力的需求正在呈指数级增长,数据集规模持续增大也对数据清洗甄别提出了更高的要求。同时◆■★,数据无偏见,图片、影像、音频是否安全合规,使用成本是否可控等◆■★,都是使用大模型时需要考虑的问题。
作为LLM的头部玩家,智谱企业商业技术中心总经理柴思远表示■◆★,腾讯云算力集群搭配自研的星脉网络★■,有效提升了多机并行训练速度。其中,星脉网络通过自研交换机和通讯协议,为每台GPU服务器提供3.2T的交互带宽,实现40us内的拥塞控制和0丢包,为大规模的训练集群提供可靠的网络保障。搭建星脉的算力集群较智谱原有算力集群,在13B和60B的模型下吞吐表现均大幅提升。此外,腾讯云为智谱AI提供高自愈能力的算力集群,全局监控◆■★,一站式掌握7*24小时运行状态■◆■■◆◆,支持故障自动监测与恢复◆★,保证任务连续进行★★■★,其中任务自愈时间从2小时缩短至5分钟◆■★,集群自愈时间从24小时缩短至10分钟◆◆■◆◆■。截至目前◆■,腾讯云AI产品已覆盖超过400家互联网头部企业★■★,累计服务超过12万家互联网客户。另外■★◆★■◆,腾讯云亦公布了最新的AI原生云产品服务。
★★◆“从底座上来讲,金蝶会自研自己的垂域★★■★■,比如我们在财务领域很专业★■★◆★◆。然而◆★,垂域有优势,也有弱势,就是其通用能力比不上通用大模型。因此■◆◆◆★,金蝶跟通用大模型像腾讯混元这样的一起合作。”李帆如此说道。腾讯混元大模型算法负责人康战辉谈及,算力更强■★★★■、效果更好★■◆★★、应用成本更低的大模型才符合当下需求■◆◆。目前,腾讯混元在腾讯云上提供了多种尺寸的模型服务,通过API、专属模型、精调模型等接入和使用方式面向企业及个人开发者全量开放。
云+AI基础设施已成为企业智能化转型的关键支撑,但企业在尝试AI时,也面临包括算力、算法开发和专业人才的挑战。
在消费行业,AI大模型帮助企业重新解构问题。“AI不仅是生产力,很多时候,它在重塑我们的生产流程■★,它在改变我们的生产关系◆◆。”
随着大模型深入应用于各行各业,AI对于不同领域、不同场景的助力亦越来越具象化■■★◆★◆。金蝶中国副总裁★★、研发平台总经理李帆表示,基于腾讯混元大模型,金蝶招聘可实现5分钟招聘需求生产以及简历初筛,招聘效率提升90%■★。基于腾讯云TI平台,结合高性能计算集群与星脉网络,金蝶训练财务大模型效率提升30%◆■■◆■。
在日前举行的2024腾讯全球数字生态大会互联网AI应用专场◆■,腾讯云副总裁许华彬谈及■◆◆,近期来多行业场景的AI Agent(AI智能体)蓬勃发展,面向C端的原生应用★■,以及B端企业级业务流程自动化,将成为后续应用落地的主要方式。
他表示,消费领域有一个很大的特点★■★◆■,就是经验的比例远远要大于知识■◆★★■。例如★★■★,每个人都有手机,你的手机是怎样的参数,这是消费领域的知识。但它是消费领域信息中很小一部分,往往更多的是人们在使用过程中产生的经验。人对一个商品使用的体验■★★■◆,使用时产生的美好感觉。这些东西才真正构成消费领域当中的信息体系。怎样去解决消费领域的特点?值得买科技的解决结构包括:1个“
是夯实基础的重要底座■◆■,云原生技术助力企业实现敏捷开发,以新技术、新市场的创新,实现增长突破◆◆◆■■。
库◆■■,AIUC分析引擎★◆、AIGC生成引擎和AGENT调度引擎3个应用构建框架■★◆◆■,以及提供针对性的AI解决方案的4类应用AI战略。数据显示,目前,值得买科技已可实现10亿+条商品库与近百亿条内容库的数据处理和迅速进行模型训练和推理部署,通过腾讯云容器场景GPU虚拟化★◆■,什么值得买也实现了对单个GPU的更细粒度划分,大大提升了资源利用率减少了资源和人力的消耗。他指出,★★“在消费领域,如果你要用AI,应该是用AI帮助用户解决他的痛点,帮助用户去做★■◆◆‘功课’。这样用户才会喜欢你的AI应用,而不是用AI去产生虚假内容。”