切换到宽版
开启辅助访问
登录
立即注册
搜索
搜索
搜索
首页
Portal
论坛
同城
人才网
工具
菲龙网工具
个人中心
关于我们
每日签到
本地新闻
时事评论
华人世界
中国新闻
新闻视频
国际新闻
娱乐新闻
科技新闻
菲龙广场
房产网
菲龙速聘
二手交易
便民电话
美食餐厅
旅游签证
物流速运
商品买卖
二手车市场
严选
话费充值
便民电话
贺词页面
瀑布流页
汇率查询
APP下载
每日签到
我的任务
道具商店
每日签到
我的任务
道具商店
更改用户名
关于菲龙网
About US
联系菲龙网
活动回顾
加入我们
本版
用户
菲龙网
»
论坛
›
新闻频道
›
科技新闻
›
不炼大模型的互联网公司,趟出AI转型第一波经验 ...
菲龙网编辑部7
有 744 人收听 TA
147981
主题
147998
回复
174120
积分
收听TA
发消息
加好友
本文来自
科技新闻
订阅
|
收藏
(
2953
)
菲龙网编辑部7发布过的帖子
0/20
负债不够存单来凑,年内多家银行同业存单罕见“提额”
0/28
华泰财产保险有限公司江门中心支公司被罚35万,原因曝光!
0/23
国家金融监督管理总局:警惕不法贷款中介诱导消费者“债务重组”
0/24
金融引擎助力生态振兴,恒丰银行亿元资金助力废弃矿坑综合治理项目
0/24
虚列费用!惠州这家保险公司被罚22万元
0/26
金融机构科技投入超3500亿 数字化转型步入深水期
0/20
蛇年纪念币钞难抢?还能捡漏吗?多家银行回应
0/19
评评“理” ⑲:招行APP业绩榜NO.1近1个月年化收益率14%,性价比得分却很低丨银行热销理财产品测评系列
0/27
智库报告|科技金融落地之年,商业银行答题如何?
查看TA的全部帖子>>
不炼大模型的互联网公司,趟出AI转型第一波经验
时间:2024-9-9 09:31
0
150
|
复制链接
|
互动交流
显示全部楼层
阅读模式
直达楼层
马上注册,结交更多好友
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
一水 发自 凹非寺
量子位 | 公众号 QbitAI
AI应用落地,
算力不足
仍是摆在众人面前的第一道槛。
这不,作为国产芯片设计公司,燧原科技成立时就碰上了这个老大难。
好在后来通过上云,其验证、benchmark测试效率从2周准备环境
缩短至30分钟
,算力充足加速了芯片研发。
△燧原科技副总裁任树峰
当下,
云+AI基础设施
已成为企业智能化转型的关键支撑。
在以生成式AI为代表的技术驱动下,互联网行业作为云+AI应用的先锋,已经找到了新的增长点。
具体是如何做到的呢??
9月6日,腾讯数字生态大会
「互联网AI应用专场」
在深圳拉开序幕,现场人从人…(头顶台风摩羯)
整场大会只做一件事,讲干货、讲干货、讲干货。例如:
作为C端消费玩家,值得买科技如何让
AIGC内容点击率
是用户生产内容的103% ?作为国产算力先锋,燧原科技最初如何摆脱峰值算力供给难题?作为和技术没那么近的文娱行业,猫眼娱乐如何完成几十上百TB动画渲染?
话不多说,这就挑重点为大家奉上。
关于用AI转型升级,他们有话说
在大会现场,大家达成了一个基本共识:
技术方案的选择将影响AI应用的效率。
至今为止,有
3条
技术路径成为趋势:
结合专业领域知识做RAGAgent将成为应用落地的主要方式云计算是夯实基础的重要底座
引用腾讯云副总裁
许华彬
的话来解释:
RAG结合企业自有知识,无需企业花费较多人力和算力,以及对大模型SFT精调,是当前企业级AI应用落地的成熟方案。
近期来多行业场景的AI Agent蓬勃发展,面向C端的原生应用,以及B端企业级业务流程自动化,将成为后续应用落地的主要方式。
云计算是夯实基础的重要底座
,云原生技术助力企业实现敏捷开发,以新技术、新市场的创新,实现增长突破。
那么问题来了,不同行业/企业如何根据自身情况做选择?
下面有请几位代表性玩家为我们
“现身讲案例”
:
用户更喜欢点击AIGC内容了
作为聚焦
消费领域
的玩家,值得买科技分享了一个有意思的数据:
在最新内部测试中,通过AIGC生产的内容,它的点击率已经是用户生产内容的
103%
。
该公司
CTO王云峰
坦言,一般情况下,人们不太喜欢AI生产的内容(担心虚假信息),而现在,这一点击率已经打破了旧有印象。
why??
复盘背后的原因,王云峰首先分享了值得买
对AI的不同认知
:
AI不仅仅是一个技术,其实它本身也是一个生态。
按他的话说,如果AI纯粹是一个技术,那么AI应用落地可能意味着单纯使用通用模型;而实际上,AI不仅仅是生产力,很多时候它在
重塑我们的生产流程
。
放到消费领域的AI生态,
一个明显特征
让它区别于金融、医疗等领域。
在消费领域,
经验远大于知识
。
也就是说,不同于金融、医疗等领域有很多确定性的知识可供模型训练学习,用户消费主要凭借经验,个性化非常强。
概括下来,
消费领域的特点主要包括
:
内容场景灵活。用户消费更多凭借个人经验而非知识,且动态变化;能力外延拓展。消费不单指买东西本身,还有之后的一系列体验,边界非常广;消费需求复杂。消费需求复杂多样,个性化强;
认知有了,行业特点也理清了。
所以,AIGC内容之所以能逐渐赢得青睐,答案正式揭晓:
让AI在更大程度上帮助用户
做功课
。
值得买发现,让AI帮用户去做那些以前要做很多功课才能解决的问题,用户点击率和阅读效率、阅读时长都会比通过AI单纯生成内容要好很多。
具体而言,值得买的做法是:
推出一套AI解决方案。
包括1个“值得买消费大模型”(自研13B消费模型),“商品库”和“内容库”2大数据库,AIUC分析引擎、AIGC生成引擎和AGENT调度引擎3个应用构建框架,以及提供针对性的AI解决方案的4类应用AI战略。
在这一方案中,
上云
是值得买战略的关键:
通过腾讯混元大模型等理解语音、视频、图像的多模态数据;自购算力托管+多云算力,迅速进行模型训练和推理部署;通过腾讯云容器场景GPU虚拟化,实现对单个GPU的更细粒度划分,提升资源利用率、减少资源和人力消耗;实现10亿+条商品库与近百亿条内容库的数据处理;
芯片设计也能上云了
作为国产AI算力先行者,燧原科技副总裁任树峰一上台就回顾了创业初期面临的痛点:
对一家芯片设计创业公司来说,如何保证
峰值算力供给
一直是个难题。
据他介绍,一个芯片设计项目的研发周期大概在1~2年,不同时间对算力的需求呈现波峰波谷状态。
实际情况是,公司一般会
集中在两三个月内
做很复杂、压力很大的模拟仿真和各种运算。
与此同时,通常大家认为芯片设计就是写IP或者写代码,但实际上,一家芯片公司还需要建机房、买服务器,以及管理服务器。
那么问题来了,对当时的燧原来说:
面对扩容需求,公司需要买服务器,这个过程需要工程师等待算力;而且,整个机房的建设也属于一件很复杂的工程。
结果就是,千万级IT开销花出去了,工程师还是因为
算力不够
需要等物理扩容、等算力。
后来的解决方案是:
上云
。
据任树峰介绍,芯片设计上云在整个行业还不太常见,原因主要是相关数据过于敏感。
对此,燧原科技联合腾讯云打造了
本地+上云的存算分离式新架构
。
效果上,通过腾讯云保障燧原的峰值算力供给,燧原验证、benchmark测试效率从2周准备环境
缩短至30分钟
,提升作业并发100%、缩短仿真周期30%。
动画渲染更丝滑了
到了看似和技术没那么近的文娱行业,猫眼娱乐副总裁徐晓也揭露了
业内痛点
:
在动画电影制作时,涉及跨城市协作且数据量达到数十至上百TB时,使用传统网络进行传输非常缓慢。
这里要补充下,一般一个动画项目的服务公司和工作人员可能分散在全国各地,需要将四散的工程文件进行汇总并统一渲染。
通常情形是,大家只能依赖
快递U盘或硬盘给对方
,跨市传输至少需要1天,跨省则需2天,而跨国协作甚至可能拖延到十几天。
经过试验,猫眼基于腾讯云数据传输、数据存储安全方面能力打造了
猫眼渲染平台
。
让工作者全部用
远程桌面
登录到集群,集群上安装了常用工作软件。
如此一来,工作者只需远程在集群里制作,不仅省去了素材
交换下载
环节,还能更好
保护版权方
。
解决了这个大问题后,再用AI去做
建模
……
另外,关于猫眼AI转型之路,徐晓在会中透露:
(我们)没有基建建设能力,只能做一些
垂类模型
。
他重点分享了
票房预测
这一场景,当前,猫眼能够根据单个影片特征和同期大盘预估票房。
这里依托了基于腾讯云打造的
大数据平台
。具体包括:
基于腾讯云Wedata数据开发治理平台,提供数据集成,数据开发、数据资产管理等;基于腾讯云DLC数据湖产品,提供Serverless方式使用存储计算资源,按需自动弹性扩缩容;基于腾讯云DLC数据湖产品,提供统一湖格式存储、实时写入和更新数据入湖;腾讯云BI提供查询加速能力,联合TCHouse-D提供的高性能查询和加载报表数据到缓存,提供秒级交互式分析能力;
数据显示,该平台可实现
日均3万+
离线数仓调度任务稳定运行,核心任务执行
效率提升20%
。
还有哪些看点
事实上,本次大会聚齐了SaaS、文娱、社交、营销、电商、招聘等多个泛AI应用场景,到场分享的企业还有金蝶云、趣丸科技、智谱、猎聘、筷子科技……
篇幅有限,下面只能分享部分嘉宾看法。
作为LLM的头部玩家,智谱企业商业技术中心总经理
柴思远
分享了:
把大模型真正变成企业生产力,有几件事值得思考。
具体而言,企业要选一个好的基座模型,同时内部最好也有类似业务BP的角色(懂模型价值、懂业务)。
更重要的是,
最好发动全员去使用AI
。
真正好的应用还是基于业务场景当中一些原生应用,而这些应用的创新肯定是来自于自下而上的组织内部的元素。
随着数据资产的沉淀和变现,企业可以构筑自身竞争优势。
今天我们在大模型上落地应用,
大家做的所有的指令工程和SRT的内容
,随着这个场景越来越深入的探索,这就会成为我们企业自身在大模型这个时代数据的资产或者是数据的壁垒。
最后是业务场景,前期可能适合将大模型嵌入已有工作流程;更长远的,企业需要找到一些新的场景和业务模式,然后把模型的能力使用进去。
另外,趣丸技术保障负责人
刘亚丹
分享了:
应用AI赋能工具要回答的3个问题。
展开来说,刘亚丹首先提醒AI转型也要讲
ROI
,即“愿意为AI转型花多少?想得到怎样的成果?”。
然后还要寻找切入点。按他的说法:
提升3到5倍效率的事情
,我们才投资去做。
同时,基于以往向客户交付颠覆性东西的尝试,他还分享了一条经验教训:
在切入点上,不要改变现有的流程。
最后,腾讯混元高级AI策略产品经理
张汉策
分享了
如何构建AI角色
。
他们构建的《长相思》AI角色获得了成功:长相思AI角色对话总热度超3.7亿,“相柳” 单角色热度超2亿。
重点是,他详细介绍了不同训练方法踩过的坑,包括纯prompt法、RAG法,以及Agent法。
并最终总结了长相思采用的方法。
腾讯云:让企业更聚焦自身核心业务
相信大家也发现了一个华点:这些企业在AI转型升级中都用上了
腾讯云
。
据了解,腾讯云拥有广泛的全球基础设施,覆盖21个地区,运营58个可用区,全球服务器数量超过100万台,全球加速节点超过3200个,带宽储备达到200Tbps。
一直以来,腾讯云都以深厚的公有云实力和分布式云战略,持续推动各行各业的数字化转型。
截至目前,腾讯云AI产品已覆盖超过
400家
互联网头部企业,累计服务超过
12万家
互联网客户。
从AI应用落地面临的挑战出发,腾讯云行业架构副总监邱浩分享了
腾讯云AI全栈解决方案
。
从基础设施层、模型层、模型加速层、机器学习平台层、应用平台层和业务应用层阐述了腾讯云在
计算、存储、网络,一站式AI开发平台
腾讯云TI-ONE以及
云原生产品
等方面的能力,并给出了对应不同阶段AI应用开发的具体方案。
具体而言,腾讯云提供了如下
开箱即用
的产品:
腾讯混元大模型。企业和个人开发者,都可以通过API直接调用腾讯混元;腾讯云TI平台。打通从数据获取到模型训练部署、最后到AI应用开发的全流程链路;数据库TDSQL。涵盖金融级分布式、云原生、分析型等多引擎融合的完整数据库产品体系,支持数据库迁移;大数据处理套件TBDS。可在公有云、私有云、非云化环境,根据不同数据处理需求组合合适的存算分析组件;
总之,一句话概括腾讯云的作用,那就是可以让企业
更聚焦自身核心业务
。
借用值得买科技王云峰的说法:
企业面临的不确定性不会消失,但可以让专业的人来解决。
BTW,就在大会前一天,腾讯混元发布了全新
Turbo大模型
,作为新一代的旗舰模型。
相比上一代混元pro,推理性能提升超过100%的情况下,成本降低了50%,效果对标GPT-4o。
此外,新模型也支持角色扮演、代码生成FunctionCall,以及全新推出的支持腾讯生态整合的AI搜索联网的能力。
对了,Turbo模型这一次的定价也
降低了50%
。
回复
举报
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
点我进行验证
本版积分规则
发表回复
回帖后跳转到最后一页
关闭
站长推荐
/1
【点击免费下载】菲龙网移动APP客户端
【点击免费下载】菲龙网移动APP客户端,新闻/娱乐/生活资讯生活通,带你了解菲律宾多一点!
查看 »
扫码添加微信客服
快速回复
返回列表
返回顶部