为了满足企业对于敏捷和高效地进行AI原生应用开发与运维的需求,并降低相关开发的门槛,百度智能云最新发布了“千帆AI原生应用开发工作台”。该工作台将开发大型模型应用程序的常见模式、工具和流程进行了整合,使得开发者可以聚焦于自身业务,而无需为开发过程投入过多的精力。
“千帆AI原生应用开发工作台”是百度智能云在AI开发领域的创新成果,它具体包括了应用组件和应用框架两层服务。在应用组件层面,工作台提供了一系列经过优化的AI组件和基础云组件,可以帮助开发者快速构建出高质量的AI应用。这些服务器托管网组件化的服务既包括AI组件例如问答、思维链(CoT,Chain of Thought)等大语言模型组件和文生图、语音识别等多模态组件,也包括基础云组件例如向量数据库、对象存储等传统云服务能力,这些组件可以帮助开发者完成特定的功能性任务。
而在应用框架层面,工作台提供了完整的AI应用开发框架,包括模型训练、部署、推理等环节的一站式服务。这些框架是百度智能云基于对AI应用开发的深度理解和丰富经验,通过将上述这些组件有选择地串联、组合起来,帮助开发者能够比较完整地完成一个特定场景的任务。例如,检索增强生成(RAG)、智能体(Agent)、生成式商业智能(GBI)就是典型的AI原生应用框架下的样板间。这些样板间可以支撑开发者敏捷、高效地进行AI原生应用开发。
检索增强生成
检索增强生成(RAG,Retrieval Augmented Generation)框架,可以更高效的利用企业专有领域内的知识,并在大模型的帮助下根据相关问题做出精确回答,是专业知识问答类AI原生应用的必备核心能力。RAG的原理是把一个大文件切成一片一片的小文件,这时候用向量引擎来索引这些片段,构建出一个向量数据库。
演讲视频
大会现场,百度智能云技术委员会联席主席、百度智能云应用产品中心总架构师孙珂,还进行了如何基于RAG框架,为三一重工快速开发知识问答应用的实操演示:只需在千帆AI原生应用工作台中选择预制的RAG框架,进行相应的参数配置等工作,就可以快速实现三一重工官网智能客服应用的开发与上线。
当客户后续问题来了之后,就可以在片段里找一个相关的,再让大模型根据这个内容去提炼、生成,最后形成一个一统的答案。
一个2万字的文章,48页的内容,通过几分钟的时间,做成了一个线上小助手。使用千帆AI原生应用开发工作台,几千篇这样的文档,用十来分钟的时间就可以生成,大概花几百块钱,这几百块钱把这个助手建设起来以后,后续每一次提问只需要几分钱,这就是大模型带来的魅力。
我通过本文复现一下,视频演示的功能。
首先,从网站上找到一个保养手册,我选的汽车的!链接:ABUIABA9GAAgo6W1owYovL_2ygQ.pdf (faiusr.com)
打开千帆大模型平台,链接:百度智能云千帆大模型 (baidu.com),点击”立即使用”。输入账号密码就可以使用了!
选择知识库,然后创建知识库。
填写基本信息,包括名称和描述,选择应用,应用是你在千帆平台上训练的模型应用,具体的训练部署过程可以参考:千帆大模型实践:手把手教你用千帆大模型平台训练自己的大模型,训练、微调、强化、部署一站式_AI浩的博客-CSDN博客
然后,点击下一步!进入导入配置页面。
选择本地存储和导入格式,然后,上传文件。点击下一步。
选择自动分段,然后点击确定。然后跳转到知识库的页面了。等待一段时间就可以导入完成。
等待导入完成,就可以用生成的代码。如下图:
然后,将代码放到网站上就可以化身产品小助手,so easy!!!
智能体
智能体(Agent)作为当前业界流行的应用框架,可以对人类给定的任务进行自动拆解,自动规划并调用各种组件协同完成任务,同时根据任务完成效果得到反馈,改进自身能力。 Agent框架在工业、交通等领域得到了广泛应用,为行业的智能化升级和转型提供了有力的支持。
中天钢铁基于千帆AI原生应用开发工作台提供的Agent框架打造了智能化的“企业调度中枢”,实现了任务指令的自动感知、分解与执行。在发现钢铁产量不达标时,用户只需一次提问,智能体便可以自动调用平台纳管的各种资源和API,完成BI取数、第三方根因分析等工作,找到产量未达标的原因并及时调整排产计划。
通过智能化技术手段,中天钢铁成功地实现了对生产过程的精细化管理,提高了产量质量和生产服务器托管网效率。
总结
千帆AI原生应用开发工作台”是百度智能云为解决AI原生应用开发与运维难题而推出的创新解决方案。它通过提供应用组件和应用框架两层服务,帮助开发者降低开发门槛,提高开发效率和应用质量。同时,该平台还支持多种不同的开发方式和编程语言,可以方便地进行定制和扩展。这些优势将为开发者带来更为便捷、高效、稳定的开发体验,同时也将推动企业更好地实现数字化转型。
服务器托管,北京服务器托管,服务器租用 http://www.fwqtg.net
1. TP, FP, FN, TN True Positive 满足以下三个条件被看做是TP 1. 置信度大于阈值(类别有阈值,IoU判断这个bouding box是否合适也有阈值) 2. 预测类型与标签类型相匹配(类别预测对了) 3. 预测的Bouding …