每天都要浏览大量AI相关新闻,是不是感到信息量爆炸,有效信息少?
这么多新产品和新工具,到底哪些是真正是有价值的,哪些只是浮躁的一时热点?
想参与AI产品和工具的开发,从哪里能够获得大量的灵感和思路?
我会把AI相关的新趋势、新想法、新思路,和成熟AI产品、工具、模型等整理在这里,帮助大家去除信息噪音,更高效的了解AI前沿发展。
主要围绕:
- AI业界趋势、想法、思路
- AI产品
- AI开发者工具
- AI模型
作为本期刊的第一期,我们主要围绕2023年4月发布的相关产品和技术工具。
终端产品
AI中国法律助手
https://github.com/lvwzhen/law-cn-ai
该项目把 中国法律文书 作为知识库,将知识库embedding后存入向量数据库,然后向用户提供了完整界面,用户可以用自然语言提问,后台使用openAI的API,结合知识库的现有知识进行自然语言的回答。
主要技术:
- 预处理知识库
- 在PostgreSQL中使用 pgvector 存储嵌入向量。
- 执行向量相似性搜索,查找与问题相关的内容。
- 将内容注入到OpenAI GPT-3文本自动补全中,并将响应流式传输到客户端。
HuggingChat
https://huggingface.co/chat/
Hugging Face发布了一个ChatGPT开源替代品名为HuggingChat。Hugging Face大家都懂的,可以理解成AI界的Github,很多注明的开源模型都在上面首发。
底层模型目前有两种选择:
金融/投资 GPT助手
https://finchat.io/
FinChat.io是由ChatGPT提供技术支持的工具。它利用人工智能生成关于公共公司和投资者的问题的答案。为了提供准确的答案,FinChat会提供推理、来源和数据等支持。实测效果有点酷炫。
微软AI设计器
https://designer.microsoft.com/
输入文字,通过AI生成一个合适的设计图,且支持动态图。例如下面的文字描述”为我的油管频道‘Science for Littles’设计一个动态的广告”生成了右方的一些设计图,生成速度非常快,还可调节图片尺寸。
选择了右方较为满意的设计后,可以继续在在线编辑器中修改你的设计,支持自由导出各种格式与下载。
AI Shell
https://github.com/builderio/ai-shell
将chatGPT整合到你的shell中,用ai
命令进行操作
VLog
https://github.com/showlab/VLog
V是大写,他可以将一段长视频转换成包含视觉和音频信息的文档。通过将此文档发送到ChatGPT,我们可以针对这个视频的内容进行自然语言聊天!当然,需要消耗你自己的openAI API额度。
开发者工具
音频能力工具集:AudioGPT
https://huggingface.co/spaces/AIGC-Audio/AudioGPT
这个工具集里包含了大量音频相关的处理能力工具,大部分工具使用时需要填写你自己的GPT API key,消耗你的额度,我试了一下,文字转语音,一句5个词的句子,消耗了我4000个token!(暴风哭泣!)
演讲:
- 文字转语音
- 风格迁移
- 语音识别
- 语音增强
- 语音分离
- 语音翻译
- 单声道到双声道
- 文字转唱
唱歌:
- 文字转唱歌
音频处理:
- 文本到音频
- 音频修复
- 图像到音频
- 声音检测
- 目标声音检测
- 声音提取
大模型安全围栏:NeMo-Guardrails
https://github.com/NVIDIA/NeMo-Guardrails
NeMo Guardrails 是一个开源工具包,可以轻松地将可编程护栏添加到基于 LLM 的对话系统中。Guardrails(或简称“rails”)是控制大型语言模型输出的特定方式,例如不谈论政治、以特定方式响应特定用户请求、遵循预定义的对话路径、使用特定语言风格、提取结构化数据等。
主要优势:
- 构建值得信赖、安全可靠的 LLM 对话系统:使用 NeMo Guardrails 的核心价值是能够编写 rails 来指导对话。开发人员可以选择定义他们的 LLM 驱动的机器人在某些主题上的行为,并让他们的创造力不受其他人的影响!
- 通过操作连接模型、链、服务等: LLM 不需要解决所有挑战。NeMo Guardrails 提供了将您的代码库或服务无缝安全地连接到聊天机器人的能力!
chatGLM结合本地知识库:langchain-chatGLM
https://github.com/imClumsyPanda/langchain-ChatGLM
一种利用 ChatGLM-6B + langchain 实现的基于本地知识的 ChatGLM 应用。支持将txt、markdown等格式的文本文件上传后,进行提问。会给出自然语言的回答,并且在最后会标注出引用本地文本的出处。
本项目实现原理如下图所示,过程包括加载文件 -> 读取文本 -> 文本分割 -> 文本向量化 -> 问句向量化 -> 在文本向量中匹配出与问句向量最相似的top k个 -> 匹配出的文本作为上下文和问题一起添加到prompt中 -> 提交给LLM生成回答。
支持的LLM模型:
- THUDM/chatglm-6b
- THUDM/chatglm-6b-int8
- THUDM/chatglm-6b-int4
- THUDM/chatglm-6b-int4-qe
- ClueAI/ChatYuan-large-v2
支持的Embedding 模型:
- nghuyong/ernie-3.0-nano-zh
- nghuyong/ernie-3.0-base-zh
- shibing624/text2vec-base-chinese
- GanymedeNil/text2vec-large-chinese
在任意消费级终端部署大模型:MLC LLM
https://mlc.ai/mlc-llm/
MLC LLM是一种通用解决方案,可以使任何语言模型在各种硬件后端和本地应用程序上本地化部署,同时为所有人提供一个高效的框架,以进一步优化模型性能,以适应其自身用例。
我们的使命是使每个人都能够在其设备上本地开发、优化和部署AI模型。
这个方向的探索如果出现突破,将大大减少模型部署和使用的门槛,让全世界的低算力设备也能加入AI算力阵营。
仿openAI风格API调用chatGLM:chatglm-openai-api
https://github.com/ninehills/chatglm-openai-api
让开发者能够用调用openAI API的方式调用其他开源模型,节省大量开发工作。
参考
Github Trending
https://github.com/trending
Meta360创新学院-AGI前夜
https://docs.meta360.vip
服务器托管,北京服务器托管,服务器租用 http://www.fwqtg.net
机房租用,北京机房租用,IDC机房托管, http://www.fwqtg.net
相关推荐: Git Bash 上传本地文件到Gitee(AI助力解决问题)
前言 (PS:文章前言由Chatgpt所写) Gitee 是一个基于 Git 的代码托管和开发协作平台,它提供了代码仓库、代码审查、持续集成/持续部署 (CI/CD)、项目管理、问题跟踪等功能。用户可以在 Gitee 上创建自己的代码仓库,上传代码并与团队成员…