LLM应用开发的开源框架Python和JavaScript(TypeScript)开发包

2023-06-23 08:14:07 我爱学习 次阅读 投稿:太子星人

LLM应用开发的开源框架Python和JavaScript(TypeScript)开发包

介绍了基于大语言模型LangChain的LLM应用开发OpennulldevelopmentframworkforLLMapplicaitonsPythonandJavaScript(TypeScript)packages,关注模块化、可组合性和扩展性,提供模块化组件和常见用例,包括ChatModels、TextEmbeddingModels、Prompts等20个+不同类型的LLMs。

LLM应用开发的开源框架Python和JavaScript(TypeScript)开发包

Opennull development framwork for LLM applicaitons

Python and JavaScript(TypeScript)packages

Focus on compostion and modularity

Key value adds:

1. Modular compents

2.Use cases:Common ways to combine components

LLM应用开发的开源框架(LLM = Large Language Model,大语言模型)

有Python 和 JavaScript(TypeScript) 开发包

聚焦 组合 和 模块化

关键内容:

1、模块化部件

2、用例 : 用常规的方式组合组件

LLM应用开发的开源框架Python和JavaScript(TypeScript)开发包

Models

LLMs: 20+integrations

Chat Models

Text Embedding Models: 10+ integrations

Prompts

Prompt Templates

Output Parsers: 5+ implementations

Retry/fixing logic

Example Selectors: 5+ implementations

Indexes

Document Loaders: 50+ implementations

Text Splitters: 10+ implementations

Vector stores: 10+ integrations

Retrievers: 5+integrations/implementations

Chains

Prompt + LLM + Output parsing

Can be used as building blocks for longer chains

More application specific chains: 20+ types

Agents

Agent Types: 5+ types

Algorithms for getting LLMs to use tools

Agent Toolkits: 10+ implementations

Agents armed with specific tools for aspecific application

模型

大语言模型: 20+

聊天模型

文本嵌入模型: 10+ 

提示词

提示词模型

输出解析器: 5+ 

重试/修复逻辑 logic

选择器示例: 5+ 

索引

文档加载器: 50+ 

文本拆分器: 10+ 

向量存储: 10+ 

检索器: 5+i

提示+LLM+输出解析

可以用作较长链条的构建块

更多特定应用链:20多种类型

代理

代理类型:5种以上类型

让LLM使用工具的算法

代理工具包:10多种实现

为特定应用配备特定工具的代理

查看原视频

【4K】【生肉+AI英语字母】吴恩达-基于大语言模型LangChain的LLM应用开发