- Java锁的逻辑(结合对象头和ObjectMonitor)
- 还在用饼状图?来瞧瞧这些炫酷的百分比可视化新图形(附代码实现)⛵
- 自动注册实体类到EntityFrameworkCore上下文,并适配ABP及ABPVNext
- 基于Sklearn机器学习代码实战
构建在大语言模型基础上的应用通常有两种,第一种叫做text completion,也就是一问一答的模式,输入是text,输出也是text。这种模型下应用并不会记忆之前的问题内容,每一个问题都是最新的。通常用来做知识库.
还有一种是类似聊天机器人这种会话模式,也叫Chat models。这种模式下输入是一个Chat Messages的列表。从而可以保存上下文信息,让模型的回复更加真实.
实际上Chat models的底层还是LLMs,只不过在调用方式上有些变化.
什么是LLMs呢?LLMs是Large Language Models的简称,也就是我们常说的大语言模型.
对于langchain来说,它本身并不提供大语言模型,它只是一个中间的粘合层,提供了统一的接口,方便我们对接底层的各种LLMs模型.
langchain除了可以对接OpenAI之外,还可以对接Cohere, Hugging Face等其他的大语言模型.
比如下面是openAI的使用:
from langchain.llms import OpenAI
llm = OpenAI(openai_api_key="...")
接下来就可以调用llm的方法来进行text completion了.
一般来说有两种方式。第一种方式就是直接输出:
llm("给我写首诗")
还有一种方式调用他的generate方法:
llm_result = llm.generate(["给我唱首歌", "给我写首诗"])
这种方式可以传入一个数组,用来生成比较复杂的结果.
现在大语言模型可谓是蓬勃发展,一不留神就可能出一个新的大语言模型.
就目前而言,基本的国外主流模型langchain都是支持的.
比如:openai,azure openai,AmazonAPI,Hugging Face Hub等等。数目繁多,功能齐全,你想要的他全都有,你没想到的他也有.
那么有小伙伴可能要问题了,langchain支不支持国产的大语言模型呢?
答案是肯定的,但并不是直接的.
如果你发现langchain并没有你想要的llm,那么你可以尝试进行自定义.
langchain为我们提供了一个类叫做LLM,我们只需要继承这个LLM即可:
class LLM(BaseLLM):
@abstractmethod
def _call(
self,
prompt: str,
stop: Optional[List[str]] = None,
run_manager: Optional[CallbackManagerForLLMRun] = None,
) -> str:
"""Run the LLM on the given prompt and input."""
其中,唯一一个必须要实现的方法就是_call,这个方法传入一个字符串和一些可选的stop word,然后返回LLM的输出即可.
另外还可以实现一个_identifying_params方法,用来输出自定义LLM的一些参数信息.
大家可以自行尝试和接入不同的LLM模型.
很多时候调用LLM是需要收费的,如果我们在开发的过程中也要不断的消耗token肯定是得不偿失.
所以langchain为了给我们省钱,提供了一个FakeLLM来使用.
顾名思义,FakeLLM就是可以手动来mock一些LLM的回答,方便测试.
from langchain.llms.fake import FakeListLLM
responses = ["窗前明月光\n低头鞋两双"]
llm = FakeListLLM(responses=responses)
print(llm("给我写首诗"))
上面的输出结果如下:
窗前明月光
低头鞋两双
langchain中还有一个和FakeLLM类似的叫做HumanInputLLM.
这个LLM可以打印出给用户的prompt,并且将用户的输入作为输出返回给用户,大家可以自行体验.
除了正常的LLM调用之外,langchain还提供了一些LLM的高级用法.
比如异步调用LLM。当然目前只支持OpenAI, PromptLayerOpenAI, ChatOpenAI 和 Anthropic这几个LLM。其他的对LLM的支持貌似正在开发中.
异步方法也很简单,主要是调用llm的agenerate方法,比如下面这样:
async def async_generate(llm):
resp = await llm.agenerate(["Hello, how are you?"])
print(resp.generations[0][0].text)
另外,对于一些重复的请求来说,langchain还提供了缓存功能,这样可以重复的请求就不需要再发送到LLM去了,给我们节约了时间和金钱,非常好用.
langchain提供的cache也有很多种,比如InMemoryCache,FullLLMCache,SQLAlchemyCache,SQLiteCache和RedisCache等等.
我们以InMemoryCache为例,看看是怎么使用的:
from langchain.cache import InMemoryCache
langchain.llm_cache = InMemoryCache()
# 第一次没有使用缓存
llm.predict("Tell me a joke")
# 第二次使用了缓存
llm.predict("Tell me a joke")
使用起来很简单,只需要添加一行llm_cache即可.
如果你使用其他的cache,除了构造函数不同之外,其他的都是类似的.
有时候我们配置好了LLM之外,还可以把LLM相关的参数以文本的形式存储起来.
保存llm到文件:
llm.save("llm.json")
加载llm:
llm = load_llm("llm.json")
LLM的速度是一个硬伤,由于返回整个响应的速度太慢了,所以推出了流式响应。只要有response返回,就传输给用户。并不需要等待所有内容都获得之后再处理。这样对用户的体验是最好的.
目前langchain只支持OpenAI,ChatOpenAI和ChatAnthropic.
要实现这个流式处理, langchain提供了BaseCallbackHandler,我们只需要继承这个类,实现on_llm_new_token这个方法即可.
当然langchain已经给我们提供了一个实现好的类叫做:StreamingStdOutCallbackHandler。下面是他的实现:
def on_llm_new_token(self, token: str, **kwargs: Any) -> None:
sys.stdout.write(token)
sys.stdout.flush()
使用的时候,只需要在构建llm的是传入对应的callback即可:
from langchain.llms import OpenAI
from langchain.callbacks.streaming_stdout import StreamingStdOutCallbackHandler
llm = OpenAI(streaming=True, callbacks=[StreamingStdOutCallbackHandler()], temperature=0)
resp = llm("给我写首诗")
这个统计token使用数目的功能目前只能在openai使用.
from langchain.llms import OpenAI
from langchain.callbacks import get_openai_callback
llm = OpenAI(model_name="text-davinci-002", n=2, best_of=2)
with get_openai_callback() as cb:
result = llm("T给我写首诗")
print(cb)
LLM是大语言模型最基础的模式,chat模式的底层就是基于LLM实现的。后续我们会详细介绍chat模式,尽请期待.
最后此篇关于langchain中的LLM模型使用介绍的文章就讲到这里了,如果你想了解更多关于langchain中的LLM模型使用介绍的内容请搜索CFSDN的文章或继续浏览相关文章,希望大家以后支持我的博客! 。
尝试运行 langchain 的基本教程脚本时遇到此错误: ModuleNotFoundError: No module named 'langchain.llms'; 'langchain' is
尝试运行 langchain 的基本教程脚本时遇到此错误: ModuleNotFoundError: No module named 'langchain.llms'; 'langchain' is
目录 简介 好的prompt 什么是prompt template 在langchain中创建prompt temp
我想我不明白代理如何选择工具。我有一个矢量数据库(Chroma),其中嵌入了我希望代理首先查看的所有内部知识。然后,如果答案不在 Chroma 数据库中,它应该使用 OpenAI 用于训练的信息(外部
我正在尝试使用 langchain 代理为软件工程师生成一个月的面试计划。期望代理应该询问用户几个问题并制定计划。 import os from langchain.memory import Con
我用 langchain 库构建了一个分割器函数,可以分割一系列 python 文件。在代码中的另一点,我需要将这些文档转换回 python 代码。只是我不知道该怎么做 def index_repo(
我正在使用 Langchain 的 RecursiveCharacterTextSplitter 来分割 python 文件。这样做我会丢失哪个 block 属于哪个文件的信息。之后如何跟踪各个 bl
希望你做得很好。我根据以下 langchain 文档准备了一个聊天机器人: Langchain chatbot documentation 在上面的langchain文档中,提示模板有两个输入变量——
我在Python中使用带有Gradio接口(interface)的Langchain。我制作了一个对话代理,并尝试将其响应传输到 Gradio 聊天机器人界面。我查看了 Langchain 文档,但找
我正在尝试使用 Langchain 和特定 URL 作为源数据来整理一个简单的“带有来源的问答”。该 URL 由一个页面组成,其中包含大量信息。 问题是 RetrievalQAWithSourcesC
希望你做得很好。我根据以下 langchain 文档准备了一个聊天机器人: Langchain chatbot documentation 在上面的langchain文档中,提示模板有两个输入变量——
我在Python中使用带有Gradio接口(interface)的Langchain。我制作了一个对话代理,并尝试将其响应传输到 Gradio 聊天机器人界面。我查看了 Langchain 文档,但找
我正在尝试使用 Langchain 和特定 URL 作为源数据来整理一个简单的“带有来源的问答”。该 URL 由一个页面组成,其中包含大量信息。 问题是 RetrievalQAWithSourcesC
我想我不明白代理如何选择工具。我有一个矢量数据库(Chroma),其中嵌入了我希望代理首先查看的所有内部知识。然后,如果答案不在 Chroma 数据库中,它应该使用 OpenAI 用于训练的信息(外部
我正在尝试使用 langchain 代理为软件工程师生成一个月的面试计划。期望代理应该询问用户几个问题并制定计划。 import os from langchain.memory import Con
我用 langchain 库构建了一个分割器函数,可以分割一系列 python 文件。在代码中的另一点,我需要将这些文档转换回 python 代码。只是我不知道该怎么做 def index_repo(
我正在使用 Langchain 的 RecursiveCharacterTextSplitter 来分割 python 文件。这样做我会丢失哪个 block 属于哪个文件的信息。之后如何跟踪各个 bl
我正在开发一个使用 SvelteKit 和 Langchain 的项目。我想实现一个功能,我可以按下按钮并让 UI 在聊天流进入时显示它们的标记。但是,我当前使用表单操作的实现遇到了一些困难。 这是我
我正在关注langchain官方文档here中的本教程我是否尝试在使用时跟踪 token 的数量。但是,我想使用 gpt-3.5-turbo 而不是 text-davinci-003,因此我将使用的
我想创建一个自托管的 LLM 模型,该模型将能够拥有我自己的自定义数据的上下文(就此而言,Slack 对话)。 我听说 Vicuna 是 ChatGPT 的一个很好的替代品,所以我编写了以下代码: f
我是一名优秀的程序员,十分优秀!