python - 使用 Tensorflow 中的 BERT 模型时出错-6ren

python - 使用 Tensorflow 中的 BERT 模型时出错

转载作者：行者123 更新时间：2023-12-03 16:58:17

26

4

我尝试按照 Tensorflow 说明使用 BERT 模型:( https://www.tensorflow.org/tutorials/text/classify_text_with_bert)
但是，当我运行这些行时:

text_test = ['this is such an amazing movie!']
text_preprocessed = bert_preprocess_model(text_test)

我收到以下错误:
InvalidArgumentError: 尝试使用错误的类型访问资源。预期类 tensorflow::lookup::LookupInterface 得到类 tensorflow::lookup::LookupInterface
[[{{node StatefulPartitionedCall/StatefulPartitionedCall/bert_tokenizer/StatefulPartitionedCall/WordpieceTokenizeWithOffsets/WordpieceTokenizeWithOffsets/WordpieceTokenizeWithOffsets}}]] [Op:__inference_restored_function_body_72474]

这两个类完全相同:“tensorflow::lookup::LookupInterface”。有人可以帮忙吗？谢谢你。

最佳答案

我在 GitHub 上发现了这个错误报告:https://github.com/tensorflow/text/issues/476
看来他们已经承认这是一个错误并正在尝试修复它。

关于python - 使用 Tensorflow 中的 BERT 模型时出错，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/65298391/

26

4

0

文章推荐： swiftui - 为什么手势开始在 SwiftUI 框架外工作？

文章推荐： html - 如何固定我的 latex 数学术语的宽度和高度？

bert-language-model - 来自转换器的 BERT 句子嵌入
我正在尝试从 BERT 模型中的隐藏状态中获取句子向量。看着拥抱脸 BertModel 说明 here ，其中说: from transformers import BertTokenizer, Be
bert-language-model - Huggingface BERT Tokenizer 添加新 token
我正在将 Huggingface BERT 用于 NLP 任务。我的文本包含被分成子词的公司名称。 tokenizer = BertTokenizerFast.from_pretrained('ber
bert-language-model - Transformer/BERT token 预测词汇表(从可能的 token 集中过滤出特殊 token )
对于 Transformer 模型，尤其是 BERT，以编程方式禁止模型以特殊标记作为预测结果是否有意义(并且在统计上是否正确)？在最初的实现中情况如何？在收敛过程中，模型必须学会不预测这些，但这种干
nlp - 将多个句子传递给 BERT？
我有一个包含段落的数据集，我需要将其分为两类。这些段落通常有 3-5 句话长。其中绝大多数的长度不到 500 字。我想利用BERT来解决这个问题。我想知道我应该如何使用 BERT 来生成这些段落的向
nlp - 如何在未标记的数据上微调 BERT？
我想在特定域上微调 BERT。我在文本文件中有该域的文本。我如何使用这些来微调 BERT？我在找 here目前。我的主要目标是使用 BERT 获得句子嵌入。最佳答案这里要做出的重要区别是您是否
nlp - BERT 的无监督微调仅用于嵌入？
我想针对未标记数据的特定域微调 BERT，并让输出层检查它们之间的相似性。我该怎么做？我是否需要先微调分类器任务(或问题答案等)并获得嵌入？或者我可以只使用预先训练好的 Bert 模型而无需执行任务并
python - BERT 微调后得到句子级别的嵌入
我遇到了这个page 1)我想在微调完成后获得句子级嵌入(由[CLS] token 给出的嵌入)。我怎么能做到？ 2)我还注意到该页面上的代码需要花费大量时间才能返回测试数据的结果。这是为什么？当我训
nlp - BERT 中长文本的滑动窗口用于问答
我读过解释滑动窗口如何工作的帖子，但我找不到任何关于它是如何实际实现的信息。据我了解，如果输入太长，可以使用滑动窗口来处理文本。如果我错了，请纠正我。假设我有一个文本 “2017 年 6 月 K
nlp - BERT 微调的优化器和调度器
我正在尝试使用 BERT 微调模型(使用 transformers 库)，但我对优化器和调度器有点不确定。首先，我明白我应该使用 transformers.AdamW而不是 Pytorch 的版本。
tensorflow - BERT - 池化输出与序列输出的第一个向量不同
我在 Tensorflow 中使用 BERT，有一个细节我不太明白。根据文档( https://tfhub.dev/google/bert_uncased_L-12_H-768_A-12/1 )，合并
python - BERT 中变压器编码器和解码器的输入是什么？
我正在阅读 BERT paper并且不清楚 transformer 的输入编码器和解码器。对于学习掩码语言模型(Cloze 任务)，论文称 15% 的标记是被掩码的，并且训练网络来预测被掩码的标记。
tensorflow - 在自定义数据上微调 BERT
我想使用 Bert 训练一个21 类文本分类模型。但是我的训练数据很少，所以下载了一个类似的数据集，其中包含 5 类和 200 万个样本。t并使用 bert 提供的 uncased 预训练模型对下
tensorflow - BERT + 自定义层训练性能随着时代的推移而下降
我正在训练一个在 BERT 之上使用自定义层的分类模型。在此期间，该模型的训练性能随着纪元的增加而下降(在第一个纪元之后)..我不确定这里要修复什么 - 是模型还是数据？ (对于数据来说，它是二进制标
python - BERT 分词器和模型下载
我是初学者..我正在和伯特一起工作。但出于公司网络的安全考虑，以下代码并没有直接接收bert模型。 tokenizer = BertTokenizer.from_pretrained('bert-ba
pytorch - 卡住预训练 bert 模型中的层
如何卡住上述预训练模型中的最后两层(dropout 和分类器层)？这样当模型运行时，我将得到一个致密层作为输出。最佳答案我想指出 BertForSequenceClassification 的定义
python - 加载预训练的 BERT 模型问题
我正在使用 Huggingface 进一步训练 BERT 模型。我使用两种方法保存模型:步骤 (1) 使用此代码保存整个模型:model.save_pretrained(save_location)，
python - HuggingFace Bert 情感分析
我收到以下错误: AssertionError:文本输入必须为 str(单个示例)、List[str](批处理或单个预标记示例)或 List[List[str]](预标记示例批处理)类型。,当我运行
bert-language-model - 如何向标记器添加新的特殊标记？
我想构建一个多类分类模型，我将对话数据作为 BERT 模型的输入(使用 bert-base-uncased)。 QUERY: I want to ask a question. ANSWER: Sur
python - 如何从 BERT 模型中获取词嵌入的余弦相似度
我很感兴趣如何从 BERT 模型中获得不同句子中词嵌入的相似性(实际上，这意味着词在不同场景中具有不同的含义)。例如: sent1 = 'I like living in New York.' se
python - 使用 BERT 通过词嵌入生成相似词或同义词
众所周知，BERT 模型的词嵌入能力可能优于 word2vec 和任何其他模型。我想在 BERT 词嵌入上创建一个模型来生成同义词或相似词。就像我们在 Gensim Word2Vec 中所做的一样。

首页

博学

6Ren·AI

商城

python - 使用 Tensorflow 中的 BERT 模型时出错