gpt4 book ai didi

python - 为特定领域微调 Bert(无监督)

转载 作者:行者123 更新时间:2023-12-04 02:30:08 28 4
gpt4 key购买 nike

我想在与特定领域(在我的情况下与工程相关)相关的文本上微调 BERT。培训应该是无人监督的,因为我没有任何标签或任何东西。这可能吗?

最佳答案

您实际上想要的是继续对来自您特定领域的文本进行 BERT 预训练。在这种情况下,您要做的是继续将模型训练为掩码语言模型,但使用特定于域的数据。
您可以使用 run_mlm.py Huggingface 的变形金刚中的脚本。

关于python - 为特定领域微调 Bert(无监督),我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/64712375/

28 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com