Swift NaturalLanguage 框架错误 “Token SequenceType length is 0"

Question

我目前正在使用 Apple 的 CreateML 从我拥有的 JSON 文件生成 NLP 模型。这是我的代码:

import Foundation
import CreateML
import NaturalLanguage

let trainingData = try MLDataTable(contentsOf: Bundle.main.url(forResource: "Fel", withExtension: "json")!)
let model = try MLWordTagger(trainingData: trainingData, tokenColumn: "tokens", labelColumn: "labels")
let metadata = MLModelMetadata(author: "Sai Kambampati", shortDescription: "The Felicity Named Entity Recognizer", license: "MIT", version: "1.0")
try model.write(to: URL(fileURLWithPath: "/Users/SaiKambampati/Desktop/Felicity.mlmodel"), metadata: metadata)

JSON 文件有 116,096 行，Xcode 能够正确解析它。它根据 5% 的数据生成了验证集。然而，当它开始标记数据并提取特征时，我收到一条错误消息:

▿ MLCreateError
▿ 通用:1 个元素
- 原因:“Token SequenceType 长度为 0”

我不知道这意味着什么，也无法在网上找到任何内容!有人可以帮忙吗？

Answer 1

您的 JSON 文件必须采用此格式才能与 MLWordTagger 的 tokenColumn 参数配合使用。标记作为字符串列表，标签作为字符串列表。

[
    {
      "tokens": [
        "Aprender",
        "a",
        "realizar",
        "Aquisição",
        "de",
        "usuários"
      ],
      "labels": [
        "GENERIC_ACTION",
        "NONE",
        "ACTION",
        "TOPIC",
        "NONE",
        "NONE"
      ]
    }, ...