swift - 从 CSV 在 Core Data 中创建 2000 万条记录 - macOS

Question

我正在从一个大型 CSV (4GB) 构建一个数据库，以便在本地为我自己工作，这不会是一个生产应用程序。我将只有一个模型/实体开始，它包含 8-9 个属性，这些属性主要是字符串和少量 Int。我将存储大约 2000 万条记录。我只会从这个 CSV 中写入数据库一次，然后它将接收增量更新以每月添加或修改大约 50,000 条记录。我将相当频繁地查询数据库，但仅限于单个用户。

对于这种情况，Core Data 是正确的选择吗？我知道它是一个对象图而不仅仅是一个数据库，我有一个 16GB ram iMac 和一个 8GB Macbook pro，我不确定在使用 Core Data 时这可能会有多少内存限制。我想弄清楚我是否最好使用 SQLite，或者 Core Data 是否是完成这项工作的正确工具。

如果 Core Data 是这个用例的不错选择，那么我可以使用一些帮助来构建记录的创建，而不用将自己限制在 ram 上。据我所知，我应该将实体写入子上下文，当我准备好复制到磁盘时，我会将数据从子上下文传递到其父上下文(内存到内存)，然后父对象可以写入/刷新到磁盘.

这就是我将过程可视化的方式，我将只在一个实体上使用一个属性示例。

DispatchQueue.global(qos: .background).async { //Non blocking
    //iterate line by line over csv reader never exceeds 9.1MB takes 30 mins. I will look into chunking to better utilise multithreading later.
    for (index, row) in reader.enumerated()  {
        let person = Person(entity: personEntity, insertInto: backgroundContext)
        person.setValue(row[0], forKey: "name")

        //When I hit x iterations or x seconds since last save - save to disk and clear the ram for the context 
        backgroundContext.perform {
            do {
                try backgroundContext.save() //I beleive pushes changes only to its parent context?
               //Clear background context ram (of stored records) 

               // Main context should now write to disk and then it should also clear its ram
              //do {
                  //main context work
             //} catch {

             //}
            } catch {
                //error handling 
            }
        }
    }
} 

我有几个担忧源于我没有清楚地理解核心数据结构。

1) 从主上下文保存到持久存储后，我想确保主上下文可以从 ram 刷新这些记录。我不想清除 ram 中的所有记录，因为在主上下文写入磁盘时可能已经从后台上下文写入了主上下文(实际上是数据丢失)。

2)与第1点类似，当后台上下文保存时，我想确保后台上下文只清除保存到其父上下文的ram中的记录。

如果有人能阐明情况或提供一些正确结构的示例，我们将不胜感激。

谢谢，

Answer 1

我认为 NSManagedObjectContext 类的 reset() 函数正是您要找的。

但我真的认为您错误地使用了 CoreData，我建议您使用准备好的 .sqlite 文件(从 CSV 创建)来初始化 CoreData。与创建 NSManagedObject 实例并将它们手动保存到上下文相比，它会更好更快地工作。