gpt4 book ai didi

c# - 由于 InitializedDatabases 列表,EntityFramework6 内存使用量较大,表数量较多

转载 作者:行者123 更新时间:2023-12-02 11:36:41 27 4
gpt4 key购买 nike

在我们的应用程序中有大量的表(大约 50k) - 所有这些表都被实际使用,这导致 Entity Framework 中的内存消耗很高。

经过一些内存分析后,我注意到 DbCompiledModel 类保留在内存中,因此经过一些搜索后,我将其跟踪到保留“InitializedDatabases”列表的 LazyInternalContext 类。

https://github.com/dotnet/ef6/blob/master/src/EntityFramework/Internal/LazyInternalContext.cs#L670

有没有办法阻止 Entity Framework 执行此操作?,这不是代码优先设置,如果这是“InitializeDatabaseAction”所暗示的内容,则此应用程序中不会完成数据库设置和迁移。

设置“return null”或将“InitializerDisabled”设置为 true 可以使一切正常工作,但宁愿不运行自定义实体构建,而且不知道仅“更改”源会产生什么影响。

大多数表都有相同的定义,因此也尝试了我在这里找到的解决方案: Change table name at runtime

尝试此操作时,我收到错误“此命令存在开放数据读取器”,那里不支持使用 postgres 和 MARS(不知道为什么我需要它,这只会更改运行的 sql)

最佳答案

Ivan Stoev 的评论中给出了解决方案,并且有效。

如果不使用反射,就无法关闭此功能,将“InternalContext.InitializerDisabled”属性设置为 true 将使其跳过字典。

所以:

  • 使用提供 DbCachedModel 的 DbContext 构造函数
  • 使用Database.SetInitializer(null);
  • 使用反射设置InternalContext.InitializerDisabled = true

来 self 用来测试这个的示例的代码,作为测试设置,我有 1 个带有 30k 分区的主表,分区本身被查询,因为 postgres(特别是 9.x)不能很好地适应大量分区:

    public class PartContext : DbContext {
private static readonly string _ConnectionString = new NpgsqlConnectionStringBuilder {
Host = "localhost",
Port = 5432,
Database = "postgres",
Username = "postgres",
Password = "password"
}.ConnectionString;

public readonly string Table;
public readonly string Partition;

public PartContext(string pMainTable, string pPartition) : base(
new NpgsqlConnection() { ConnectionString = _ConnectionString },
PartDbModelBuilder.Get(_ConnectionString, pPartition),
true
) {
Table = pMainTable;
Partition = pPartition;

Database.SetInitializer<PartContext>(null);


/**
* Disable database initialization so that the DbCachedModels are not kept internally in Entity
* This causes high memory usage when having a lot of tables
* In EF 6.4.2 there was no way to 'manage' that Dictionary externally
*/
try {
var InternalContext = typeof(PartContext).BaseType.GetProperty("InternalContext", BindingFlags.NonPublic | BindingFlags.Instance).GetValue(this, null);
InternalContext.GetType().GetProperty("InitializerDisabled").SetValue(InternalContext, true);
} catch(Exception) { }
}

public DbSet<MyPart> Parts { get; set; }

protected override void OnModelCreating(DbModelBuilder modelBuilder) {
modelBuilder.HasDefaultSchema("public");
modelBuilder.Conventions.Remove<PluralizingTableNameConvention>();
}
}

这提供了 DbCachedModels:

我建议添加一些自定义缓存代码等,这只是示例

    class PartDbModelBuilder {
public static DbCompiledModel Get(string pConnectionString, string pTable) {
DbModelBuilder builder = new DbModelBuilder();
builder.Entity<MyPart>().ToTable(pTable, "public");
using (var connection = new NpgsqlConnection() { ConnectionString = pConnectionString }) {
var obj = builder.Build(connection).Compile();
return obj;
}
}
}

这是我用作测试的实体:

    public class MyPart {
public int id { get; set; }
public string name { get; set; }
public string value { get; set; }
}

我用来运行测试的类:

    class EFTest {
public void Run(int tableCount) {
int done = 0;
Parallel.For(0, tableCount, new ParallelOptions { MaxDegreeOfParallelism = 5 }, (i) => {
string id = i.ToString().PadLeft(5, '0');
using (var context = new PartContext("mypart", "mypart_" + id)) {
var objResult = context.Parts.First();
Console.WriteLine(objResult.name);
}
done++;
Console.WriteLine(done + " DONE");
});
}
}

表定义:

    CREATE TABLE IF NOT EXISTS mypart (
id SERIAL,
name text,
value text
) partition by list (name);

CREATE TABLE IF NOT EXISTS part partition of mypart_00000 for values in ('mypart00000');
CREATE TABLE IF NOT EXISTS part partition of mypart_00001 for values in ('mypart00001');
CREATE TABLE IF NOT EXISTS part partition of mypart_00002 for values in ('mypart00002');
...

Postgres 9:

    CREATE TABLE IF NOT EXISTS mypart (
id SERIAL,
name text,
value text
);

CREATE TABLE IF NOT EXISTS ".$name."( CHECK ( name = 'mypart00000')) INHERITS (mypart);
CREATE TABLE IF NOT EXISTS ".$name."( CHECK ( name = 'mypart00001')) INHERITS (mypart);
CREATE TABLE IF NOT EXISTS ".$name."( CHECK ( name = 'mypart00002')) INHERITS (mypart);
...

关于c# - 由于 InitializedDatabases 列表,EntityFramework6 内存使用量较大,表数量较多,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/59713270/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com