检测具有相同子节点的实体
本文关键字:子节点 实体 检测 | 更新日期: 2023-09-27 18:11:34
我有两个实体,Class
和Student
,以多对多关系链接。
当从外部应用程序导入数据时,不幸的是,有些类是重复创建的。"复班"的名称不同,但科目相同,学生也相同。
例如:{Id = 341, Title = '10rs/PE1a', SubjectId = 60, Students = {Jack, Bill, Sarah}}
{Id = 429, Title = '10rs/PE1b', SubjectId = 60, Students = {Jack, Bill, Sarah}}
没有一般规则来匹配这些重复类的名称,因此识别两个类是否重复的唯一方法是它们具有相同的SubjectId和Students。
我想使用LINQ来检测所有的重复(并最终合并它们)。到目前为止,我已经尝试了:
var sb = new StringBuilder();
using (var ctx = new Ctx()) {
ctx.CommandTimeout = 10000; // Because the next line takes so long!
var allClasses = ctx.Classes.Include("Students").OrderBy(o => o.Id);
foreach (var c in allClasses) {
var duplicates = allClasses.Where(o => o.SubjectId == c.SubjectId && o.Id != c.Id && o.Students.Equals(c.Students));
foreach (var d in duplicates)
sb.Append(d.LongName).Append(" is a duplicate of ").Append(c.LongName).Append("<br />");
}
}
lblResult.Text = sb.ToString();
这是不好的,因为我得到错误:
NotSupportedException:无法创建类型为'TeachEDM.Student'的常量值。在此上下文中只支持基本类型('如Int32, String和Guid')。
显然它不喜欢我在LINQ中匹配o.SubjectId == c.SubjectId
。
此外,这似乎是一个可怕的方法,通常是非常缓慢的。对数据库的调用超过5分钟。
SubjectId
的比较不是问题,因为c.SubjectId
是原始类型的值(int
,我猜)。异常抱怨Equals(c.Students)
。c.Students
是一个常量(相对于查询duplicates
),但不是基本类型。
我也会尝试在内存中而不是在数据库中进行比较。当您启动第一个foreach
循环时,您正在将整个数据加载到内存中:它执行查询allClasses
。然后在循环内部,你将IQueryable allClasses
扩展到IQueryable duplicates
,然后在内部foreach
循环中执行。这是外循环的每个元素一个数据库查询!这可以解释为什么代码的性能很差。
所以我会尝试在内存中执行第一个foreach
的内容。对于Students
列表的比较,必须逐个元素进行比较,而不是对Students集合的引用,因为它们肯定是不同的。
var sb = new StringBuilder();
using (var ctx = new Ctx())
{
ctx.CommandTimeout = 10000; // Perhaps not necessary anymore
var allClasses = ctx.Classes.Include("Students").OrderBy(o => o.Id)
.ToList(); // executes query, allClasses is now a List, not an IQueryable
// everything from here runs in memory
foreach (var c in allClasses)
{
var duplicates = allClasses.Where(
o => o.SubjectId == c.SubjectId &&
o.Id != c.Id &&
o.Students.OrderBy(s => s.Name).Select(s => s.Name)
.SequenceEqual(c.Students.OrderBy(s => s.Name).Select(s => s.Name)));
// duplicates is an IEnumerable, not an IQueryable
foreach (var d in duplicates)
sb.Append(d.LongName)
.Append(" is a duplicate of ")
.Append(c.LongName)
.Append("<br />");
}
}
lblResult.Text = sb.ToString();
按名称排序序列是必要的,因为我相信SequenceEqual
会比较序列的长度,然后比较元素0和元素0,然后比较元素1和元素1,以此类推。
编辑对于您的评论,第一个查询仍然很慢。
如果你有1300个班级,每个班级有30个学生,那么迫切加载(Include
)的性能可能会受到数据库和客户端之间传输数据的乘法的影响。这是解释在这里:有多少包括我可以使用ObjectSet在实体框架,以保持性能?. 查询很复杂,因为它需要类和学生之间的JOIN
,对象具体化也很复杂,因为EF在创建对象时必须过滤掉重复的数据。
另一种方法是在第一个查询中只加载没有学生的类,然后在循环中显式地逐个加载学生。它看起来像这样:
var sb = new StringBuilder();
using (var ctx = new Ctx())
{
ctx.CommandTimeout = 10000; // Perhaps not necessary anymore
var allClasses = ctx.Classes.OrderBy(o => o.Id).ToList(); // <- No Include!
foreach (var c in allClasses)
{
// "Explicite loading": This is a new roundtrip to the DB
ctx.LoadProperty(c, "Students");
}
foreach (var c in allClasses)
{
// ... same code as above
}
}
lblResult.Text = sb.ToString();
在这个例子中,你将有1 + 1300个数据库查询,而不是只有一个,但是你不会有数据乘法发生在急切加载和查询更简单(没有类和学生之间的JOIN
)。
这里解释了显式加载:
- http://msdn.microsoft.com/en-us/library/bb896272.aspx
- 对于poco(也适用于
EntityObject
派生实体):http://msdn.microsoft.com/en-us/library/dd456855.aspx - 对于
EntityObject
派生实体,您也可以使用EntityCollection
的Load
方法:http://msdn.microsoft.com/en-us/library/bb896370.aspx
如果您使用延迟加载LoadProperty
的第一个foreach
将没有必要,因为Students
集合将在您第一次访问它时加载。它应该会产生同样的1300个额外查询,比如显式加载。