C#集合數(shù)據(jù)去重的5種方式及對(duì)比分析
更新時(shí)間：2024年11月29日 08:28:31 作者：追逐時(shí)光者
今天我們一起來(lái)討論一下關(guān)于C#集合數(shù)據(jù)去重的5種方式并且使用BenchmarkDotNet對(duì)這5種方式進(jìn)行性能基準(zhǔn)對(duì)比測(cè)試分析,每種方法都有其特點(diǎn)和適用場(chǎng)景,我們可以根據(jù)具體需求和執(zhí)行效率選擇一種進(jìn)行使用,需要的朋友可以參考下
BenchmarkDotNet介紹
BenchmarkDotNet是一個(gè)基于.NET開源、功能全面、易于使用的性能基準(zhǔn)測(cè)試框架，它為.NET開發(fā)者提供了強(qiáng)大的性能評(píng)估和優(yōu)化能力。通過(guò)自動(dòng)化測(cè)試、多平臺(tái)支持、高級(jí)統(tǒng)計(jì)分析和自定義配置等特性，BenchmarkDotNet幫助開發(fā)者更好地理解和優(yōu)化軟件系統(tǒng)的性能表現(xiàn)。
使用HashSet去重
C# 中的 HashSet 是一種集合類型，它確保其中的元素是唯一的，不允許重復(fù)值的存在。當(dāng)你嘗試向 HashSet 中添加一個(gè)重復(fù)的元素時(shí)，HashSet 會(huì)忽略重復(fù)的值，而不會(huì)引發(fā)錯(cuò)誤。這使得 HashSet 成為一個(gè)非常方便的數(shù)據(jù)結(jié)構(gòu)，用于存儲(chǔ)一組唯一的元素，并且在需要時(shí)可以高效地進(jìn)行查找、插入和刪除操作，注意HashSet中的元素是無(wú)序的。
/// <summary>
/// 使用HashSet去重
/// TODO:HashSet是一個(gè)集合類，它的特點(diǎn)是不允許重復(fù)元素，可以方便地實(shí)現(xiàn)去重功能。
/// </summary>
public static void HashSetDuplicate()
{
var dataSource = new List<int>() { 1, 2, 3, 2, 5, 88, 99, 99, 100, 88, 30, 50, 15, 100, 99, 99, 2, 3 };
HashSet<int> uniqueData = new HashSet<int>(dataSource);
Console.WriteLine(string.Join(", ", uniqueData));
}
使用循環(huán)遍歷去重
/// <summary>
/// 直接循環(huán)遍歷去重
/// </summary>
public static void LoopTraversalDuplicate()
{
var dataSource = new List<int>() { 1, 2, 3, 2, 5, 88, 99, 99, 100, 88, 30, 50, 15, 100, 99, 99, 2, 3 };
var uniqueData = new List<int>();
foreach (var item in dataSource)
{
//if (!uniqueData.Any(x => x == item))
//if (!uniqueData.Exists(x => x == item))
if (!uniqueData.Contains(item))
{
uniqueData.Add(item);
}
}
Console.WriteLine(string.Join(", ", uniqueData));
}
使用Linq的Distinct()方法去重
Linq中的Distinct()方法用于從集合中篩選出不重復(fù)的元素。Distinct()方法基于元素的相等性來(lái)進(jìn)行篩選，并返回一個(gè)包含不重復(fù)元素的新序列。底層實(shí)現(xiàn)還是使用到了HashSet。
/// <summary>
/// 使用Linq的Distinct()方法去重
/// </summary>
public static void DistinctDuplicate()
{
var dataSource = new List<int>() { 1, 2, 3, 2, 5, 88, 99, 99, 100, 88, 30, 50, 15, 100, 99, 99, 2, 3 };
var uniqueData = dataSource.Distinct().ToList();
Console.WriteLine(string.Join(", ", uniqueData));
}
使用Linq的GroupBy()方法去重
GroupBy()方法將原始集合中的元素進(jìn)行分組，根據(jù)指定的鍵或條件進(jìn)行分組。每個(gè)分組都會(huì)有一個(gè)唯一的鍵，通過(guò)將原始集合分組并選擇每個(gè)分組中的第一個(gè)元素，實(shí)現(xiàn)了去重的效果。
/// <summary>
/// 使用Linq的GroupBy()方法去重
/// </summary>
public static void GroupByDuplicate()
{
var dataSource = new List<int>() { 1, 2, 3, 2, 5, 88, 99, 99, 100, 88, 30, 50, 15, 100, 99, 99, 2, 3 };
//GroupBy()方法將原始集合中的元素進(jìn)行分組，根據(jù)指定的鍵或條件進(jìn)行分組。每個(gè)分組都會(huì)有一個(gè)唯一的鍵，通過(guò)將原始集合分組并選擇每個(gè)分組中的第一個(gè)元素，實(shí)現(xiàn)了去重的效果。
var uniqueData = dataSource.GroupBy(item => item).Select(group => group.First()).ToList();
Console.WriteLine(string.Join(", ", uniqueData));
}
使用自定義的比較器和循環(huán)遍歷
/// <summary>
/// 使用自定義的比較器和循環(huán)遍歷
/// </summary>
public static void CustomEqualityComparerDuplicate()
{
var dataSource = new List<int>() { 1, 2, 3, 2, 5, 88, 99, 99, 100, 88, 30, 50, 15, 100, 99, 99, 2, 3 };
var uniqueData = new List<int>();
foreach (var item in dataSource)
{
if (!uniqueData.Contains(item, new CustomEqualityComparer()))
{
uniqueData.Add(item);
}
}
Console.WriteLine(string.Join(", ", uniqueData));
}
/// <summary>
/// 自定義的比較器
/// </summary>
public class CustomEqualityComparer : IEqualityComparer<int>
{
public bool Equals(int x, int y)
{
return x == y;
}
public int GetHashCode(int obj)
{
return obj.GetHashCode();
}
}
性能基準(zhǔn)對(duì)比測(cè)試分析
接下來(lái)我們使用BenchmarkDotNet對(duì)這5種集合去重的方式進(jìn)行性能基準(zhǔn)對(duì)比測(cè)試分析。
測(cè)試代碼
using BenchmarkDotNet.Attributes;
namespace BenchmarkDotNetExercise
{
[MemoryDiagnoser]//記錄內(nèi)存分配情況
public class DataSetDeduplicationBenchmark
{
private List<int> dataSource;
public DataSetDeduplicationBenchmark()
{
// 生成大量重復(fù)數(shù)據(jù)
dataSource = Enumerable.Repeat(Enumerable.Range(1, 100), 10000).SelectMany(x => x).ToList();
}
/// <summary>
/// 使用HashSet去重
/// TODO:HashSet是一個(gè)集合類，它的特點(diǎn)是不允許重復(fù)元素，可以方便地實(shí)現(xiàn)去重功能。
/// </summary>
[Benchmark]
public void HashSetDuplicate()
{
HashSet<int> uniqueData = new HashSet<int>(dataSource);
}
/// <summary>
/// 直接循環(huán)遍歷去重
/// </summary>
[Benchmark]
public void LoopTraversalDuplicate()
{
var uniqueData = new List<int>();
foreach (var item in dataSource)
{
//if (!uniqueData.Any(x => x == item))
//if (!uniqueData.Exists(x => x == item))
if (!uniqueData.Contains(item))
{
uniqueData.Add(item);
}
}
}
/// <summary>
/// 使用Linq的Distinct()方法去重
/// </summary>
[Benchmark]
public void DistinctDuplicate()
{
var uniqueData = dataSource.Distinct().ToList();
}
/// <summary>
/// 使用Linq的GroupBy()方法去重
/// </summary>
[Benchmark]
public void GroupByDuplicate()
{
//GroupBy()方法將原始集合中的元素進(jìn)行分組，根據(jù)指定的鍵或條件進(jìn)行分組。每個(gè)分組都會(huì)有一個(gè)唯一的鍵，通過(guò)將原始集合分組并選擇每個(gè)分組中的第一個(gè)元素，實(shí)現(xiàn)了去重的效果。
var uniqueData = dataSource.GroupBy(item => item).Select(group => group.First()).ToList();
}
/// <summary>
/// 使用自定義的比較器和循環(huán)遍歷
/// </summary>
[Benchmark]
public void CustomEqualityComparerDuplicate()
{
var uniqueData = new List<int>();
foreach (var item in dataSource)
{
if (!uniqueData.Contains(item, new CustomEqualityComparer()))
{
uniqueData.Add(item);
}
}
}
/// <summary>
/// 自定義的比較器
/// </summary>
public class CustomEqualityComparer : IEqualityComparer<int>
{
public bool Equals(int x, int y)
{
return x == y;
}
public int GetHashCode(int obj)
{
return obj.GetHashCode();
}
}
}
}
分析生成的報(bào)告
| Method | Mean | Error | StdDev | Gen0 | Gen1 | Gen2 | Allocated |
|---|---|---|---|---|---|---|---|
| HashSetDuplicate | 7.043 ms | 0.0546 ms | 0.0511 ms | 343.7500 | 343.7500 | 343.7500 | 18169.63 KB |
| LoopTraversalDuplicate | 7.385 ms | 0.0309 ms | 0.0274 ms | - | - | - | 1.16 KB |
| DistinctDuplicate | 7.034 ms | 0.0497 ms | 0.0465 ms | 343.7500 | 343.7500 | 343.7500 | 18170.1 KB |
| GroupByDuplicate | 12.685 ms | 0.1025 ms | 0.0958 ms | 2265.6250 | 1781.2500 | 515.6250 | 12843.65 KB |
| CustomEqualityComparerDuplicate | 25.608 ms | 0.1826 ms | 0.1708 ms | 3812.5000 | - | - | 23438.68 KB |
說(shuō)明：
- Mean: 所有測(cè)量值的算術(shù)平均值。
- Error: 99.9% 置信區(qū)間的一半。
- StdDev: 所有測(cè)量值的標(biāo)準(zhǔn)差。
- Gen0: 第 0 代 GC 每 1000 次操作收集一次。
- Gen1: 第 1 代 GC 每 1000 次操作收集一次。
- Gen2: 第 2 代 GC 每 1000 次操作收集一次。
- Allocated: 每次操作分配的內(nèi)存（僅托管內(nèi)存，包含所有內(nèi)容，1KB = 1024B）。
- 1 ms: 1 毫秒（0.001 秒）。
以上就是C#集合數(shù)據(jù)去重的5種方式及對(duì)比分析的詳細(xì)內(nèi)容，更多關(guān)于C#集合數(shù)據(jù)去重的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！
您可能感興趣的文章:
相關(guān)文章
C#使用linq計(jì)算執(zhí)行元素在列表中出現(xiàn)次數(shù)的方法
這篇文章主要介紹了C#使用linq計(jì)算執(zhí)行元素在列表中出現(xiàn)次數(shù)的方法,涉及C#使用linq擴(kuò)展進(jìn)行列表查詢的技巧,需要的朋友可以參考下2015-04-04
這篇文章主要為大家詳細(xì)介紹了C#匿名委托與Lambda表達(dá)式的相關(guān)資料，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2017-08-08
這篇文章主要介紹了C#遍歷文件夾后上傳文件夾中所有文件的實(shí)現(xiàn)方法，需要的朋友可以參考下2015-10-10
c# Newtonsoft.Json 常用方法總結(jié)
這篇文章主要介紹了c# Newtonsoft.Json 常用方法的相關(guān)資料,幫助大家更好的理解和學(xué)習(xí)使用c#，感興趣的朋友可以了解下2021-02-02
這篇文章主要介紹了C#中Equality和Identity淺析,本文先是講解了Equality和Identity的定義,同時(shí)講解了判斷兩個(gè)對(duì)象等價(jià)性的4種方法,需要的朋友可以參考下2014-12-12
c#生成縮略圖的實(shí)現(xiàn)方法，需要的朋友可以參考一下2013-04-04
這篇文章主要介紹了unity 鼠標(biāo)移入彈出UI的操作，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2021-04-04
這篇文章介紹了WCF處理異常的方法，文中通過(guò)示例代碼介紹的非常詳細(xì)。對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2022-05-05
C#實(shí)現(xiàn)網(wǎng)絡(luò)小程序的步驟詳解
經(jīng)常要檢測(cè)某些IP地址范圍段的計(jì)算機(jī)是否在線。有很多的方法，比如進(jìn)入到網(wǎng)關(guān)的交換機(jī)上去查詢、使用現(xiàn)成的工具或者編寫一個(gè)簡(jiǎn)單的DOS腳本等等，這些都比較容易實(shí)現(xiàn)。本文將用C#來(lái)實(shí)現(xiàn)，感興趣的可以了解一下2022-12-12
Hashtable是System.Collections命名空間提供的一個(gè)容器，用于處理和表現(xiàn)類似keyvalue的鍵值對(duì)，所以Hashtable可以支持任何類型的keyvalue鍵值對(duì)2012-12-12