C#實現(xiàn)Oracle批量寫入數(shù)據(jù)的方法詳解
文章描述
往數(shù)據(jù)庫批量寫入數(shù)據(jù),這個功能使用頻率相對還是比較高的,特別是在做一些導(dǎo)入等功能的時候。net的程序大部分都是使用的sqlserver或者mysql數(shù)據(jù)庫,oracle相對少一些。不過說到Oracle批量寫入數(shù)據(jù),我只想吐槽一句: .Net苦Oracle久矣。
由于一直使用的是.Net Framework,所以我感覺Oracle在批量寫入這一塊很不友好。之前有使用過兩種方式,但是弊端太明顯。分別是: OracleDataAdapter.Update(DataTable dataTable)和Oracle.DataAccess.Client下的OracleBulkCopy,以下簡單說下:
第一種感覺就是只是提供了一個批量提交的方式,在效率方面,并沒有什么提升;
第二種對Oracle環(huán)境配置的什么的有要求,所以我在使用的時候,把類似精簡oracle的一些文件放了進去(可能是這個原因),在初始化和Open的時候依然會卡頓一下。即便如此,這個方法依然很快。但是弊端基本無解,如非無奈,盡量不要使用(但是我們確實是無奈之舉,所以依然使用了一段時間,并采用了以下方式盡量避免這個問題,采用的方式是:批量寫入一個無主鍵的臨時表,然后把這個臨時表在業(yè)務(wù)、事務(wù)中使用)。
弊端1:沒有事務(wù),只有一個內(nèi)部事務(wù)(UseInternalTransaction),單純的用來保證此次提交數(shù)據(jù)的一次性而已。
弊端2:會破壞主鍵,即便數(shù)據(jù)主鍵重復(fù)依然可以寫入成功。導(dǎo)致表結(jié)構(gòu)混亂,引發(fā)一系列問題?。?!
之前有在SqlSugar中看到Oracle的批量提交,他在備注有表明以上弊端,但是奇怪的是他同時標注了只支持.Net Core,但其實.Net Framework也是可以用。而且我沒明白既然只支持.Net Core,為什么不用我下面要寫的第三種方式
再然后偶爾在網(wǎng)上發(fā)現(xiàn)了第三種方式: .Net Core下,基于Oracle.ManagedDataAccess.Client中的ArrayBindCount,測試后發(fā)現(xiàn),無上述弊端,效率比OracleBulkCopy更優(yōu)秀。但是如果要繼承到老項目中的話,建議寫個插件或者Web Api來處理

開發(fā)環(huán)境
.NET Framework4.5、.NET Core 3.1
開發(fā)工具
Visual Studio 2019
實現(xiàn)代碼
//OracleDataAdapter.Update(DataTable dataTable)方式
using System.Data.OracleClient;
public static int BulkCopy(DataTable dataTable) {
int result = 0;
List<string> sql_column = new List<string>();
List<string> sql_para = new List<string>();
List<OracleParameter> paras = new List<OracleParameter>();
foreach(DataColumn column in dataTable.Columns) {
sql_column.Add(column.ColumnName);
sql_para.Add(":" + column.ColumnName);
OracleParameter para = new OracleParameter(column.ColumnName, ConvertOracleDbType(column.DataType));
para.SourceColumn = column.ColumnName;
paras.Add(para);
}
using(OracleConnection conn = new OracleConnection(ConfigurationManager.ConnectionStrings["default"].ConnectionString)) {
conn.Open();
string sql = $"insert into {dataTable.TableName}({string.Join(",", sql_column)}) values ({string.Join(",", sql_para)})";
OracleCommand cmd = new OracleCommand(sql, conn);
cmd.Parameters.AddRange(paras.ToArray());
OracleDataAdapter adapter = new OracleDataAdapter();
adapter.InsertCommand = cmd;
result = adapter.Update(dataTable);
conn.Close();
}
return result;
}
public static OracleType ConvertOracleDbType(Type type) {
switch(type.Name.ToLower()) {
case "decimal":
return OracleType.Number;
case "string":
return OracleType.VarChar;
case "datetime":
return OracleType.DateTime;
default:
return OracleType.VarChar;
}
}//OracleBulkCopy
using Oracle.DataAccess.Client;
public static int BulkCopy(DataTable dataTable) {
int result = 0;
using(OracleConnection conn = new OracleConnection(ConfigurationManager.ConnectionStrings["default"].ConnectionString)) {
conn.Open();
OracleBulkCopy oracleBulkCopy = new OracleBulkCopy(conn, OracleBulkCopyOptions.UseInternalTransaction);
oracleBulkCopy.DestinationTableName = dataTable.TableName;
foreach(DataColumn column in dataTable.Columns) {
oracleBulkCopy.ColumnMappings.Add(new OracleBulkCopyColumnMapping(column.ColumnName, column.ColumnName));
}
oracleBulkCopy.WriteToServer(dataTable);
conn.Close();
}
return result;
}//ArrayBindCount
using Oracle.ManagedDataAccess.Client;
public static OracleDbType ConvertOracleDbType(Type type) {
switch(type.Name.ToLower()) {
case "decimal":
return OracleDbType.Decimal;
case "string":
return OracleDbType.Varchar2;
case "datetime":
return OracleDbType.Date;
default:
return OracleDbType.Varchar2;
}
}
public static dynamic InitList(Type type) {
switch(type.Name.ToLower()) {
case "decimal":
return new List<decimal>();
case "string":
return new List<string>();
case "datetime":
return new List<DateTime>();
default:
return new List<string>();
}
}
public static void AddValue(dynamic list, Type type, object value) {
switch(type.Name.ToLower()) {
case "decimal":
list.Add(Convert.ToDecimal(value));
break;
case "string":
list.Add(Convert.ToString(value));
break;
case "datetime":
list.Add(Convert.ToDateTime(value));
break;
default:
list.Add(Convert.ToString(value));
break;
}
}
public static int BulkCopy(DataTable dataTable) {
string connStr = "";
int result = 0;
List<string> sql_column = new List<string>();
List<string> sql_para = new List<string>();
List<OracleParameter> paras = new List<OracleParameter>();
foreach(DataColumn column in dataTable.Columns) {
sql_column.Add(column.ColumnName);
sql_para.Add(":" + column.ColumnName);
dynamic list = InitList(column.DataType);
foreach(DataRow dr in dataTable.Rows) {
AddValue(list, column.DataType, dr[column]);
}
OracleParameter para = new OracleParameter(column.ColumnName, ConvertOracleDbType(column.DataType));
para.Value = list.ToArray();
paras.Add(para);
}
using(var connection = new OracleConnection(connStr)) {
connection.Open();
string sql = $"insert into {dataTable.TableName}({string.Join(",", sql_column)}) values ({string.Join(",", sql_para)})";
OracleCommand cmd = new OracleCommand(sql, connection);
cmd.Parameters.AddRange(paras.ToArray());
cmd.ArrayBindCount = dataTable.Rows.Count;
result = cmd.ExecuteNonQuery();
connection.Close();
}
return result;
}代碼解析:連接Oracle的字符串盡量寫成Data Source=IP:Port/DB;User ID=USER;password=PWD;即便配置了tns文件。
上面的方式有做了一下效率比對(各個機器配置等不一致,僅供參考):
測試數(shù)據(jù)為5萬條,3列,第一種等了很久沒寫完,直接斷掉了;第二種和第三種都是4秒多一點。
到此這篇關(guān)于C#實現(xiàn)Oracle批量寫入數(shù)據(jù)的方法詳解的文章就介紹到這了,更多相關(guān)C# Oracle批量寫入數(shù)據(jù)內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
WinForm中DataGridView添加,刪除,修改操作具體方法
這篇文章介紹了WinForm中DataGridView添加,刪除,修改操作具體方法,有需要的朋友可以參考一下2013-10-10
詳解C#中通過委托來實現(xiàn)回調(diào)函數(shù)功能的方法
這篇文章主要介紹了C#中通過委托來實現(xiàn)回調(diào)函數(shù)功能的方法,文中舉了一個典型的多線程回調(diào)程序?qū)嵗?需要的朋友可以參考下2016-04-04
C#調(diào)用dll報錯:無法加載dll,找不到指定模塊的解決
這篇文章主要介紹了C#調(diào)用dll報錯:無法加載dll,找不到指定模塊的解決問題,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2023-01-01
C#實現(xiàn)動態(tài)執(zhí)行字符串腳本(優(yōu)化版)的示例代碼
這篇文章主要為大家詳細介紹了C#如何實現(xiàn)動態(tài)執(zhí)行字符串腳本(優(yōu)化版),文中的示例代碼講解詳細,感興趣的小伙伴可以跟隨小編一起學習一下2023-03-03
Unity UGUI的LayoutElement布局元素組件介紹使用示例
這篇文章主要為大家介紹了Unity UGUI的LayoutElement布局元素組件介紹使用示例,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2023-07-07
C# 實現(xiàn)Table的Merge,Copy和Clone
這篇文章主要介紹了C# 實現(xiàn)Table的Merge,Copy和Clone,幫助大家更好的利用c#處理文件,感興趣的朋友可以了解下2020-12-12

