保持连接活动,以便从.csv文件中读取批量数据
本文关键字:文件 读取 数据 csv 连接 活动 | 更新日期: 2023-09-27 18:04:22
我有一个包含200万条记录的.csv文件,我的目标是将其写入hbase数据库。
代码:
try { using (FileStream reader = File.OpenRead(@"C:'Data.csv"))
using (TextFieldParser parser = new TextFieldParser(reader))
{
parser.TrimWhiteSpace = true; // if you want
parser.Delimiters = new[] { " " };
parser.HasFieldsEnclosedInQuotes = true;
while (!parser.EndOfData)
{
//Process the data
hbaseClient.StoreCells(hbaseTableName, set);
}
} } catch(Exception e) {
}
上传多达800k条记录的数据后,我得到一个超时异常。我能做些什么来避免这个超时吗?
是否每次执行此操作时都发生这种情况?尝试2-3次,看看是否重复。它发生在添加了一些记录之后,这意味着除了数据问题之外还发生了其他事情。超时异常意味着服务器可能关闭或由于网络问题。请尝试多次重复相同的操作,如果错误仍然存在,则应该有其他原因。另外,请添加整个异常堆栈跟踪,以便更好地理解