大容量csv快速內(nèi)導(dǎo)入sqlserver的解決方法是什么-創(chuàng)新互聯(lián)

這篇文章將為大家詳細(xì)講解有關(guān)大容量csv快速內(nèi)導(dǎo)入sqlserver的解決方法是什么,文章內(nèi)容質(zhì)量較高,因此小編分享給大家做個參考,希望大家閱讀完這篇文章后對相關(guān)知識有一定的了解。

創(chuàng)新互聯(lián)憑借在網(wǎng)站建設(shè)、網(wǎng)站推廣領(lǐng)域領(lǐng)先的技術(shù)能力和多年的行業(yè)經(jīng)驗,為客戶提供超值的營銷型網(wǎng)站建設(shè)服務(wù),我們始終認(rèn)為:好的營銷型網(wǎng)站就是好的業(yè)務(wù)員。我們已成功為企業(yè)單位、個人等客戶提供了成都網(wǎng)站設(shè)計、網(wǎng)站制作服務(wù),以良好的商業(yè)信譽(yù),完善的服務(wù)及深厚的技術(shù)力量處于同行領(lǐng)先地位。

前言

在論壇中回答了一個問題,導(dǎo)入csv 數(shù)據(jù),并對導(dǎo)入的數(shù)據(jù)增加一個新的列date datetime。要求在10s內(nèi)完成,200w行數(shù)據(jù)的導(dǎo)入.分享下解決問題的思路和方法

分析

通常來講Bulk insert 比 BCP 更快一點,我們選擇Bulk insert的方式。 提出的解決方案:先把數(shù)據(jù)導(dǎo)入到sql server 的臨時表,然后再插入目標(biāo)表。 具體語句如下:

bulk insert test07232 from 'D:\2017-7-22.csv' WITH ( FIELDTERMINATOR = ',', ROWTERMINATOR = '/n' )SELECT * ,GETDATE() AS Date INTO ttt FROM test07232

但是他提供的的csv 進(jìn)行導(dǎo)入時,提示如下錯誤

消息 4866,級別 16,狀態(tài) 1,第 1 行 大容量加載失敗。數(shù)據(jù)文件中第 1 行的第 2 列太長。請驗證是否正確指定了字段終止符和行終止符。 消息 7399,級別 16,狀態(tài) 1,第 1 行 鏈接服務(wù)器 "(null)" 的 OLE DB 訪問接口 "BULK" 報錯。提供程序未給出有關(guān)錯誤的任何信息。

消息 7330,級別 16,狀態(tài) 2,第 1 行 無法從鏈接服務(wù)器 "(null)" 的 OLE DB 訪問接口"BULK"提取行。

這是由于行終止符無法識別導(dǎo)致的。使用notepad++打開csv文件,在視圖中選擇顯示行尾號。

可以看到文件的換行符是LF

而對于正常的csv問題 默認(rèn)是用CRLF作為換行符的

因此上面的bulk insert 語句無法正常執(zhí)行。

解決

1.首先想到的是修改數(shù)據(jù)源頭,讓源頭產(chǎn)生正常的數(shù)據(jù),但是源頭數(shù)據(jù)不好修改 2.用程序,寫c#處理,,太費時間 3.最后終于找到了正確的辦法

bulk insert test07232 from 'D:\2017-7-22.csv' WITH ( FIELDTERMINATOR = ',', ROWTERMINATOR = '0x0a' )SELECT * ,GETDATE() AS Date INTO ttt FROM test07232

最后全部都在SSD 上,導(dǎo)入用時2s。生產(chǎn)正式表1s 。整個過程3s完成。

關(guān)于大容量csv快速內(nèi)導(dǎo)入sqlserver的解決方法是什么就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,可以學(xué)到更多知識。如果覺得文章不錯,可以把它分享出去讓更多的人看到。

分享題目:大容量csv快速內(nèi)導(dǎo)入sqlserver的解決方法是什么-創(chuàng)新互聯(lián)
URL標(biāo)題:http://bm7419.com/article22/goojc.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供品牌網(wǎng)站建設(shè)、營銷型網(wǎng)站建設(shè)、關(guān)鍵詞優(yōu)化響應(yīng)式網(wǎng)站、面包屑導(dǎo)航軟件開發(fā)

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

成都網(wǎng)站建設(shè)