午夜视频免费看_日韩三级电影网站_国产精品久久一级_亚洲一级在线播放_人妻体内射精一区二区三区_91夜夜揉人人捏人人添红杏_91福利在线导航_国产又粗又猛又黄又爽无遮挡_欧美日韩一区在线播放_中文字幕一区二区三区四区不卡 _日日夜夜精品视频免费观看_欧美韩日一区二区三区

主頁(yè) > 知識(shí)庫(kù) > Golang 實(shí)現(xiàn)超大文件讀取的兩種方法

Golang 實(shí)現(xiàn)超大文件讀取的兩種方法

熱門標(biāo)簽:阿克蘇地圖標(biāo)注 外呼系統(tǒng)用什么卡 excel地圖標(biāo)注分布數(shù)據(jù) 評(píng)價(jià)高的400電話辦理 壽光微信地圖標(biāo)注 電話機(jī)器人軟件免費(fèi) 百度地圖標(biāo)注后傳給手機(jī) 外呼系統(tǒng)顯本地手機(jī)號(hào) 涿州代理外呼系統(tǒng)

Golang超大文件讀取的兩個(gè)方案

流處理方式

分片處理

去年的面試中我被問(wèn)到超大文件你怎么處理,這個(gè)問(wèn)題確實(shí)當(dāng)時(shí)沒(méi)多想,回來(lái)之后仔細(xì)研究和討論了下這個(gè)問(wèn)題,對(duì)大文件讀取做了一個(gè)分析

比如我們有一個(gè)log文件,運(yùn)行了幾年,有100G之大。按照我們之前的操作可能代碼會(huì)這樣寫:

func ReadFile(filePath string) []byte{
    content, err := ioutil.ReadFile(filePath)
    if err != nil {
        log.Println("Read error")
    }
    return content
} 

上面的代碼讀取幾兆的文件可以,但是如果大于你本身及其內(nèi)存,那就直接翻車了。因?yàn)樯厦娴拇a,是把文件所有的內(nèi)容全部都讀取到內(nèi)存之后返回,幾兆的文件,你內(nèi)存夠大可以處理,但是一旦上幾百兆的文件,就沒(méi)那么好處理了。

那么,正確的方法有兩種

第一個(gè)是使用流處理方式代碼如下

func ReadFile(filePath string, handle func(string)) error {
    f, err := os.Open(filePath)
    defer f.Close()
    if err != nil {
        return err
    }
    buf := bufio.NewReader(f)
 
    for {
        line, err := buf.ReadLine("\n")
        line = strings.TrimSpace(line)
        handle(line)
        if err != nil {
            if err == io.EOF{
                return nil
            }
            return err
        }
        return nil
    }
}

第二個(gè)方案就是分片處理

當(dāng)讀取的是二進(jìn)制文件,沒(méi)有換行符的時(shí)候,使用下面的方案一樣處理大文件

func ReadBigFile(fileName string, handle func([]byte)) error {
    f, err := os.Open(fileName)
    if err != nil {
        fmt.Println("can't opened this file")
        return err
    }
    defer f.Close()
    s := make([]byte, 4096)
    for {
        switch nr, err := f.Read(s[:]); true {
        case nr  0:
            fmt.Fprintf(os.Stderr, "cat: error reading: %s\n

補(bǔ)充:golang 讀取大文件處理sync.pool + bufio.NewReader(f)

看代碼吧~

文件大小

package main
import (
	"bufio"
	"fmt"
	"io"
	//"math"
	"os"
	"strings"
	"sync"
	"time"
)
func main() {
	/*
	文件數(shù)據(jù)樣例
	{"remark": "來(lái)電時(shí)間:  2021/04/15 13:52:07客戶電話:13913xx39xx ", "no": "600020510132021101310210547639", "title": "b-ae0e-0242ac100907", "call_in_date": "2021-04-15 13:52:12", "name": "張三", "_date": "2021-06-15", "name": "張三", "meet": "1"}
	1、我們?nèi)〕?call_in_date": "2021-04-15 13:52:1的數(shù)據(jù)寫入另一個(gè)文件
	*/
	var (
		s time.Time //當(dāng)前時(shí)間
		file *os.File
		fileStat os.FileInfo
		err error
		lastLineSize int64
	)
	s = time.Now()
	if file, err = os.Open("/Users/zhangsan/Downloads/log.txt");err != nil{
		fmt.Println(err)
	}
	defer func() {
		err = file.Close() //close after checking err
	}()
	//queryStartTime, err := time.Parse("2006-01-02T15:04:05.0000Z", startTimeArg)
	//if err != nil {
	//	fmt.Println("Could not able to parse the start time", startTimeArg)
	//	return
	//}
	//
	//queryFinishTime, err := time.Parse("2006-01-02T15:04:05.0000Z", finishTimeArg)
	//if err != nil {
	//	fmt.Println("Could not able to parse the finish time", finishTimeArg)
	//	return
	//}
	/**
	* {name:"log.log", size:911100961, mode:0x1a4,
	modTime:time.Time{wall:0x656c25c, ext:63742660691,
	loc:(*time.Location)(0x1192c80)}, sys:syscall.Stat_t{Dev:16777220,
	Mode:0x81a4, Nlink:0x1, Ino:0x118cba7, Uid:0x1f5, Gid:0x14, Rdev:0,
	Pad_cgo_0:[4]uint8{0x0, 0x0, 0x0, 0x0}, Atimespec:syscall.Timespec{Sec:1607063899, Nsec:977970393},
	Mtimespec:syscall.Timespec{Sec:1607063891, Nsec:106349148}, Ctimespec:syscall.Timespec{Sec:1607063891,
	Nsec:258847043}, Birthtimespec:syscall.Timespec{Sec:1607063883, Nsec:425808150},
	Size:911100961, Blocks:1784104, Blksize:4096, Flags:0x0, Gen:0x0, Lspare:0, Qspare:[2]int64{0, 0}}
	*
	*/
	if fileStat, err = file.Stat();err != nil {
		return
	}
	fileSize := fileStat.Size()//72849354767
	offset := fileSize - 1
	//檢測(cè)是不是都是空行 只有\(zhòng)n
	for {
		var (
			b []byte
			n int
			char string
		)
		b = make([]byte, 1)
		//從指定位置讀取
		if n, err = file.ReadAt(b, offset);err != nil {
			fmt.Println("Error reading file ", err)
			break
		}
		char = string(b[0])
		if char == "\n" {
			break
		}
		offset--
		//獲取一行的大小
		lastLineSize += int64(n)
	}
	var (
		lastLine []byte
		logSlice []string
		logSlice1 []string
	)
	//初始化一行大小的空間
	lastLine = make([]byte, lastLineSize)
	_, err = file.ReadAt(lastLine, offset)
	if err != nil {
		fmt.Println("Could not able to read last line with offset", offset, "and lastline size", lastLineSize)
		return
	}
	//根據(jù)條件進(jìn)行區(qū)分
	logSlice = strings.Split(strings.Trim(string(lastLine),"\n"),"next_pay_date")
	logSlice1  = strings.Split(logSlice[1],"\"")
	if logSlice1[2] == "2021-06-15"{
		Process(file)
	}
	fmt.Println("\nTime taken - ", time.Since(s))
		fmt.Println(err)
}
func Process(f *os.File) error {
	//讀取數(shù)據(jù)的key,減小gc壓力
	linesPool := sync.Pool{New: func() interface{} {
		lines := make([]byte, 250*1024)
		return lines
	}}
	//讀取回來(lái)的數(shù)據(jù)池
	stringPool := sync.Pool{New: func() interface{} {
		lines := ""
		return lines
	}}
	//一個(gè)文件對(duì)象本身是實(shí)現(xiàn)了io.Reader的 使用bufio.NewReader去初始化一個(gè)Reader對(duì)象,存在buffer中的,讀取一次就會(huì)被清空
	r := bufio.NewReader(f) //
	//設(shè)置讀取緩沖池大小 默認(rèn)16
	r = bufio.NewReaderSize(r,250 *1024)
	var wg sync.WaitGroup
	for {
		buf := linesPool.Get().([]byte)
		//讀取Reader對(duì)象中的內(nèi)容到[]byte類型的buf中
		n, err := r.Read(buf)
		buf = buf[:n]
		if n == 0 {
			if err != nil {
				fmt.Println(err)
				break
			}
			if err == io.EOF {
				break
			}
			return err
		}
		//補(bǔ)齊剩下沒(méi)滿足的剩余
		nextUntillNewline, err := r.ReadBytes('\n')
		//fmt.Println(string(nextUntillNewline))
		if err != io.EOF {
			buf = append(buf, nextUntillNewline...)
		}
		wg.Add(1)
		go func() {
			ProcessChunk(buf, linesPool, stringPool)
			wg.Done()
		}()
	}
	wg.Wait()
	return nil
}
func ProcessChunk(chunk []byte, linesPool *sync.Pool,stringPool *sync.Pool) {
//做相應(yīng)的處理
}

執(zhí)行

go run test2.go "2020-01-01T00:00:00.0000Z" "2020-02-02T00:00:00.0000Z" /Users/zhangsan/go/src/workspace/test/log.log
EOF
Time taken -  20.023517675s
nil>

以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教。

您可能感興趣的文章:
  • golang文件讀取-按指定BUFF大小讀取方式
  • golang逐行讀取文件的操作
  • Golang 實(shí)現(xiàn)分片讀取http超大文件流和并發(fā)控制
  • 淺談Golang是如何讀取文件內(nèi)容的(7種)
  • golang 使用 viper 讀取自定義配置文件
  • 如何利用Golang解析讀取Mysql備份文件
  • golang讀取文件的常用方法總結(jié)

標(biāo)簽:重慶 吐魯番 梅河口 銅川 雞西 汕頭 欽州 蘭州

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《Golang 實(shí)現(xiàn)超大文件讀取的兩種方法》,本文關(guān)鍵詞  Golang,實(shí)現(xiàn),超大,文件,讀,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問(wèn)題,煩請(qǐng)?zhí)峁┫嚓P(guān)信息告之我們,我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無(wú)關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《Golang 實(shí)現(xiàn)超大文件讀取的兩種方法》相關(guān)的同類信息!
  • 本頁(yè)收集關(guān)于Golang 實(shí)現(xiàn)超大文件讀取的兩種方法的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章
    av中文字幕免费观看| 97精品一区二区视频在线观看| 久久久视频6r| 日本黄网免费一区二区精品| 亚洲欧美日韩成人高清在线一区| 亚洲欧美激情一区二区三区| 亚洲美女福利视频网站| 亚洲黄色小说网| 天堂社区在线视频| 午夜精品久久久久久久99热浪潮 | jizz亚洲少妇| 美女网站视频黄色| 日韩国产在线一区| 国产成人精品免费视频大全最热 | 国产老熟女伦老熟妇露脸| 亚洲a级在线播放观看| 欧美成人乱码一区二区三区| 久久久国产精品不卡| 好吊色在线视频| 国产一区二区三区小说| 国产精品视频久久久久| 色拍拍在线精品视频8848| 四虎成人永久免费视频| 日本精品一区二区| 亚洲成人黄色在线观看| gogogo免费视频观看亚洲一| 国产在线免费av| 欧美午夜视频在线| 国产在线精品一区二区三区| 亚洲香蕉成人av网站在线观看| 中文天堂在线一区| 高清av一区二区| 国产亚洲欧美久久久久| 国产真人做爰视频免费| 久久久久久久久久福利| 亚洲自拍偷拍二区| 日本一区二区三区在线播放| 日韩免费视频一区| 欧美黄片一区二区三区| 韩国av永久免费| 国产精品久久久久久久久图文区| 亚洲欧美成人在线| 99re在线播放| 亚洲春色在线视频| 欧美另类高清视频在线| 狠狠色伊人亚洲综合网站色| 91免费福利视频| 国产专区精品视频| 国产激情美女久久久久久吹潮| 日本乱码高清不卡字幕| 粉嫩久久99精品久久久久久夜| 日韩aaaaaa| 精品小视频在线观看| 伊人22222| 欧美激情精品久久久久久免费| 丰满熟女人妻一区二区三| 麻豆精品一区二区| 欧美精品一二三| 国产精品 日韩| 欧美一级片在线视频| 国产成人免费高清| 一本一道综合狠狠老| 午夜精品久久久久久久蜜桃app| 午夜在线成人av| 91精品婷婷国产综合久久竹菊| 亚洲欧美日韩视频一区| 欧美日韩国产色站一区二区三区| 国产成人啪免费观看软件| 一级一片免费看| 国产白丝一区二区三区 | 亚洲成人999| 日韩国产精品一区| 91精品国产91久久久久久吃药| 国产成人在线视频网址| 中文字幕1234区| 欧美老熟妇乱大交xxxxx| 日韩综合一区二区| 99麻豆久久久国产精品免费优播| 亚洲欧美综合另类在线卡通| 日韩电影中文字幕在线| 一区二区三区成人| 精品国产自在久精品国产| 亚洲人在线视频| 三级黄色免费观看| 992tv成人免费观看| 高清欧美性猛交xxxx| 色婷婷av一区| 国产凹凸在线观看一区二区| 亚洲日本视频在线观看| 久久久久久综合网| 就去色蜜桃综合| 欧美成人国产va精品日本一级| 欧美日韩国产一区二区三区| 另类中文字幕网| 在线免费观看毛片| 九九久久久久久| 日本在线视频不卡| 海角国产乱辈乱精品视频| 5566成人精品视频免费| 国产精品久久99久久| 毛片在线视频播放| 精品人妻无码一区二区性色| 欧美国产日韩亚洲一区| 午夜欧美大片免费观看| 日本泡妞xxxx免费视频软件| 手机av免费在线观看| 亚洲视频1区2区| 99re视频在线| 四虎免费在线观看| 国产亚洲欧美另类中文| 日韩av资源在线| 激情另类小说区图片区视频区| 99久久婷婷国产综合精品电影 | 婷婷av一区二区三区| 2018中文字幕一区二区三区| 亚洲精品成人区在线观看| 国产精品久久久久久久天堂| 在线观看视频二区| 国产亚洲精品美女| 国产资源在线免费观看| 美女久久久精品| 一区二区三区四区精品| 精品一区二区视频在线观看| www.亚洲天堂.com| 精品久久国产老人久久综合| 中文字幕亚洲影院| 精品欧美aⅴ在线网站| 秋霞毛片久久久久久久久| 国产高清免费av| 亚洲精品视频免费在线观看| 成人午夜电影免费在线观看| 久久久久久久亚洲| 中文字幕自拍vr一区二区三区| 69成人免费视频| 国产成人精品综合| 丁香亚洲综合激情啪啪综合| 日韩欧美国产免费| 一本一道综合狠狠老| 男操女免费网站| 国产日韩成人精品| 国产精品久久久久久中文字 | 久久久水蜜桃| 国产在线精品一区二区| 亚洲女成人图区| 日本中文字幕影院| 国产精品久久久久久久久搜平片 | 亚洲欧美精品suv| 麻豆久久久9性大片| 日本午夜一本久久久综合| 国产精品福利视频| 国产精品美女久久久久aⅴ| 九九九九九伊人| 一个人看的www久久| 黑人操亚洲女人| 久久久久久久久久久久久国产| 一区二区三区欧美久久| 国产日本欧美在线| 福利电影一区二区三区| 国产一区国产精品| 香蕉久久国产av一区二区| 97在线免费观看| 成人在线观看免费完整| 丁香桃色午夜亚洲一区二区三区| 国产一级精品aaaaa看| 亚洲丝袜自拍清纯另类| 91最新在线观看| 亚洲图片欧美激情| 日本日本19xxxⅹhd乱影响| 中文字幕亚洲区| 国产精品露脸av在线| 夜夜躁狠狠躁日日躁av| 久久夜精品香蕉| 极品少妇xxxx精品少妇偷拍| 午夜激情av在线| 久久国产天堂福利天堂| 国产美女av一区二区三区| 亚洲欧美日韩一级| 亚洲欧美变态国产另类| 毛片基地在线观看| 国产99久久精品一区二区永久免费 | 日产欧产va高清| 性欧美亚洲xxxx乳在线观看| 中文字幕在线播放不卡| 久久久亚洲成人| 日韩精品五月天| 国产91aaa| 在线观看免费视频a| 国产精品美女主播| 久久久天天操| 亚洲一区二区三区色| 6080亚洲精品一区二区| 亚洲AV第二区国产精品| 伊人精品视频在线观看| 亚洲美女视频网站| 日韩成人一级片| 亚洲午夜精品一区二区| 国产精品伦理在线| wwwjizzjizzcom| 亚洲国产cao| 亚洲天堂av网站| 精品国内自产拍在线观看| 国产极品美女高潮无套嗷嗷叫酒店| 精品视频偷偷看在线观看| 国产成人无码精品亚洲| 色综合久久88色综合天天提莫| 在线观看免费一区| 国产高清一区二区三区四区| 尤物九九久久国产精品的特点| www.色视频| 亚洲人成电影在线| 中文字幕在线观看1| 国产福利久久精品| 国产精品乱子久久久久| 亚洲怡红院在线观看| 日韩妆和欧美的一区二区| 欧美精品三级在线观看| 国产女人高潮毛片| 日韩电影免费观看在| 久久婷婷国产综合国色天香| 日韩欧美精品久久| 久久久777精品电影网影网 | 亚洲va韩国va欧美va精四季| 久久精品视频一区二区| 青娱乐国产在线| 日韩专区第三页| 日韩免费视频一区二区| 亚洲另类欧美日韩| 成人av资源网| 亚洲一区二区三区四区五区黄| 国产手机视频在线观看| 亚洲国产视频在线| 波多野结衣爱爱视频| 亚洲老头同性xxxxx| 欧美图片一区二区| 日韩一区二区在线看| 国产又粗又长又爽| 欧美成人精品二区三区99精品| 国模私拍在线观看| 欧美综合一区二区| 一级特黄a大片免费| 欧美日本精品一区二区三区| av网页在线观看| 欧美一区二区三区思思人| 一出一进一爽一粗一大视频| 欧美日韩久久一区| 好吊日在线视频| 欧美精品aaa| 天天综合网在线| 欧美一区二区三区综合| av电影一区二区| 国产精品日韩一区| a天堂在线观看视频| 国产69精品99久久久久久宅男| 久久丁香综合五月国产三级网站| 成人乱码一区二区三区av| 亚洲精品免费在线视频| 福利二区91精品bt7086| 免费日韩一级片| 91成人免费看| 国模大尺度一区二区三区| 国产精品久久久久久五月尺| 亚洲乱熟女一区二区| 成人激情在线观看| 东方欧美亚洲色图在线| 国自产拍偷拍精品啪啪一区二区| 久久久噜噜噜久久人人看 | 欧美在线观看成人| 色综合天天综合网天天狠天天 | 99爱视频在线| 久久久99国产精品免费| 久久久久久久久久久成人| 5月丁香婷婷综合| 国产凹凸在线观看一区二区| 无码人妻久久一区二区三区| 国产精品探花在线播放| 国产精品精品一区二区三区午夜版| 国产日韩精品一区二区浪潮av| 免费网站看av| 高清一区二区三区视频| 国产欧美日韩视频一区二区| 91久久免费视频| 精品视频一区二区| 性色av一区二区三区| 日韩欧美综合在线| 国产a级毛片一区| 久久久久无码国产精品| 日本韩国欧美在线观看| 久久国产精品免费视频| 可以看av的网站久久看| 精品中文字幕在线播放| 精品中文字幕人| 亚洲免费电影在线观看| 中文字幕在线观看一区二区| 性生活黄色大片| 成人做爰www看视频软件| 欧美性视频网站| 国产精品国产三级国产aⅴ无密码| 色屁屁影院www国产高清麻豆| 91视频 -- 69xx| 国内精品久久久久伊人av| 国产精品情趣视频| 香蕉视频一区二区| heyzo亚洲| 欧美日韩精品久久| 日韩欧美国产综合一区 | 日韩高清第一页| 亚洲一区中文字幕| 一区二区三区日韩| 日本 国产 欧美色综合| 欧美三级在线免费观看| 中国老女人av| 日本一区二区在线| 麻豆亚洲一区| 97超碰在线播放| 国产自摸综合网| 久久国产精品久久久久久| 国产一区二区三区18| 欧美videossexotv100| 一区二区三区欧美日| 免费欧美在线视频| 国产成人无码一区二区三区在线| 亚洲自偷自拍熟女另类| 欧美不卡视频一区| 久久字幕精品一区| 天堂av8在线| 久久免费视频在线观看| 亚洲日本va在线观看| 久久精品女人毛片国产| 亚洲福利av| 亚洲第一天堂av| 国产精品亚洲成人| 中文字幕欧美激情极品| 欧美日韩成人一区二区三区 | 亚洲精品视频久久久| 国产精品麻豆va在线播放| 欧美亚洲图片小说| 亚洲av毛片成人精品| 日本美女视频网站| 国产aaa精品| 欧美小视频在线观看| 亚洲不卡视频在线观看| 天堂8在线天堂资源bt| 视频在线一区二区| 精品国产91久久久久久| 久久av资源站| 亚洲第一视频在线| www国产在线| 日韩精品――中文字幕| 成人性生交大免费看| 久久国产午夜精品理论片最新版本| 国产自摸综合网| 丝袜一区二区三区| 91色|porny| 成人午夜视频在线播放| 亚洲美免无码中文字幕在线| 久久久久久久一区二区三区| 国产精品久久二区二区| 一级日韩一级欧美| 中文字幕 欧美日韩| 97操在线视频| 亚洲激情视频网站| 97超碰欧美中文字幕| 欧美在线观看不卡| 手机视频在线观看| 国产欧美一区二区三区久久人妖| 91搞黄在线观看| 国产99久久久精品| 精品国产免费观看| 国产精品久久久久久9999| 精品久久久久久亚洲| 日韩中文字幕视频在线| 天天影视色香欲综合网老头| 亚洲欧美自偷自拍| 国产大学生自拍| 成人羞羞国产免费网站| 96成人在线视频| 久久中文字幕在线| 91精品国产综合久久久久久久 | 中文字幕欧美人妻精品一区| 国产精品91一区| 欧美俄罗斯乱妇| 97视频免费看| 亚洲专区在线视频| 亚洲综合中文字幕在线| 国产综合动作在线观看| 国产精品午夜av在线| 91av视频在线观看| 91国在线精品国内播放| 日韩av在线不卡| 亚洲欧美视频在线观看视频| 黄色av免费观看| 国产精品99精品| 国产白嫩美女无套久久| 美脚丝袜脚交一区二区| 91成人免费在线观看| 欧美人在线视频| 日韩精品一区二区三区视频| 中文字幕一区二区三区乱码在线 | 日韩在线免费av| 色美美综合视频| 亚洲女人****多毛耸耸8| 久久成人久久爱| 国产老女人乱淫免费| 日日操免费视频| 免费看的av网站| 欧美三级在线观看视频| 热re99久久精品国产99热| 国产精品激情自拍| 中文字幕免费精品一区| 影音先锋日韩有码|