golang - go-sql-driver/mysql for rows.Next()的性能問題
問題描述
1.當查詢出來的記錄過萬時,遍歷Rows的時間過長,達到1分鐘甚至更多
程序代碼:
rows, err := p.conn.Query(sqlStr, params...)if err != nil { log.Println('mysql query error', err.Error()) return nil, err}log.Println('conn結(jié)束:', goutil.GetCurrentTime())//延時關(guān)閉Rowsdefer rows.Close()//獲取記錄列if columns, err := rows.Columns(); err != nil { return nil, err} else { //拼接記錄Map values := make([]sql.RawBytes, len(columns)) scans := make([]interface{}, len(columns)) for i := range values {scans[i] = &values[i] } //此處遍歷在3W記錄的時候,長達1分鐘甚至更多 for rows.Next() {_ = rows.Scan(scans...)each := map[string]interface{}{}for i, col := range values { each[columns[i]] = string(col)}rowMaps = append(rowMaps, each) } return rowMaps, nil}
問題解答
回答1:可以用創(chuàng)建多個goroutine 分段查詢數(shù)據(jù)。使用channl在線程中拿去查詢結(jié)構(gòu)進行迭代。
回答2:這不是golang性能的問題,其他編程語言也會類似。一次性去拿三萬條記錄本來就是個不合理的需求,應(yīng)該通過分頁來解決,一次只取幾十到幾百條。
相關(guān)文章:
1. dockerfile - [docker build image失敗- npm install]2. 關(guān)于docker下的nginx壓力測試3. nignx - docker內(nèi)nginx 80端口被占用4. docker不顯示端口映射呢?5. angular.js - angularjs的自定義過濾器如何給文字加顏色?6. javascript - windows下如何使用babel,遇到了困惑7. docker gitlab 如何git clone?8. mysql - 數(shù)據(jù)庫:獲取兩個字段與獲取*,傳輸?shù)臄?shù)據(jù)量差距大嗎?9. mysql在控制臺下顯示亂碼,請假各位大神10. mysql 主主同步,數(shù)據(jù)庫 B 報錯
