亚洲精品久久久中文字幕-亚洲精品久久片久久-亚洲精品久久青草-亚洲精品久久婷婷爱久久婷婷-亚洲精品久久午夜香蕉

您的位置:首頁技術文章
文章詳情頁

hive從mysql導入數據量變多的解決方案

瀏覽:6日期:2023-10-07 10:55:28

原始導數命令:

bin/sqoop import -connect jdbc:mysql://192.168.169.128:3306/yubei -username root -password 123456 -table yl_city_mgr_evt_info --split-by rec_id -m 4 --fields-terminated-by 't' --lines-terminated-by 'n' --hive-import --hive-overwrite -create-hive-table -delete-target-dir -hive-database default -hive-table yl_city_mgr_evt_info

原因分析:可能是mysql中字段里面有’n’等分隔符,導入hive時默認以’n’作換行符,導致hive中的記錄數變多。

解決方法:

導入數據時加上--hive-drop-import-delims選項,會刪除字段中的n,r,01。

最終導數命令:

bin/sqoop import -connect jdbc:mysql://192.168.169.128:3306/yubei -username root -password 123456 -table yl_city_mgr_evt_info --split-by rec_id -m 4 --hive-drop-import-delims --fields-terminated-by 't' --lines-terminated-by 'n' --hive-import --hive-overwrite -create-hive-table -delete-target-dir -hive-database default -hive-table yl_city_mgr_evt_info

參考官方文檔:https://sqoop.apache.org/docs/1.4.7/SqoopUserGuide.html

補充:Sqoop導入MySQL數據到Hive遇到的坑

1.sqoop導入到HDFS

1.1執行sqoop job,會自動更新last value

# sqoop 增量導入腳本bin/sqoop job --create sqoop_hdfs_test02 -- import --connect jdbc:mysql://localhost:3306/pactera_test --username root --password 123456 --table student --target-dir /user/sqoop/test002/ --fields-terminated-by 't' --check-column last_modified --incremental lastmodified --last-value '2018-12-12 00:03:00' --append

說明:--append 參數是必須的,要不然第二次運行job 會報錯,如下:

hive從mysql導入數據量變多的解決方案

至此,sqoop job 已建設完畢!

2.Hive創建表,并讀取sqoop導入的數據

create external table if not exists student_hive (SId int,Sname string ,Sage string,Ssex string , last_modified Timestamp) row format delimited fields terminated by ’t’ location ’hdfs://node01:8020/user/sqoop/test002/’;

注意:此處hive中時間的格式為timestamp,設置為date DB數據無法正常加載。

第一次全量加載,整條路線完全OK,hive表可以查詢到數據。

-----------------------重點分割線-----------------------

* sqoop lastmodified格式的增量加載,會將last-value 保存為job執行的系統時間,若測試數據庫的check-column 小于當前系統時間(即上一個job的last-value),則數據將不被加載。

hive從mysql導入數據量變多的解決方案

如SId=6 就沒有被加載,遂改為今日時間(2018-12-26 17:05)進行數據測試,數據成功被加載!喲呵??!

總結:

使用lastmodified格式,進行sqoop增量導入時,

1.注意--append的使用;

2.last-value為job運行的系統時間,在數據測試時,要保證數據的準確,數據的自增長。

3.一切皆有定數,查看資料,準確定位自己系統遇到的問題

以上為個人經驗,希望能給大家一個參考,也希望大家多多支持好吧啦網。如有錯誤或未考慮完全的地方,望不吝賜教。

標簽: MySQL 數據庫
相關文章:
主站蜘蛛池模板: 精品国产亚洲一区二区三区 | 午夜影视网站 | 亚洲一级黄色大片 | 在线观看成年美女黄网色视频 | 亚洲激情综合网 | 99久久久国产精品免费播放器 | 黄色网址在线免费播放 | 国产精品嫩草影院在线播放 | 亚洲综合精品一区二区三区中文 | 国产不卡福利 | 国产一级特黄毛片 | 91视频国产免费 | 九九爱精品 | 国产成人啪精品午夜在线观看 | 一区卡二区卡三区卡视频 | 国产激情在线 | 国产在线播放网址 | 亚州一级 | 特黄视频免费看 | 国产小视频免费观看 | 久久免费视频观看 | 玖玖视频精品 | 成人看片毛片免费播放器 | 久久久久综合中文字幕 | 牛牛在线 | 亚洲国产精品第一区二区 | 最新国产网址 | 午夜影院毛片 | 国产1024精品视频专区免费 | 日韩精品一区二区三区小说 | 中文字幕曰韩一区二区不卡 | 1024免费在线观看 | 一级特黄aaa大片免色 | 免费一级国产大片 | 在线毛片一区二区不卡视频 | 在线观看亚洲专区 | 亚洲第二区 | 日本特级全黄一级毛片 | 久操色| 国产一 | 97色婷婷|