亚洲精品久久久中文字幕-亚洲精品久久片久久-亚洲精品久久青草-亚洲精品久久婷婷爱久久婷婷-亚洲精品久久午夜香蕉

您的位置:首頁技術文章
文章詳情頁

使用Python文件讀寫,自定義分隔符(custom delimiter)

瀏覽:69日期:2022-07-18 15:35:59

眾所周知,python文件讀取文件的時候所支持的newlines(即換行符),是指定的。這一點不管是從python的doucuments上還是在python的源碼中(作者是參考了python的io版本,并沒有閱讀C版本),都可以看出來:

if newline is not None and not isinstance(newline, str): raise TypeError('illegal newline type: %r' % (type(newline),))if newline not in (None, '', 'n', 'r', 'rn'): raise ValueError('illegal newline value: %r' % (newline,))

好吧,問題來了,如果你恰好是個苦逼的生物狗,正在用python處理所謂的fastq格式的測序結果文件,每次只讀一行往往不是你想要的。Ok, 我們也都知道其實這個問題在Perl里面十分好解決,無非就是重新定義下文件的分割符($/,The input record separator, newline by default. Set undef to read through the end of file.)

local $/; # enable 'slurp' modelocal $_ = <FH>; # whole file now heres/n[ t]+/ /g;

簡單粗暴有效!《Programming Perl》開頭的那些關于什么是happiness定義看來所言非虛,所以你只要需要將$/定義為fastq格式的分隔符就ok了。

但是,如果是Python呢?(容易鉆牛角尖的孩紙,又或者是不喜歡花括號的孩子…..反正就是強行高端了)。終于要進入正題了,OK,在python中又有兩種方式解決這個問題,看你個人喜好選擇了(當然要是有大神知道四種、五種方法,也不妨指導一下我這個小菜鳥)。

方案一的代碼:

import _pyioimport ioimport functoolsclass MyTextWrapper(_pyio.TextIOWrapper): def readrecod(self, sep): readnl, self._readnl = self._readnl, sep self._readtranslate = False self._readuniversal = False try: return self.readline() finally: self._readnl = readnl#class MyTextWrapper(_pyio.TextIOWrapper):# def __init__(self, *args, separator, **kwargs):# super().__init__(*args,**kwargs)# self._readnl = separator# self._readtranslate = False# self._readuniversal = False# print('{}:t{}'.format(self,self._readnl))f = io.open(’data’,mode=’rt’)#f = MyTextWrapper(f.detach(),separator = ’>’)#print(f._readnl)f = MyTextWrapper(f.detach())records=iter(functools.partial(f.readrecod, ’>’), ’’)for r in records: print(r.strip(’>’)) print('###')

Ok,這是Python3.x中的方法(親測),那么在Python2.x中需要改動的地方,目測好像是(沒有親測)

super(MyTextWrapper,self).__init__(*args,**kwargs)

這個方法看上去還是比較elegant,但是efficient 嗎?答案恐怕并不,畢竟放棄了C模塊的速度優勢,但是OOP寫起來還是比較舒服的。對了值得指出的Python的I/O是一個layer一個layer的累加起來的。從這里我們就能看出來。當然里面的繼承關系還是值得研究一下的,從最開始的IOBase一直到最后的TextIOWrapper,這里面的故事,還是要看一看的。

方案二的代碼:

#!/usr/bin/env pythondef delimited(file, delimiter = ’n’, bufsize = 4096): buf = ’’ while True: newbuf = file.read(bufsize) if not newbuf: yield buf return buf += newbuf lines = buf.split(delimiter) for line in lines[:-1]: yield line buf = lines[-1]with open(’data’, ’rt’) as f: lines = delimited(f, ’>’, bufsize = 1) for line in lines: print line, print ’######’

Ok,這里用到了所謂的generator函數,優雅程度也還行,至于效率么,請自行比較和測試吧(畢竟好多生物程序猿是不關心效率的…..)。如此一來,比Perl多敲了好多代碼,唉,懷念Perl的時代啊,簡單粗暴有效,就是幸福的哲學么。

當然還有童鞋要問,那么能不能又elegant還efficient(我可是一個高端的生物程序猿,我要強行高端!)答案是有的,請用Cython! 問題又來了,都Cython了,為什么不直接用C呢?確實,C語言優美又混亂。

補充知識:Python.json.常見兩個錯誤處理(Expecting , delimiter)(Invalid control character at)

ValueError: Invalid control character at: line 1 column 122(char 123)

出現錯誤的原因是字符串中包含了回車符(r)或者換行符(n)

解決方案:

轉義

json_data = json_data.replace(’r’, ’r’).replace(’n’, ’n’)

使用關鍵字strict

json.loads(json_data, strict=False)

ValueError: Expecting , delimiter: line 13 column 650 (char 4186)

原因:json數據不合法,類似“group_buy_create_description_text”: “1. Select the blue “Buy” button to let other shoppers buy with you.這樣的內容出現在json數據中。

解決方案:

將類似的情形通過正則篩選出來通過下面的方式處理。

正則表達式如下:

json_data = json_data.replace(’''’, ’'########'’)

js_str = ’'[sS]+?':s?'([sS]+?)'}?}?]?,’

后續使用中發現無法匹配value為空的情況,故先做一下預處理

這個正則可以匹配到大部分的key,value中的value值,但是也有例外,暫時的處理方法是如果匹配結果中包含”{“, “}”, “[“, “]”這樣的字符,說明是匹配失敗結果,跳過處理。其他的使用下邊的方法替換掉可能出問題的字符。

如果大家有更好的正則匹配方式,歡迎隨時批評指正。

def htmlEscape(input) { if not input return input; input = input.replace('&', '&amp;'); input = input.replace('<', '&lt;'); input = input.replace('>', '&gt;'); input = input.replace(' ', '&nbsp;'); input = input.replace('’', '&#39;'); //IE暫不支持單引號的實體名稱,而支持單引號的實體編號,故單引號轉義成實體編號,其它字符轉義成實體名稱 input = input.replace(''', '&quot;'); //雙引號也需要轉義,所以加一個斜線對其進行轉義 input = input.replace('n', '<br/>'); //不能把n的過濾放在前面,因為還要對<和>過濾,這樣就會導致<br/>失效了 return input; }

以上這篇使用Python文件讀寫,自定義分隔符(custom delimiter)就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持好吧啦網。

標簽: Python 編程
主站蜘蛛池模板: 久久精品久久久久久久久人 | 老师xxxxbbbb| 国产一区二区在线播放 | 免费一区二区三区视频狠狠 | 久久久久亚洲精品一区二区三区 | 美利坚永久精品视频在线观看 | 皮皮在线精品亚洲 | 亚洲视频网站在线观看 | 1769视频在线观看国产 | 国产一区二区三区视频在线观看 | 久久国产精品自由自在 | 国产欧美日韩精品a在线观看 | 97色婷婷成人综合在线观看 | 日本高清中文字幕一区二区三区 | 欧美特黄特刺激a一级淫片 欧美特黄高清免费观看的 欧美爱片 | 亚洲精品国产一区二区三区四区 | 日韩 亚洲 中文 图片 小说 | 久久久国产精品视频 | 成人午夜影院在线观看 | 黄色日韩 | 青青在线精品视频 | 欧美真人视频一级毛片 | 国产精品青草久久久久婷婷 | 亚洲人人精品 | 韩国毛片视频 | 大片免费播放 | jizz中国zz女人18 | 韩国无遮挡三级伦在线大全 | 波多久久夜色精品国产 | 一级黄色大片视频 | 欧美另类videosbestsex久久 | 91丝瓜视频最新版 | 日韩中文字幕高清在线专区 | 国产精品免费入口视频 | 三级毛片网站 | 一级特黄a 大片免费 | 国产91精品黄网在线观看 | 三级在线网址 | 亚洲欧美第一 | 春色精品视频在线播放 | 黄 色 片成 人免费观看 |