python實現(xiàn)按行切分文本文件的方法
本文實例講述了python實現(xiàn)按行切分文本文件的方法。分享給大家供大家參考,具體如下:
python腳本利用shell命令來實現(xiàn)文本的操作, 這些命令大大減少了我們的代碼量。
比如按行切分文件并返回切分后得到的文件列表,可以利用內(nèi)建的split命令進行切分。為了返回得到的文件列表名,可以先將文件切分到自建的子目錄中,然后通過os.listdir獲取所有文件,再將這些文件移到上一級目錄(即函數(shù)參數(shù)指定的新目錄),刪除自建子目錄,最后返回該文件名列表。
代碼如下,如發(fā)現(xiàn)問題歡迎指正:
# 創(chuàng)建新路徑
def make_dirs(path):
if not os.path.isdir(path):
os.makedirs(path)
# 獲取文件的行數(shù)
def get_total_lines(file_path):
if not os.path.exists(file_path):
return 0
cmd = 'wc -l %s' % file_path
return int(os.popen(cmd).read().split()[0])
# 函數(shù)split_file_by_row: 按行切分文件
# filepath: 切分的目標(biāo)文件
# new_filepath: 生成新文件的路徑
# row_cnt: 每個文件最多包含幾行
# suffix_type: 新文件后綴類型,如兩位字母或數(shù)字
# return: 切分后的文件列表
def split_file_by_row(filepath, new_filepath, row_cnt, suffix_type='-d'):
tmp_dir = "/split_file_by_row/"
make_dirs(new_filepath)
make_dirs(new_filepath+tmp_dir)
total_rows = get_total_lines(filepath)
file_cnt = int(math.ceil(total_rows*1.0/row_cnt))
command = "split -l%d -a2 %s %s %s" % (row_cnt, suffix_type, filepath, new_filepath+tmp_dir)
os.system(command)
filelist = os.listdir(new_filepath+tmp_dir)
command = "mv %s/* %s"%(new_filepath+tmp_dir, new_filepath)
os.system(command)
command = "rm -r %s"%(new_filepath+tmp_dir)
os.system(command)
return [new_filepath+fn for fn in filelist]
更多關(guān)于Python相關(guān)內(nèi)容感興趣的讀者可查看本站專題:《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》、《Python入門與進階經(jīng)典教程》及《Python文件與目錄操作技巧匯總》
希望本文所述對大家Python程序設(shè)計有所幫助。
- 基于python實現(xiàn)對文件進行切分行
- Python實現(xiàn)filter函數(shù)實現(xiàn)字符串切分
- Python 等分切分?jǐn)?shù)據(jù)及規(guī)則命名的實例代碼
- python按比例隨機切分?jǐn)?shù)據(jù)的實現(xiàn)
- Python 最大概率法進行漢語切分的方法
- 分享Python切分字符串的一個不錯方法
- python實現(xiàn)根據(jù)文件關(guān)鍵字進行切分為多個文件的示例
- Python數(shù)據(jù)集切分實例
- 實例分析python3實現(xiàn)并發(fā)訪問水平切分表
- Ubuntu下使用Python實現(xiàn)游戲制作中的切分圖片功能
- Python自然語言處理之切分算法詳解
相關(guān)文章
Python實現(xiàn)模擬瀏覽器請求及會話保持操作示例
這篇文章主要介紹了Python實現(xiàn)模擬瀏覽器請求及會話保持操作,結(jié)合實例形式分析了Python基于urllib與urllib2模塊模擬瀏覽器請求及cookie保存會話相關(guān)操作技巧,需要的朋友可以參考下2018-07-07
教你掌握分布式訓(xùn)練PyTorch?DDP到Accelerate到Trainer
這篇文章主要為大家介紹了教你掌握分布式訓(xùn)練PyTorch?DDP到Accelerate到Trainer2023-02-02

