美文网首页
VBA按行读取csv文件与分割合并

VBA按行读取csv文件与分割合并

作者: 林万程 | 来源:发表于2017-02-02 01:38 被阅读609次

'2017年2月1日05:43:35
'16年想开发的最后一个Excel代码经过漫长的酝酿与研究终于编写完毕,解决了超过一百万行的csv文件Excel打不开的问题,自动分割为多个sheet,并且数字超过15位不会后面全是0。
'也可以用于平常打开csv文件,速度比直接打开快一倍,还可以用于指定行数分割,多文件合并,csv批量转Excel。
'
'顺道普及:csv文件就是用逗号分隔的数据表,有回车或逗号的文本还有长数字用两个"包围(连续两个表示"本身)
'xlsx文件大小约csv的50%,打开时间约csv的30%,xlsx压缩可能变大,csv压缩后不到10%。

Sub csv分割合并()
    selectfiles = Application.GetOpenFilename("," & "*.*", , "打开", , True) '选择文件
    If TypeName(selectfiles) = "Boolean" Then '若未选择则结束程序运行
        Exit Sub
    End If
    
    关闭功能
    st = Time
    
    spt = [A5]
    Ln = [B5]
    If spt = "" Then spt = ","
    If Not (Ln > 0) Then Ln = 1048576 '用Not是为了包括非数值
    
    Workbooks.Add
    li = 2
    
    For Each fp In selectfiles
        
        Set FileObj = CreateObject("Scripting.FileSystemObject")
        Set TextObj = FileObj.OpenTextFile(fp) '定义对象,不耗时
        
        If Not TextObj.AtEndOfLine Then '记录并写入第一个标题行
            TitleText = Split(TextObj.Readline, spt)
            [A1].Resize(1, UBound(TitleText)) = TitleText '在合并工作表时也只是替代第一行
        End If
        
        Do While Not TextObj.AtEndOfLine
            If li > Ln Then '达到一定值新建表
                Sheets.Add
                [A1].Resize(1, UBound(TitleText)) = TitleText
                li = 2
            End If
            Text = Split(TextObj.Readline, spt) '读取行并分割
            Cells(li, 1).Resize(1, UBound(Text)) = Text '测试15位以上数值会保留
            '用时:UBound()<变量<数字,用数组给区域赋值比循环快五六倍左右
            '原先有数值会增加一倍时间,跟直接打开相等
            li = li + 1
        Loop
    Next
    Debug.Print (Time - st) * 24 * 60 * 60
    开启功能
End Sub

Sub csv转xlsx()
    selectfiles = Application.GetOpenFilename("," & "*.*", , "打开", , True) '选择文件
    If TypeName(selectfiles) = "Boolean" Then '若未选择则结束程序运行
        Exit Sub
    End If
    
    关闭功能
    st = Time
    
    spt = [A5]
    Ln = 1048576
    If spt = "" Then spt = ","
    If Not (Ln > 0) Then Ln = 1048576 '用Not是为了包括非数值
    
    For Each fp In selectfiles
        
        Set FileObj = CreateObject("Scripting.FileSystemObject")
        Set TextObj = FileObj.OpenTextFile(fp) '定义对象,不耗时
        
        Workbooks.Add
        li = 2
        
        If Not TextObj.AtEndOfLine Then '记录并写入第一个标题行
            TitleText = Split(TextObj.Readline, spt)
            [A1].Resize(1, UBound(TitleText)) = TitleText '在合并工作表时也只是替代第一行
        End If
        
        Do While Not TextObj.AtEndOfLine
            If li > Ln Then '达到一定值新建表
                Sheets.Add
                [A1].Resize(1, UBound(TitleText)) = TitleText
                li = 2
            End If
            Text = Split(TextObj.Readline, spt) '读取行并分割
            Cells(li, 1).Resize(1, UBound(Text)) = Text '测试15位以上数值会保留
            '用时:UBound()<变量<数字,用数组给区域赋值比循环快五六倍左右
            '原先有数值会增加一倍时间,跟直接打开相等
            li = li + 1
        Loop
        Debug.Print (Time - st) * 24 * 60 * 60
        ActiveWorkbook.SaveAs Left(fp, InStrRev(fp, ".") - 1) & ".xlsx" '保存需要一倍的时间
        ActiveWorkbook.Close 0
    Next
    Debug.Print (Time - st) * 24 * 60 * 60
    开启功能
End Sub

Function 文件打开计时器()
    selectfiles = Application.GetOpenFilename("," & "*.*", , "打开", , True) '选择文件
    If TypeName(selectfiles) = "Boolean" Then '若未选择则结束程序运行
        Exit Function
    End If
    关闭功能
    st = Time
    
    For i = 1 To UBound(selectfiles)
    Set wb = Workbooks.Open(selectfiles(i))
    wb.Close 0 '不保存关闭约1.4e-11s可忽略不计
    Next
    
    Debug.Print (Time - st) * 24 * 60 * 60
    开启功能
End Function

Sub 关闭功能() '关闭一些功能加快 VBA 宏的运行速度
'    On Error Resume Next '出错继续运行
'    Application.DisplayAlerts = False '禁用警告信息
'    Application.DisplayAlerts = True '启用警告信息
    Application.ScreenUpdating = False '禁用屏幕更新
    Application.DisplayStatusBar = False '禁用状态栏
    Application.Calculation = xlCalculationManual '切换到手动计算-4135,如果中途需要计算时用Calculate
    Application.EnableEvents = False '禁用事件
    ActiveSheet.DisplayPageBreaks = False '禁用本表分页符
End Sub

Sub 开启功能() '开启关闭的功能,调试中断可运行开启功能
    Application.ScreenUpdating = True '启用屏幕更新
    Application.DisplayStatusBar = True '启用状态栏
    Application.Calculation = xlCalculationAutomatic '切换到自动计算-4105
    Application.EnableEvents = True '启用事件
    'ActiveSheet.DisplayPageBreaks = displayPageBreaksState '启用本表分页符
End Sub

相关文章

  • VBA按行读取csv文件与分割合并

    '2017年2月1日05:43:35'16年想开发的最后一个Excel代码经过漫长的酝酿与研究终于编写完毕,解决了...

  • pandas

    1.读取csv文件 1.1读取csv sep='\t'是指定分割数据的格式 1.2查看csv文件的属性 1.3根据...

  • 文件读取方法

    按行读取txt,csv等文件,数据最后一个字段是分类类别 使用Scipy读取数据 使用pandas读取csv (1...

  • 文件操作

    一、文件操作-读 二、文件操作-写 三、复制文件 四、合并文件 合并文件-结果 五、readline按行读取文件、...

  • VBA读取csv文件

    一种方法: 调用Excel自带的查询功能QueryTables.Add 方法读取csv 通过录制宏查看用法 Sub...

  • pandas.read_csv参数详解

    pandas.read_csv参数整理 读取CSV(逗号分割)文件到DataFrame 也支持文件的部分导入和选择...

  • Linux 常用小技巧

    批量结束进程 文件按行读取并把每行按多个空格分割成数组 按照文件名挑选文件 cut 命令 (按特定分隔符分割字符并...

  • IO流之合并流

    SequenceInputStream合并流 可将多个读取流合并,通常用于大文件切割后的合并; 文件的分割 文件的合并

  • jmeter随机读取CSV文件数据

    我们常用配置元件“CSV 数据文件设置”来读取CSV文件数据,读取结果往往是按顺序来读取的。如果需要随机来读取数据...

  • 1.CSV文件的读取与保存

    1. 读取csv文件 usecols: 指定要读取的列 header : CSV文件的列名所在的行, int, l...

网友评论

      本文标题:VBA按行读取csv文件与分割合并

      本文链接:https://www.haomeiwen.com/subject/vwglittx.html