如何读取多个csv和合并

我有39个csv文件有很多内存大小。我想通过Java加载这个文件并设置为一个变量。下面的段落是我的编码，适用于小尺寸文件，但不适用于大尺寸文件。文件大小通常在100mb到800mb左右。我想在目录中加载39个文件，并将它们放入一个2d数组中。如何读取多个csv和合并

public static String readCSV(File csvFile) { 
    BufferedReader bufferedReader = null; 
    StringBuffer stringBuffer = new StringBuffer(); 

    try { 
     bufferedReader = new BufferedReader(new FileReader(csvFile)); 
    } catch (FileNotFoundException e) { 
     e.printStackTrace(); 
    } 

    try { 
     String temp = null; 
     while((temp = bufferedReader.readLine()) != null) { 
      stringBuffer.append(temp+","); // temp 에 저장되어있는 한 줄을 더한다. 
     } 

     System.out.println(stringBuffer); 
    } catch (IOException e) { 
     e.printStackTrace(); 
    } 

    // -10,-9,-8,-7,-6,-5,-4,-3,-2,-1,0,,,,,,,,,,1,2,3,4,5,6,7,8,9,10, 반환 
    return stringBuffer.toString(); 
} 

public static String[] parse(String str) { 
    String[] strArr = str.split(","); // 쉼표가 1개인 것을 기준으로 나누어서 배열에 저장 

    return strArr; 
} 

public static void main(String[] args) throws IOException { 

    //mergeCsvFiles("sample", 4, "D:\\sample_folder\\" + "merge_file" + ".csv"); 


    String str = readCSV(new File("D:/sample_folder/sample1.csv")); 
    String[] strArr = parse(str); // String 배열에 차곡차곡 담겨서 나온다. 
    int varNumber = 45; 
    int rowNumber = strArr.length/varNumber; 

    String[][] Array2D = new String[varNumber][rowNumber]; 
    for(int j=0;j<varNumber;j++) 
    { 
     for(int i=0; i<rowNumber;i++) 
      { 
       String k = strArr[i*varNumber+j]; 
         Array2D[j][i]= k; 
     } 
    }      //2D array 배열을 만들기  

    //String[][] naArray2D=removeNA(Array2D,rowNumber,varNumber); //NA 포함한 행 지우기 





//  /* 제대로 제거 됐는지 확인하는 코드 
    for(int i=0;i<varNumber;i++){ 
     for(int j=0;j<16;j++){ 
          System.out.println(Array2D[i][j]); 
     } 
         System.out.println("**********************NA제거&2차원 배열**********************"); 
    }   
//  */ 

    } 
}

来源

2016-12-02 kimHS

随着你提的文件大小，你要么要容易run out of memory in the JVM。

这是可能是为什么你最大的800 MB的文件没有加载到内存中。您不仅将800MB加载到内存中，而且还会增加您正在使用的阵列s的开销。换句话说，你使用的是1600MB + all of the extra overhead cost of each array, which becomes sizeable。

我敢打赌，假设文件格式在这两种情况下都是完美的，那么你超出了内存限制。虽然我无法确认，因为我不知道您的JVM，内存消耗，也没有所需的资产来确定这一点，但由您决定是否是这种情况。

此外，我不知道 - 也许我正在阅读你的代码，但它似乎并没有做我认为你想要做的事情。也许我错了，我不知道究竟是你想做什么。

来源

2016-12-02 04:18:02 dddJewelsbbb

如何读取多个csv和合并

回答

相关问题