正文之前
今天又浪了一天!我简直是不能原谅自己了!!!可耻!!!
所以,还是把那200万条数据写入到数据库里边吧!没想到这还是个有技术性的活!折腾了个把小时才弄好!我也是太菜了!!!
正文
现在还在上传,我估摸着这初期100万条数据得好几分钟才能上传完毕!心痛
写了这么老半天都只出来了三万条。。。
实在难以想象,如果突然崩溃了我会不会想死??要知道我待会还要去健身, 100万条就这么久了!待会重来鬼知道吃晚饭之前能不能去健身房?!?!我还准备健身完回来吃晚呢!
废话不多说,放代码!!
import java.io.*;
import java.text.NumberFormat;
import java.io.IOException;
import java.sql.SQLException;
import java.sql.Statement;
import java.util.Scanner;
public class WriteGearData {
protected Mysql_Connect mysql=new Mysql_Connect();
public void Delete(int max){
try {
mysql.Connect();
Statement statement = mysql.getStatement();
String DELETE = "delete from gear where id<"+max;
boolean delete_ok = statement.execute(DELETE);
if (delete_ok) {
System.out.println("Have Fun! Boys!\n\n");
}
statement.close();
mysql.Dis_Connect();
} catch (SQLException e) {
e.printStackTrace();
} catch (Exception e) {
e.printStackTrace();
}
}
public String getInsertQuery(int id,Object[] name,Object[] value){
String insert="INSERT INTO gear(id";
for (int i=0;i<name.length;++i){
insert+=(","+name[i]);
}
insert+=") values("+id;
for (int i=0;i<value.length;++i){
insert+=(","+value[i]+"");
}
insert+=");";
return insert;
}
public void WriteData() throws IOException {
Delete(100000);
int hz[] = new int [] {0,10,20,30,40,50,60,70,80,90};
int id = 0;
for (int x : hz) {
String filename = "/Users/zhangzhaobo/Documents/Graduation-Design/Data/BrokenTooth Data/b30hz" + x + ".txt";
Scanner scanner=new Scanner(new FileInputStream(filename));
Object[] Name = new String[]{"Sensor1","Sensor2","Sensor3","Sensor4","HZ","category"};
try {
mysql.Connect();
Statement statement = mysql.getStatement();
do{
Object [] line = new Object[6];
NumberFormat nf = NumberFormat.getNumberInstance();
nf.setMaximumFractionDigits(1);
for (int i=0;i<4;++i){
line[i]=Float.parseFloat(nf.format(scanner.nextFloat()));
}
line[4] = x;
line[5] = 0;
String INSERT = getInsertQuery(id, Name, line);
boolean insert_ok = statement.execute(INSERT);
if (insert_ok) {
System.out.println("Insert Failed!");
}
id++;
}while(scanner.hasNext());
statement.close();
mysql.Dis_Connect();
} catch (SQLException e) {
e.printStackTrace();
} catch (Exception e) {
e.printStackTrace();
}
}
}
}
这是Java版本的,在主程序里面定义一个实例对象就ok!
public static void main(String[] args) throws Exception{
long startTime=System.currentTimeMillis(); //获取开始时间
WriteGearData gear = new WriteGearData();
gear.WriteData();
long endTime=System.currentTimeMillis(); //获取结束时间
System.out.println("程序运行时间: "+(endTime-startTime)+"ms");
}
13 万了 感动!!但是我又100万啊!!!
另外其实还有个C++版本的,但是那个不是写入数据库,而是写入本地文本,果然,数据量一大,Java简直被C++掀开了裤子狂艹啊!C++我记得两百万数据也就10秒不到,虽然只是本地IO,但是这差距也太他么大了吧?!!啊??
运行时间这么多。。 3589秒。。兄dei。。。也就是接近一个小时,就差十几秒 了!。。。100万条就一小时。。。想想那些上亿的真是心痛。。光是写进入就这么久。还要读出来,要处理。。。我滴妈!!难怪大数据!
正文之后
终于还是让我搞完了!!???
网友评论
addBatch
do{
//连续添加多条静态SQL
Object [] line = new Object[6];
NumberFormat nf = NumberFormat.getNumberInstance();
nf.setMaximumFractionDigits(1);
for (int i=0;i<4;++i){
line[i]=Float.parseFloat(nf.format(scanner.nextFloat()));
}
line[4] = x;
line[5] = 1;
String INSERT = getInsertQuery(id, Name, line);
statement.addBatch(INSERT);
id++;
count++;
//执行批量执行
if (count>10000) {
statement.executeBatch();
count = 0;
}