如何修复SQLite数据库

作者: 呼啸长风 | 来源:发表于2018-12-30 16:01 被阅读13次

    一、前言

    SQLite性能好,对SQL支持全面,是久经考验的轻量的关系型数据库。
    移动开发者对SQLite应该都不陌生了,只是不同的 APP 对数据库的依赖程度不同(有的甚至不需要数据库-_-)。
    SQLite虽然是可靠性较高的数据库,但是在复杂的使用场景之下,也会不时地出点问题。
    比如说有时候索引损坏,select count(*) from t_XXX 查询出的结果和select * from t_XXX取出得记录数不一样;
    有时候甚至存储的记录违反唯一性约束,非空约束等等。
    一旦出现这些问题,可能会引起数据不正确,或者功能异常。
    为了尽量降低数据库不完整所引发的问题,我们需要有一套修复机制。

    二、数据修复

    一个简单的策略就是:检测-读取-写入-替换。
    具体地说,就是先检测数据的完整性,当检测到数据库文件不完整时做修复。
    SQLite提供了检测的API,但是没有提供直接修复的API,或许是因为错误的原因有很多,做纠错太困难了吧。
    通常大家的做法就是转储数据到一个好的数据库文件中,再替换回去,就好比整理衣物,要先把衣服叠整齐,再放回衣柜。
    有一些文章在写转储数据时, 会写dump sql, 然后执行sql,这也是转储的方式之一,但是有更高效的方式。

    2.1 检测

    SQLite提供了检测数据库完整性的API:

    PRAGMA integrity_check
    

    正常情况下执行此语句返回'ok', 而在当数据库不完整时(比如上面描述的一些情景),返回其他结果。

    2.2 读取数据表

    SQLite有一张内置表, sqlite_master, 此表中存储着数据库中所有表的相关信息,比如表的名称、索引、以及建表SQL等。
    我们可以从中读取所有我们创建的表的名称:

        private static List<String> getTables(SQLiteDatabase desDb) {
            String sql = "SELECT name FROM sqlite_master " +
                    "WHERE type='table' AND name!='android_metadata'";
            Cursor c = desDb.rawQuery(sql, null);
            try {
                List<String> tables = new ArrayList<>(c.getCount());
                while (c.moveToNext()) {
                    tables.add(c.getString(0));
                }
                return tables;
            } finally {
                closeCursor(c);
            }
        }
    

    2.3 读取数据

    要读取数据,先要考虑读取出来之后,用什么方式存储。
    先定一个数据结构:

    public class TableData {
        public int row;
        public int column;
        public Object[] data;
    }
    

    然后,读取一张表的所有数据:

    private static TableData getData(SQLiteDatabase srcDb, String sql) {
            Cursor c = srcDb.rawQuery(sql, null);
            try {
                int rawCount = c.getCount();
                if (rawCount <= 0) {
                    return null;
                }
                int columnCount = c.getColumnCount();
                TableData tableData = new TableData();
                tableData.row = rawCount;
                tableData.column = columnCount;
                tableData.data = new Object[rawCount * columnCount];
    
                int row = 0;
                if (c instanceof AbstractWindowedCursor) {
                    final AbstractWindowedCursor windowedCursor = (AbstractWindowedCursor) c;
                    while (windowedCursor.moveToNext()) {
                        for (int i = 0; i < columnCount; i++) {
                            int index = row * columnCount + i;
                            if (windowedCursor.isBlob(i)) {
                                tableData.data[index] = windowedCursor.getBlob(i);
                            } else if (windowedCursor.isFloat(i)) {
                                tableData.data[index] = windowedCursor.getDouble(i);
                            } else if (windowedCursor.isLong(i)) {
                                tableData.data[index] = windowedCursor.getLong(i);
                            } else if (windowedCursor.isNull(i)) {
                                tableData.data[index] = null;
                            } else if (windowedCursor.isString(i)) {
                                tableData.data[index] = windowedCursor.getString(i);
                            } else {
                                tableData.data[index] = windowedCursor.getString(i);
                            }
                        }
                        row++;
                    }
                } else {
                    while (c.moveToNext()) {
                        for (int i = 0; i < columnCount; i++) {
                            int index = row * columnCount + i;
                            tableData.data[index] = c.getString(i);
                        }
                        row++;
                    }
                }
    
                return tableData;
            } finally {
                closeCursor(c);
            }
        }
    

    这里有一个疑问就是,为什么不读一行写一行?
    也是可以的,但是那样的话会有两个坏处:
    1、方法只能不单一,可读性低;
    2、内存抖动。众所周知,连续读写的IO性能比随机读写要好。

    但是读取全表再批量写入,也有一个弊端:
    如果一张表数据很大,可能会OOM。
    当然,如果数据量比较大,我们可以采用分页的方式。

    2.4 写入数据

      private static void insertToDb(SQLiteDatabase desDb, 
                                       String sql, 
                                       Object[] values, 
                                       int rows, 
                                       int columns) {
            if (values == null || columns <= 0 || rows <= 0 || values.length < (rows * columns)) {
                return;
            }
            SQLiteStatement statement = desDb.compileStatement(sql);
            try {
                for (int i = 0; i < rows; i++) {
                    bindValues(statement, values, i, columns);
                    try {
                        statement.executeInsert();
                    } catch (SQLiteConstraintException e) {
                        LogUtil.e(TAG, e);
                    }
                    statement.clearBindings();
                }
            } finally {
                IOUtil.closeQuietly(statement);
            }
        }
    
       public static void bindValues(SQLiteStatement statement, 
                                      Object[] values, 
                                      int row, 
                                      int columns) {
            for (int j = 0; j < columns; j++) {
                Object value = values[row * columns + j];
                int index = j + 1;
                if (value == null) {
                    statement.bindNull(index);
                } else if (value instanceof String) {
                    statement.bindString(index, (String) value);
                } else if (value instanceof Number) {
                    if (value instanceof Double 
                            || value instanceof Float 
                            || value instanceof BigDecimal) {
                        statement.bindDouble(index, ((Number) value).doubleValue());
                    } else {
                        statement.bindLong(index, ((Number) value).longValue());
                    }
                } else if (value instanceof byte[]) {
                    statement.bindBlob(index, (byte[]) value);
                } else {
                    statement.bindString(index, value.toString());
                }
            }
        }
    
    

    其实很多其他的数据库引擎也提供了参数绑定的API。
    这样的方式的好处就是,只用编译一次SQL。
    而用SDK的insert方法,则每插入一条记录都需要编译一遍SQL。

    需要注意的事,在转储数据时要捕获SQLiteConstraintException,因为在当数据文件不完整时,有的记录可能已经不满足约束(唯一约束,非空约束等)了。

    2.5 复制数据

    接下来,只需组装前面的方法,逐张表进行复制。

        private static void copyTable(SQLiteDatabase srcDb, SQLiteDatabase desDb,
                                      String table, StringBuilder builder) {
            TableData tableData = getData(srcDb, "SELECT * FROM " + table);
            if (tableData != null) {
                builder.setLength(0);
                builder.append("INSERT INTO ").append(table).append(" VALUES(");
                for (int i = 0; i < tableData.column; i++) {
                    builder.append("?,");
                }
                builder.setCharAt(builder.length() - 1, ')');
                insertToDb(desDb, builder.toString(), tableData.data, tableData.row, tableData.column);
            }
        }
    
        private static void copyDataToNewDb(SQLiteDatabase srcDb, SQLiteDatabase desDb) {
            srcDb.beginTransaction();
            try {
                List<String> tables = getTables(desDb);
                StringBuilder builder = new StringBuilder(128);
                for (String table : tables) {
                    desDb.execSQL("DELETE FROM " + table);
                    copyTable(srcDb, desDb, table, builder);
                }
            } finally {
                srcDb.endTransaction();
            }
        }
    

    复制完成后,把新数据库文件替换旧数据库文件即可。

    三、预防措施

    以上是数据库损坏后的对应策略,不一定有效,比如说数据库是彻底损坏(数据无法读取)时。
    我们可以从另外两个方面做预防:

    • 1、防止数据库损坏
      比如检查磁盘剩余空间,当剩余空间小于一定大小时提醒用户清理空间;
      还有就是注意切勿多进程访问数据库,集成推送,定位等服务,这些服务通常会有自己的进程,
      这时候需要小心Application的onCreate方法,因为所有进程都会回调该方法。
    • 2、做备份
      定时做备份,比如每天或者每两天做一次备份,在数据库彻底损坏时至少还可以恢复绝大部分数据。

    四、后记

    我们的APP重度依赖数据库,数据量不算特别大,但是数据表多,操作路径多,数据库损坏什么的时有发生,对业务影响颇深。
    用户数据有问题,有的会反馈,有的可能就卸载APP了。
    最初没意识到SQLite完整性的问题,碰到一些奇怪的数据现象,钻进茫茫的业务代码中去查原因,有时候能找到一些可能的原因,但是常常是铩羽而归,最终也只是用一些临时方案使得用户可以恢复使用,指标而不治本。
    后来渐渐意识到解决数据库损坏的问题,出了一系列措施之后,此类问题迎刃而解。

    五、下载

    已上传Demo到github, 地址:https://github.com/No89757/DBTest

    相关文章

      网友评论

        本文标题:如何修复SQLite数据库

        本文链接:https://www.haomeiwen.com/subject/gygdlqtx.html