美文网首页
List 等分实现方式

List 等分实现方式

作者: 阿福德 | 来源:发表于2019-02-22 18:51 被阅读0次

背景:

今天要做批量插入,得到一个List,为了防止一次插入的数据量太多,于是考虑分批次,这就需要将list进行等分。

于是决定原有的代码中应该有这种工具类,找了一下,真找到了ListTools.java, 不过看了一下,这个实现方式效率较低

其中的实现如下:

    public static <T> List<List<T>> partition1(List<T> list, int pageSize) {
        int listSize = list.size();
        int page = (listSize + (pageSize - 1)) / pageSize;

        List<List<T>> listArray = new ArrayList<List<T>>();
        for (int i = 0; i < page; i++) {
            List<T> subList = new ArrayList<T>();
            for (int j = 0; j < listSize; j++) {
                int pageIndex = ((j + 1) + (pageSize - 1)) / pageSize;
                if (pageIndex == (i + 1)) {
                    subList.add(list.get(j));
                }
                if ((j + 1) == ((j + 1) * pageSize)) {
                    break;
                }
            }
            listArray.add(subList);
        }
        return listArray;
    }

较好的List等分实现方式

    public static <T> List<List<T>> partition2(List<T> list, int batchSize) {
        int totalSize = list.size();
        List<List<T>> retList = new ArrayList<>();
        if(totalSize < batchSize) {
            retList.add(list);
            return retList;
        }
        int batchNum = totalSize % batchSize ==0 ? totalSize / batchSize : totalSize / batchSize + 1;
        for(int i=0;i < batchNum; i++ ) {
            int start = i * batchSize;
            int end = (i+1) * batchSize;
            if(end > totalSize) {
                end = totalSize;
            }
            retList.add(list.subList(start, end));
        }
        return  retList;
    }

更好的实现方式

public static <T> List<List<T>> partition3(List<T> list, int size) {
        return (list instanceof RandomAccess)
                ? new RandomAccessPartition<T>(list, size)
                : new Partition<T>(list, size);
    }

    private static class Partition<T> extends AbstractList<List<T>> {
        final List<T> list;
        final int size;

        Partition(List<T> list, int size) {
            this.list = list;
            this.size = size;
        }

        @Override
        public List<T> get(int index) {
            int start = index * size;
            int end = Math.min(start + size, list.size());
            return list.subList(start, end);
        }

        @Override
        public int size() {
            return divide(list.size(), size);
        }

        @Override
        public boolean isEmpty() {
            return list.isEmpty();
        }
    }

    public static int divide(int p, int q) {
        int div = p / q;
        // equal to p % q
        int rem = p - q * div;
        if (rem == 0) {
            return div;
        }
        int signum = 1 | ((p ^ q) >> (Integer.SIZE - 1));
        boolean increment = signum > 0;
        return increment ? div + signum : div;
    }

    private static class RandomAccessPartition<T> extends Partition<T> implements RandomAccess {
        RandomAccessPartition(List<T> list, int size) {
            super(list, size);
        }
    }

性能

编写一个测试main程序

    public static void main(String[] args) {
        List<String> list = new ArrayList<>();
        for(int i=0;i<1000000;i++) {
            list.add("A"+i);
        }
        long start = System.currentTimeMillis();
        List<List<String>> ret = partition1(list, 100);
        System.out.println("partition1:"+ (System.currentTimeMillis() - start));
        start = System.currentTimeMillis();
        List<List<String>> ret2 = partition2(list, 100);
        System.out.println("partition2:"+ (System.currentTimeMillis() - start));

        start = System.currentTimeMillis();
        List<List<String>> ret3 = partition3(list, 100);
        System.out.println("partition3:"+(System.currentTimeMillis() - start));
        System.out.println(ret.size() +"  " + ret2.size());
    }

结果:

image.png

结论:三种实现方式的性能差了好几个数量级,特别是第一种与第二种,第三种实现方式几乎不花时间。

相关文章

  • List 等分实现方式

    背景: 今天要做批量插入,得到一个List,为了防止一次插入的数据量太多,于是考虑分批次,这就需要将list进行等...

  • 【Python】小技巧's

    目录: 1、List等分切割2、三元运算符+多元赋值3、字典的引用、浅拷贝、深拷贝 1、List等分切割 这样就可...

  • Redis实现消息队列的方式

    实现方式 通过数据结构list来实现 通过pub/sub实现 通过List实现 实现机制 优点 能够实现持久化:可...

  • 图-实现, 2020.02.26

    (2020.02.26)图数据结构有如下四种实现方式。 实现方式对比 Edge list structure边列表...

  • 2020-01-03

    List,Set ,Map List ArrayList 1.ArrayList是基于数组的方式实现的,本身是没有...

  • Java List的排序

    1、List的排序方式 1)list中对象实现Comparable接口,重写compareTo接口,排序的字段进行...

  • Java基础 (22) 集合

    常见问题1)List, Set, Map的区别2)List和Map的实现方式以及存储方式3) 并发集合了解哪些?4...

  • ArrayList源码学习分析

    1.ArrayList简介 1.ArrayList继承AbstractList,并且实现了List接口。其实现方式...

  • ArrayList的Java实现

    List 有两种流行的实现方式。 ArrayList 使用可增长数组实现,LinkedList 使用双链表实现。 ...

  • redis 五种数据类型的使用场景

    String 常用命令: 应用场景: 实现方式: Hash 常用命令: 应用场景: 实现方式: List 常用命令...

网友评论

      本文标题:List 等分实现方式

      本文链接:https://www.haomeiwen.com/subject/nuqyyqtx.html