美文网首页
关于数据库去除重复数据

关于数据库去除重复数据

作者: Kair | 来源:发表于2015-11-21 14:08 被阅读80次

关于数据库去除重复数据已经是一个老问题了,甚至面试也会经常被问到这部分的问题。
最老的方法就是建立中间表了,由于我对数据库不是很熟悉,没有深入研究过,所以也不能一一列举方法。
目前想记录的一个东西是最近我爬取数据的时候,有大概几万条数据,但是重复率很高的情况,可以利用distinct等去筛选出来,但是假设我不想写代码,从数据库层面去操作的话,用distinct没办法配合delete操作,而且我懒,不愿意去建立中间表这些。
在翻找资料的过程中,终于找到了一种方法,如下:

DELETE
FROM
    table_name
WHERE
    id NOT IN (
select * from(
        SELECT
            min(id) AS id
        FROM
            table_name
        GROUP BY
            field)b
    )

但是这种去重效率并不高。

相关文章

  • 关于数据库去除重复数据

    关于数据库去除重复数据已经是一个老问题了,甚至面试也会经常被问到这部分的问题。最老的方法就是建立中间表了,由于我对...

  • 在机器学习中如何去除重复的数据

    问题描述 在机器学习中,重复的数据会对结果有不利的影响,我们最好是可以去除重复的数据。 导入数据库 实际操作 首先...

  • mysql数据库去除重复

    Delete from student Group by num Having count(num)>1

  • 数据去除重复

    http://blog.csdn.net/wm9028/article/details/49926535

  • 数据库范式 1NF, 2NF, 3NF的问题与细解

    一. 关于数据冗余与异常 数据库的规范化数据库规范化是一种在数据库中组织数据的技术。 规范化是消除冗余(重复)和不...

  • C-猜数字游戏

    目的 通过实现猜数字小游戏,达到掌握随机数的产生,去除重复数据,排序的作用 技术 随机数的产生,去除重复数据,排序...

  • [转]PHP二维数组去重数组去重

    PHP中提供了array_unique函数去除一维数组中的重复项,但是我们实际的项目开发中,从数据库select查...

  • Excel删去重复项-让数据更简洁

    删去重复项-让数据更简洁 什么是删去重复项? 怎么删去重复项? 注意 什么是删去重复项? 删去重复项就是去除数据中...

  • R dplyr操作

    求交集、并集和差集 求两个数据框的交集 求两个数据框的并集(自动去除重复) 求两个数据框的并集,不去除重复

  • Mysql数据库查询重复数据

    Mysql数据库查询重复数据

网友评论

      本文标题:关于数据库去除重复数据

      本文链接:https://www.haomeiwen.com/subject/eoolhttx.html