美文网首页
行列统治数据

行列统治数据

作者: 賈小強 | 来源:发表于2019-03-12 23:12 被阅读0次

简书 賈小強
转载请注明原创出处,谢谢!

:由行列组成的单元格,以这种形式组织数据在多种应用中广泛存在,非常有研究价值,下面将对这种以行列组织数据的形式在Excel,关系型数据(Oracle,MySQL),非关系型数据库(MongoDB)中的表现性形式和带来的影响进行分析

无约束的行列表

比如下面的数据,组织在Excel中的形式


Excel.png

特点:数据组织形式非常灵活,没有任何约束,想怎么组织数据就怎么组织,可能唯一的约束就在美不美观,从人的角度容不容易理解的问题,可以说是非常人性化的组织形式

范式化的行列表

如果上面的数据组织到关系型数据库中,那么可能变化成上篇文章中的形式
如何通过水平分表提升几十万倍效率

优点:数据进行了规范化,一般对一对多的关系进行了垂直分表,优点是通过规范化达到减少数据容易,保持数据一致性,修改效率高,在某些情况下,比如item特别多的的时候将数据以不同形式储存,可以提升非常多的查找效率
缺点:进行规范化的过程挺麻烦,以及一旦表结构定下来,后期几乎无法修改,连接查询是有代价的,比如不推荐连接10多张表

实际上在关系型数据库中多张表连接之后,也可以说形成了一张虚拟的行列表

非范式的行列表

上面的数据,如果在MongoDB中,又将变形成如下形式的数据


MongoDB.png

如果以JSON的形式整个集合也就形如

[
{ 
    "_id" : ObjectId("5c879ca91bc14220c0e2f00b"), 
    "record" : "record1", 
    "item1" : 1.1, 
    "item2" : 2.1, 
    "item3" : 3.1
},
{ 
    "_id" : ObjectId("5c879cf91bc14220c0e2f00c"), 
    "record" : "record2", 
    "item1" : 1.2, 
    "item2" : 2.2, 
    "item3" : 3.2
},
{ 
    "_id" : ObjectId("5c879d1d1bc14220c0e2f00d"), 
    "record" : "record3", 
    "item1" : 1.3, 
    "item2" : 2.3, 
    "item3" : 3.3
},
{ 
    "_id" : ObjectId("5c879d591bc14220c0e2f00e"), 
    "record" : "record4", 
    "item2" : 2.4, 
    "item3" : 3.4, 
    "item4" : 4.4
},
{ 
    "_id" : ObjectId("5c879d841bc14220c0e2f00f"), 
    "record" : "record5", 
    "item2" : 2.5, 
    "item3" : 3.5, 
    "item4" : 4.5
},
{ 
    "_id" : ObjectId("5c879da81bc14220c0e2f010"), 
    "record" : "record6", 
    "item2" : 2.6, 
    "item3" : 3.6, 
    "item4" : 4.6
}
]

优点:表头不再固定,从而具有了弹性的Scheme
缺点:在MongoDB中,这种形式组织数据不能从多个维度上连接查询,当然可以将一对多的关系写成嵌套文档,但是浪费磁盘空间,或者写成两个集合,然后通过代码连接,但是需要多一次查询

也许当看见MongoDB中嵌套文档的时候,也就说第一层的文档的值又是一个文档,以及值是一个数组,直觉并不容易想到行列组成的表,实际上嵌套文档也可以看成行列表,比如

{ 
    "_id" : ObjectId("5c879ca91bc14220c0e2f00b"), 
    "record" : "record1", 
    "item1" : 1.1, 
    "item2" : 2.1, 
    "item3" : 3.1
}

可以看成

{ 
    "_id" : ObjectId("5c879ca91bc14220c0e2f00b"), 
    "record" : "record1", 
    "info.type" : "type1", 
    "info.project" : "project11", 
    "item1" : 1.1, 
    "item2" : 2.1, 
    "item3" : 3.1
}

数组同理,这样的结局,无论套多少成,都将变成行列的表

行列表的优点

既然行列表在数据组织中如此常见,无论是关系型数据库,还是非关系型数据库都可以看成一张行列表,那么在它上面能进行什么样的操作?
所进行的操作无外乎下面一个SQL语句所能进行的有限操作,典型的为过滤出某些行某些列,这些行可能不并连续,但可以想象成他们组成了一行小的虚拟行列表

SELECT XXX
FROM YYY
WHRER ZZZ
GROUP BY
ORDER BY
LIMIT

因为对数据的操作典型的就是从大量数据中查找出符合条件某一部分的,这就是不同形式的数据库,以不同形式组织数据,然后又最终抽象到行列表的好处,当然在这样一个简单模型上进行聚合操作也是顺利成章的事情

简单,这就是为什么行列表如此普遍的原因

Happy learning !!

相关文章

  • 行列统治数据

    简书 賈小強转载请注明原创出处,谢谢! 表:由行列组成的单元格,以这种形式组织数据在多种应用中广泛存在,非常有研究...

  • 用Python进行数据分析 第五章 Pandas入门 Day9

    0919 5.2.3.1 用loc与loci进行数据选择 loc:根据行列标签选取数据iloc:根据行列数选取数据...

  • pandas数据行列转换

    数据分析清洗数据的过程中,会用到数据的行列转换,求平均值等,我们得到的数据是原始数据,有些数据是个体的多和元素散乱...

  • excel操作行列数据

    这波操作是为了做boxplot被逼出来的,暂时没有使用R去处理矩阵,因为比较习惯excel操作,因此最终确定了通过...

  • 数据统治世界

    20200328数据统治世界---《高手》---阅读分享8: 昨天我们分享了关于生活中的数学法则的话题。今天,我们...

  • python_pandas笔记

    读取文件 查看各列数据类型 选择行 选择列 选择行列 行列降维 以上行列选择和降维,另有切片[ ],at等处理方式...

  • 【R】行或列数目不同的两个数据框如何用rbind/cbind合并

    前言 通常我们用rbind和cbind合并相同行列的数据框。当两个数据框具有不同行列数目时,直接用会报错。 rbi...

  • 数据库行列转换

    示例(mysql) 原表: 用一条 SQL 语句得到如下形式: 方案1 方案2

  • pandas数据行列转换\数据透视表

    接上篇文章,利用pivot()来实现行列的转换,快速简单达到效果,这就是python的神奇之处。 上篇我们开头创建...

  • 大数据统治了生活

    大数据是无形的手,已经悄无声息的深入脏腑,死死抓住我们的心。 之前没注意到,那天上网,手滑点开一个问题,答者说,之...

网友评论

      本文标题:行列统治数据

      本文链接:https://www.haomeiwen.com/subject/yegopqtx.html