问题
一个数据序列,想利用一些规则从中提取出需要的值或者是缩短序列。
解决问题
最简单的过滤序列元素的方法就是使用列表推导。比如:
mylist = [1, 4, -5, 10, -7, 2, 3, -1]
# 大于0
big = [i for i in mylist if i > 0]
print('big_data : ', big)
big_data : [1, 4, 10, 2, 3]
# 小于0
small = [i for i in mylist if i < 0]
print('small_data : ', small)
small_data : [-5, -7, -1]
使用列表推导式的潜在缺陷:如果输入数据量非常大时,会产生一个非常大的结果集,占用大量内存。 如果对内存比较敏感,可以使用生成器表达式迭代产生过滤的元素。比如:
pos = (i for i in mylist if i < 0)
print(type(pos))
for n in pos:
print(n)
<class 'generator'>
-5
-7
-1
有时候,过滤规则比较复杂,不能简单的在列表推导或者生成器表达式中表达出来。 比如,假设过滤的时候需要处理一些异常或者其他复杂情况,可以将过滤代码放到一个函数中, 然后使用内建的高阶 filter() 函数进行判断筛选。示例如下:
values = ['1', '2', '-3', '-', '4', 'N/A', '5']
def is_int(val):
try:
x = int(val)
return True
except ValueError:
return False
value = list(filter(is_int, values))
print(value)
['1', '2', '-3', '4', '5']
filter()
函数创建了一个迭代器,因此想得到一个列表的话,就得像示例那样使用 list() 去转换。
讨论
列表推导和生成器表达式通常情况下是过滤数据最简单的方式。 其实它们还能在过滤的时候转换数据。比如:
import math
mylist = [1, 4, -5, 10, -7, 2, 3, -1]
sqrt_num = [math.sqrt(x) for x in mylist if x > 0]
print(sqrt_num)
[1.0, 2.0, 3.1622776601683795, 1.4142135623730951, 1.7320508075688772]
过滤操作的一个延伸功能就是将不符合条件的值用新的值代替,而不是丢弃它们。 比如,在一列数据中你可能不仅想找到正数,而且还想将不是正数的数替换成指定的数,比如:
clip_pos = [x if x < 0 else 0 for x in mylist]
print(clip_pos)
[0, 0, -5, 0, -7, 0, 0, -1]
另外一个过滤工具就是 itertools.compress()
, 它以一个 iterable 对象和一个相对应的 Boolean 选择器序列作为输入参数。 然后输出 iterable 对象中对应 Boolean 选择器为 True 的元素。 当你需要用另外一个相关联的序列来过滤某个序列的时候,这个函数非常有用。比如,数据:
addresses = [
'5412 N CLARK',
'5148 N CLARK',
'5800 E 58TH',
'2122 N CLARK',
'5645 N RAVENSWOOD',
'1060 W ADDISON',
'4801 N BROADWAY',
'1039 W GRANVILLE',
]
counts = [ 0, 3, 10, 4, 1, 7, 6, 1]
现在想将那些对应 count 值大于5的地址全部输出,示例代码:
from itertools import compress
more5 = [n > 5 for n in counts]
print(more5)
add_more5 = compress(addresses, more5)
print(list(add_more5))
[False, False, True, False, False, True, True, False]
['5800 E 58TH', '1060 W ADDISON', '4801 N BROADWAY']
这种方法的关键点在于先创建一个关联的 Boolean 序列,标识哪些元素符合条件,然后 compress() 函数根据这个序列去选择输出对应位置为 True 的元素。
和 filter() 函数类似, compress() 返回的也是一个迭代器。要得到一个列表, 需要使用 list() 来将结果转换为列表类型。
网友评论