Quantcast
Channel: CodeSection,代码区,Python开发技术文章_教程 - CodeSec
Viewing all articles
Browse latest Browse all 9596

工具 | 20招让你的Python飞起来!

$
0
0
工具 | 20招让你的python飞起来!

一点号数据玩家2016.7.29

限时干货下载:

回复【2】免费获取【超全数据分析资料免费下载(包含SQL,R语言,SPSS,SAS,python,数据挖掘)!】

1

优化算法时间复杂度

算法的时间复杂度对程序的执行效率影响最大,在Python中可以通过选择合适的数据结构来优化时间复杂度,如list和set查找某一个元素的时间复杂度分别是O(n)和O(1)。不同的场景有不同的优化方式,总得来说,一般有分治,分支界限,贪心,动态规划等思想。

2

减少冗余数据

如用上三角或下三角的方式去保存一个大的对称矩阵。在0元素占大多数的矩阵里使用稀疏矩阵表示。

3

合理使用copy与deepcopy

对于dict和list等数据结构的对象,直接赋值使用的是引用的方式。而有些情况下需要复制整个对象,这时可以使用copy包里的copy和deepcopy,这两个函数的不同之处在于后者是递归复制的。效率也不一样:(以下程序在ipython中运行)

importcopy a = range %timeit -n10copy.copy(a)# 运行10次 copy.copy(a)%timeit -n10copy.deepcopy(a) 10loops, best of3:1.55ms per loop 10loops, best of3:151ms per loop

timeit后面的-n表示运行的次数,后两行对应的是两个timeit的输出,下同。由此可见后者慢一个数量级。

4

使用dict或set查找元素

Python dict和set都是使用hash表来实现(类似c++11标准库中unordered_map),查找元素的时间复杂度是O(1)。

a = range(1000) s = set(a) d = dict((i,1)foriina) %timeit -n10000100ind %timeit -n10000100ins 10000loops, best of3:43.5ns per loop 10000loops, best of3:49.6ns per loop

dict的效率略高(占用的空间也多一些)。

5

使用生成器(generator)和yield%timeit -n100a = (iforiinrange) %timeit -n100b = [iforiinrange] 100loops, best of3:1.54ms per loop 100loops, best of3:4.56ms per loop使用得到的是一个generator对象,所需要的内存空间与列表的大小无关,所以效率会高一些。在具体应用上,比如set(i for i in range)会比set([i for i in range])快。

但是对于需要循环遍历的情况:

%timeit -n10forxin(iforiinrange):pass%timeit -n10forxin[iforiinrange]:pass10loops, best of3:6.51ms per loop 10loops, best of3:5.54ms per loop

后者的效率反而更高,但是如果循环里有break,用generator的好处是显而易见的。yield也是用于创建generator:

defyield_func(ls): foriinls: yieldi+1defnot_yield_func(ls): return[i+1foriinls] ls = range(1000000) %timeit -n10foriinyield_func(ls):pass%timeit -n10foriinnot_yield_func(ls):pass10loops, best of3:63.8ms per loop 10loops, best of3:62.9ms per loop

对于内存不是非常大的list,可以直接返回一个list,但是可读性yield更佳(人个喜好)。

python2.x内置generator功能的有xrange函数、itertools包等。

6

循环之外能做的事不要放在循环内,比如下面的优化可以快一倍:

7

优化包含多个判断表达式的顺序

对于and,应该把满足条件少的放在前面,对于or,把满足条件多的放在前面。如:

8

使用join合并迭代器中的字符串In [1]: %%timeit ...: s ='' ...:foriina: ...: s += i ...: 10000loops, best of3:59.8s per loop In [2]: %%timeit s =''.join(a) ...: 100000loops, best of3:11.8s per loop

join对于累加的方式,有大约5倍的提升。

9

s1, s2 ='ax''bx'%timeit -n100000'abc%s%s'% (s1, s2) %timeit -n100000'abc{0}{1}'.format(s1, s2) %timeit -n100000'abc'+ s1 + s2 100000loops, best of3:183ns per loop 100000loops, best of3:169ns per loop 100000loops, best of3:103ns per loop

三种情况中,%的方式是最慢的,但是三者的差距并不大(都非常快)。(个人觉得%的可读性最好)

10

In [3]: %%timeit -n10000 a,b=12 ....: c=a;a=b;b=c; ....: 10000loops, best of3:172ns per loop In [4]: %%timeit -n10000a,b=12

Viewing all articles
Browse latest Browse all 9596

Trending Articles