一点号数据玩家2016.7.29
限时干货下载:
回复【2】免费获取【超全数据分析资料免费下载(包含SQL,R语言,SPSS,SAS,python,数据挖掘)!】
1
优化算法时间复杂度算法的时间复杂度对程序的执行效率影响最大,在Python中可以通过选择合适的数据结构来优化时间复杂度,如list和set查找某一个元素的时间复杂度分别是O(n)和O(1)。不同的场景有不同的优化方式,总得来说,一般有分治,分支界限,贪心,动态规划等思想。
2
减少冗余数据
如用上三角或下三角的方式去保存一个大的对称矩阵。在0元素占大多数的矩阵里使用稀疏矩阵表示。3
合理使用copy与deepcopy
对于dict和list等数据结构的对象,直接赋值使用的是引用的方式。而有些情况下需要复制整个对象,这时可以使用copy包里的copy和deepcopy,这两个函数的不同之处在于后者是递归复制的。效率也不一样:(以下程序在ipython中运行)
importcopy a = range %timeit -n10copy.copy(a)# 运行10次 copy.copy(a)%timeit -n10copy.deepcopy(a) 10loops, best of3:1.55ms per loop 10loops, best of3:151ms per looptimeit后面的-n表示运行的次数,后两行对应的是两个timeit的输出,下同。由此可见后者慢一个数量级。
4
使用dict或set查找元素Python dict和set都是使用hash表来实现(类似c++11标准库中unordered_map),查找元素的时间复杂度是O(1)。
a = range(1000) s = set(a) d = dict((i,1)foriina) %timeit -n10000100ind %timeit -n10000100ins 10000loops, best of3:43.5ns per loop 10000loops, best of3:49.6ns per loopdict的效率略高(占用的空间也多一些)。
5
使用生成器(generator)和yield%timeit -n100a = (iforiinrange) %timeit -n100b = [iforiinrange] 100loops, best of3:1.54ms per loop 100loops, best of3:4.56ms per loop使用得到的是一个generator对象,所需要的内存空间与列表的大小无关,所以效率会高一些。在具体应用上,比如set(i for i in range)会比set([i for i in range])快。但是对于需要循环遍历的情况:
%timeit -n10forxin(iforiinrange):pass%timeit -n10forxin[iforiinrange]:pass10loops, best of3:6.51ms per loop 10loops, best of3:5.54ms per loop后者的效率反而更高,但是如果循环里有break,用generator的好处是显而易见的。yield也是用于创建generator:
defyield_func(ls): foriinls: yieldi+1defnot_yield_func(ls): return[i+1foriinls] ls = range(1000000) %timeit -n10foriinyield_func(ls):pass%timeit -n10foriinnot_yield_func(ls):pass10loops, best of3:63.8ms per loop 10loops, best of3:62.9ms per loop对于内存不是非常大的list,可以直接返回一个list,但是可读性yield更佳(人个喜好)。
python2.x内置generator功能的有xrange函数、itertools包等。6
循环之外能做的事不要放在循环内,比如下面的优化可以快一倍:
7
优化包含多个判断表达式的顺序对于and,应该把满足条件少的放在前面,对于or,把满足条件多的放在前面。如:
8
使用join合并迭代器中的字符串In [1]: %%timeit ...: s ='' ...:foriina: ...: s += i ...: 10000loops, best of3:59.8s per loop In [2]: %%timeit s =''.join(a) ...: 100000loops, best of3:11.8s per loopjoin对于累加的方式,有大约5倍的提升。
9
s1, s2 ='ax''bx'%timeit -n100000'abc%s%s'% (s1, s2) %timeit -n100000'abc{0}{1}'.format(s1, s2) %timeit -n100000'abc'+ s1 + s2 100000loops, best of3:183ns per loop 100000loops, best of3:169ns per loop 100000loops, best of3:103ns per loop三种情况中,%的方式是最慢的,但是三者的差距并不大(都非常快)。(个人觉得%的可读性最好)
10
In [3]: %%timeit -n10000 a,b=12 ....: c=a;a=b;b=c; ....: 10000loops, best of3:172ns per loop In [4]: %%timeit -n10000a,b=12