NumPy二进制文件
save()、savez()和load()函数以 numpy 专用的二进制类型(.npy、.npz)保存和读取数据,这三个函数会自动处理ndim、dtype、shape等信息,使用它们读写数组非常方便,但是save()和savez()输出的文件很难与其它语言编写的程序兼容。
def save(file, arr, allow_pickle=True, fix_imports=True):
- save()函数:以.npy格式将数组保存到二进制文件中。
- .npy格式:以二进制的方式存储文件,在二进制文件第一行以文本形式保存了数据的元信息(ndim,dtype,shape等),可以用二进制工具查看内容。
def load(file, mmap_mode=None, allow_pickle=False, fix_imports=True, encoding=‘ASCII’):
- load()函数:从.npy、.npz或 pickled文件加载数组或pickled对象。
- mmap_mode: {None, ‘r+’, ‘r’, ‘w+’, ‘c’};:读取文件的方式。
- allow_pickle=False:允许加载存储在.npy文件中的pickled对象数组。
- fix_imports=True:若为True,pickle将尝试将旧的python2名称映射到python3中使用的新名称。
- encoding=‘ASCII’:制定编码格式,默认为“ASCII”。
#将一个数组保存到一个文件中,importnumpyasnp outfile=r'.\test.npy'np.random.seed(20200619)x=np.random.uniform(low=0,high=1,size=[3,5])np.save(outfile,x)y=np.load(outfile)print(y)# [[0.01123594 0.66790705 0.50212171 0.7230908 0.61668256]# [0.00668332 0.1234096 0.96092409 0.67925305 0.38596837]# [0.72342998 0.26258324 0.24318845 0.98795012 0.77370715]]def savez(file, *args, **kwds):
- savez()函数:以未压缩的.npz格式将多个数组保存到单个文件中。
- .npz格式:以压缩打包的方式存储文件,可以用压缩软件解压。
- savez()函数:第一个参数是文件名,其后的参数都是需要保存的数组,也可以使用关键字参数为数组起一个名字,非关键字参数传递的数组会自动起名为arr_0, arr_1, …。
- savez()函数:输出的是一个压缩文件(扩展名为.npz),其中每个文件都是一个save()保存的.npy文件,文件名对应于数组名。load()自动识别.npz文件,并且返回一个类似于字典的对象,可以通过数组名作为关键字获取数组的内容。
#将多个数组保存到一个文件importnumpyasnp outfile=r'.\test.npz'x=np.linspace(0,np.pi,5)y=np.sin(x)z=np.cos(x)np.savez(outfile,x,y,z_d=z)data=np.load(outfile)np.set_printoptions(suppress=True)print(data.files)# ['z_d', 'arr_0', 'arr_1']print(data['arr_0'])# [0. 0.78539816 1.57079633 2.35619449 3.14159265]print(data['arr_1'])# [0. 0.70710678 1. 0.70710678 0. ]print(data['z_d'])# [ 1. 0.70710678 0. -0.70710678 -1. ]用解压软件打开 test.npz 文件,会发现其中有三个文件:arr_0.npy,arr_1.npy,z_d.npy,其中分别保存着数组x,y,z的内容。
文本文件
savetxt(),loadtxt()和genfromtxt()函数用来存储和读取文本文件(如.TXT,.CSV等)。genfromtxt()比loadtxt()更加强大,可对缺失数据进行处理。
def savetxt(fname, X, fmt=‘%.18e’, delimiter=’ ‘, newline=’\n’,header=‘’, footer=‘’, comments='# ', encoding=None):
- fname:文件路径
- X:存入文件的数组。
- fmt=‘%.18e’:写入文件中每个元素的字符串格式,默认’%.18e’(保留18位小数的浮点数形式)。
- delimiter=’ ':分割字符串,默认以空格分隔。
def loadtxt(fname, dtype=float, comments=‘#’, delimiter=None,
converters=None, skiprows=0, usecols=None, unpack=False,
ndmin=0, encoding=‘bytes’, max_rows=None):
- fname:文件路径。
- dtype=float:数据类型,默认为float。
- comments=‘#’: 字符串或字符串组成的列表,默认为’#',表示注释字符集开始的标志。
- skiprows=0:跳过多少行,一般跳过第一行表头。
- usecols=None:元组(元组内数据为列的数值索引), 用来指定要读取数据的列(第一列为0)。
- unpack=False:当加载多列数据时是否需要将数据列进行解耦赋值给不同的变量。
#写入和读出TXT文件importnumpyasnp outfile=r'.\test.txt'x=np.arange(0,10).reshape(2,-1)np.savetxt(outfile,x)y=np.loadtxt(outfile)print(y)# [[0. 1. 2. 3. 4.]# [5. 6. 7. 8. 9.]]test.txt文件如下:
0.000000000000000000e+00 1.000000000000000000e+00 2.000000000000000000e+00 3.000000000000000000e+00 4.000000000000000000e+00
5.000000000000000000e+00 6.000000000000000000e+00 7.000000000000000000e+00 8.000000000000000000e+00 9.000000000000000000e+00
#写入和读出CSV文件importnumpyasnp outfile=r'.\test.csv'x=np.arange(0,10,0.5).reshape(4,-1)np.savetxt(outfile,x,fmt='%.3f',delimiter=',')y=np.loadtxt(outfile,delimiter=',')print(y)# [[0. 0.5 1. 1.5 2. ]# [2.5 3. 3.5 4. 4.5]# [5. 5.5 6. 6.5 7. ]# [7.5 8. 8.5 9. 9.5]]test.csv文件如下:
0.000,0.500,1.000,1.500,2.000
2.500,3.000,3.500,4.000,4.500
5.000,5.500,6.000,6.500,7.000
7.500,8.000,8.500,9.000,9.500
def genfromtxt(fname, dtype=float, comments=‘#’, delimiter=None,
skip_header=0, skip_footer=0, converters=None,
missing_values=None, filling_values=None, usecols=None,
names=None, excludelist=None,
deletechars=‘’.join(sorted(NameValidator.defaultdeletechars)),
replace_space=‘_’, autostrip=False, case_sensitive=True,
defaultfmt=“f%i”, unpack=None, usemask=False, loose=True,
invalid_raise=True, max_rows=None, encoding=‘bytes’):
- genfromtxt()函数:从文本文件加载数据,并按指定方式处理缺少的值(是面向结构数组和缺失数据处理的。)。
- names=None:设置为True时,程序将把第一行作为列名称。
data.csv文件(不带缺失值)
id,value1,value2,value3
1,123,1.4,23
2,110,0.5,18
3,164,2.1,19
importnumpyasnp outfile=r'.\data.csv'x=np.loadtxt(outfile,delimiter=',',skiprows=1)print(x)# [[ 1. 123. 1.4 23. ]# [ 2. 110. 0.5 18. ]# [ 3. 164. 2.1 19. ]]x=np.loadtxt(outfile,delimiter=',',skiprows=1,usecols=(1,2))print(x)# [[123. 1.4]# [110. 0.5]# [164. 2.1]]val1,val2=np.loadtxt(outfile,delimiter=',',skiprows=1,usecols=(1,2),unpack=True)print(val1)# [123. 110. 164.]print(val2)# [1.4 0.5 2.1]importnumpyasnp outfile=r'.\data.csv'x=np.genfromtxt(outfile,delimiter=',',names=True)print(x)# [(1., 123., 1.4, 23.) (2., 110., 0.5, 18.) (3., 164., 2.1, 19.)]print(type(x))# <class 'numpy.ndarray'>print(x.dtype)# [('id', '<f8'), ('value1', '<f8'), ('value2', '<f8'), ('value3', '<f8')]print(x['id'])# [1. 2. 3.]print(x['value1'])# [123. 110. 164.]print(x['value2'])# [1.4 0.5 2.1]print(x['value3'])# [23. 18. 19.]data1.csv文件(带有缺失值)
id,value1,value2,value31,123,1.4,232,110,,183,,2.1,19【例子】
importnumpyasnp outfile=r'.\data1.csv'x=np.genfromtxt(outfile,delimiter=',',names=True)print(x)# [(1., 123., 1.4, 23.) (2., 110., nan, 18.) (3., nan, 2.1, 19.)]print(type(x))# <class 'numpy.ndarray'>print(x.dtype)# [('id', '<f8'), ('value1', '<f8'), ('value2', '<f8'), ('value3', '<f8')]print(x['id'])# [1. 2. 3.]print(x['value1'])# [123. 110. nan]print(x['value2'])# [1.4 nan 2.1]print(x['value3'])# [23. 18. 19.]文本格式选项
def set_printoptions(precision=None, threshold=None, edgeitems=None,
linewidth=None, suppress=None, nanstr=None, infstr=None,
formatter=None, sign=None, floatmode=None, **kwarg):
- set_printoptions()函数:设置打印选项。这些选项决定浮点数、数组和其它NumPy对象的显示方式。
- precision=8:设置浮点精度,控制输出的小数点个数,默认是8。
- threshold=1000:概略显示,超过该值则以“…”的形式来表示,默认是1000。
- linewidth=75:用于确定每行多少字符数后插入换行符,默认为75。
- suppress=False:当suppress=True,表示小数不需要以科学计数法的形式输出,默认是False。
- nanstr=nan:浮点非数字的字符串表示形式,默认nan。
- infstr=inf:浮点无穷大的字符串表示形式,默认inf。
- formatter:一个字典,自定义格式化用于显示的数组元素。键为需要格式化的类型,值为格式化的字符串。
- ‘bool’
- ‘int’
- ‘float’
- ‘str’ : all other strings
- ‘all’ : sets all types
…
importnumpyasnp np.set_printoptions(precision=4)x=np.array([1.123456789])print(x)# [1.1235]np.set_printoptions(threshold=20)x=np.arange(50)print(x)# [ 0 1 2 ... 47 48 49]np.set_printoptions(threshold=np.iinfo(np.int).max)print(x)# [ 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23# 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47# 48 49]eps=np.finfo(float).eps x=np.arange(4.)x=x**2-(x+eps)**2print(x)# [-4.9304e-32 -4.4409e-16 0.0000e+00 0.0000e+00]np.set_printoptions(suppress=True)print(x)# [-0. -0. 0. 0.]x=np.linspace(0,10,10)print(x)# [ 0. 1.1111 2.2222 3.3333 4.4444 5.5556 6.6667 7.7778 8.8889# 10. ]np.set_printoptions(precision=2,suppress=True,threshold=5)print(x)# [ 0. 1.11 2.22 ... 7.78 8.89 10. ]np.set_printoptions(formatter={'all':lambdax:'int: '+str(-x)})x=np.arange(3)print(x)# [int: 0 int: -1 int: -2]np.set_printoptions()# formatter gets resetprint(x)# [0 1 2]恢复默认选项
np.set_printoptions(edgeitems=3,infstr='inf',linewidth=75,nanstr='nan',precision=8,suppress=False,threshold=1000,formatter=None)get_printoptions()函数:获取当前打印选项