读取和写入文件#

此页面介绍了一些常见的应用;有关 I/O 例程的完整集合,请参阅 输入和输出

读取文本和 CSV 文件#

无缺失值#

使用 numpy.loadtxt

有缺失值#

使用 numpy.genfromtxt

numpy.genfromtxt 将:

  • 返回一个 掩码数组,**屏蔽缺失值**(如果 usemask=True),或

  • 使用 filling_values 中指定的值**填充缺失值**(默认为浮点数的 np.nan,整数的 -1)。

使用非空格分隔符#

>>> with open("csv.txt", "r") as f:
...     print(f.read())
1, 2, 3
4,, 6
7, 8, 9
掩码数组输出#
>>> np.genfromtxt("csv.txt", delimiter=",", usemask=True)
masked_array(
  data=[[1.0, 2.0, 3.0],
        [4.0, --, 6.0],
        [7.0, 8.0, 9.0]],
  mask=[[False, False, False],
        [False,  True, False],
        [False, False, False]],
  fill_value=1e+20)
数组输出#
>>> np.genfromtxt("csv.txt", delimiter=",")
array([[ 1.,  2.,  3.],
       [ 4., nan,  6.],
       [ 7.,  8.,  9.]])
数组输出,指定填充值#
>>> np.genfromtxt("csv.txt", delimiter=",", dtype=np.int8, filling_values=99)
array([[ 1,  2,  3],
       [ 4, 99,  6],
       [ 7,  8,  9]], dtype=int8)

空格分隔#

numpy.genfromtxt 也可以解析具有缺失值的空格分隔数据文件,如果:

  • **每个字段具有固定宽度**:使用宽度作为 delimiter 参数。

    # File with width=4. The data does not have to be justified (for example,
    # the 2 in row 1), the last column can be less than width (for example, the 6
    # in row 2), and no delimiting character is required (for instance 8888 and 9
    # in row 3)
    
    >>> with open("fixedwidth.txt", "r") as f:
    ...    data = (f.read())
    >>> print(data)
    1   2      3
    44      6
    7   88889
    
    # Showing spaces as ^
    >>> print(data.replace(" ","^"))
    1^^^2^^^^^^3
    44^^^^^^6
    7^^^88889
    
    >>> np.genfromtxt("fixedwidth.txt", delimiter=4)
    array([[1.000e+00, 2.000e+00, 3.000e+00],
           [4.400e+01,       nan, 6.000e+00],
           [7.000e+00, 8.888e+03, 9.000e+00]])
    
  • **特殊值(例如“x”)表示缺失字段**:将其用作 missing_values 参数。

    >>> with open("nan.txt", "r") as f:
    ...     print(f.read())
    1 2 3
    44 x 6
    7  8888 9
    
    >>> np.genfromtxt("nan.txt", missing_values="x")
    array([[1.000e+00, 2.000e+00, 3.000e+00],
           [4.400e+01,       nan, 6.000e+00],
           [7.000e+00, 8.888e+03, 9.000e+00]])
    
  • **您想要跳过包含缺失值的行**:设置 invalid_raise=False

    >>> with open("skip.txt", "r") as f:
    ...     print(f.read())
    1 2   3
    44    6
    7 888 9
    
    >>> np.genfromtxt("skip.txt", invalid_raise=False)  
    __main__:1: ConversionWarning: Some errors were detected !
        Line #2 (got 2 columns instead of 3)
    array([[  1.,   2.,   3.],
           [  7., 888.,   9.]])
    
  • **分隔符空格字符与表示缺失数据的空格不同**。例如,如果列由 \t 分隔,则如果缺失数据由一个或多个空格组成,则会识别它。

    >>> with open("tabs.txt", "r") as f:
    ...    data = (f.read())
    >>> print(data)
    1       2       3
    44              6
    7       888     9
    
    # Tabs vs. spaces
    >>> print(data.replace("\t","^"))
    1^2^3
    44^ ^6
    7^888^9
    
    >>> np.genfromtxt("tabs.txt", delimiter="\t", missing_values=" +")
    array([[  1.,   2.,   3.],
           [ 44.,  nan,   6.],
           [  7., 888.,   9.]])
    

读取 .npy 或 .npz 格式的文件#

选择

写入 NumPy 可读取的文件#

二进制#

使用 numpy.save,或者存储多个数组 numpy.saveznumpy.savez_compressed

为了 安全性和可移植性,除非 dtype 包含 Python 对象(这需要 pickle),否则请设置 allow_pickle=False

掩码数组 当前无法保存,其他任意数组子类也无法保存。

人类可读#

numpy.savenumpy.savez 创建二进制文件。要**写入人类可读的文件**,请使用 numpy.savetxt。数组只能是一维或二维的,并且没有 `savetxtz` 用于多个文件。

大型数组#

请参阅 写入或读取大型数组

读取任意格式的二进制文件(“二进制 blob”)#

使用 结构化数组

示例

.wav 文件头是在实际声音数据 data_size 字节之前的 44 字节块

chunk_id         "RIFF"
chunk_size       4-byte unsigned little-endian integer
format           "WAVE"
fmt_id           "fmt "
fmt_size         4-byte unsigned little-endian integer
audio_fmt        2-byte unsigned little-endian integer
num_channels     2-byte unsigned little-endian integer
sample_rate      4-byte unsigned little-endian integer
byte_rate        4-byte unsigned little-endian integer
block_align      2-byte unsigned little-endian integer
bits_per_sample  2-byte unsigned little-endian integer
data_id          "data"
data_size        4-byte unsigned little-endian integer

作为 NumPy 结构化 dtype 的 .wav 文件头

wav_header_dtype = np.dtype([
    ("chunk_id", (bytes, 4)), # flexible-sized scalar type, item size 4
    ("chunk_size", "<u4"),    # little-endian unsigned 32-bit integer
    ("format", "S4"),         # 4-byte string, alternate spelling of (bytes, 4)
    ("fmt_id", "S4"),
    ("fmt_size", "<u4"),
    ("audio_fmt", "<u2"),     #
    ("num_channels", "<u2"),  # .. more of the same ...
    ("sample_rate", "<u4"),   #
    ("byte_rate", "<u4"),
    ("block_align", "<u2"),
    ("bits_per_sample", "<u2"),
    ("data_id", "S4"),
    ("data_size", "<u4"),
    #
    # the sound data itself cannot be represented here:
    # it does not have a fixed size
])

header = np.fromfile(f, dtype=wave_header_dtype, count=1)[0]

.wav 示例仅供说明;要在现实生活中读取 .wav 文件,请使用 Python 的内置模块 wave

(改编自 Pauli Virtanen,高级 NumPy,根据 CC BY 4.0 许可。)

写入或读取大型数组#

**太大而无法放入内存的数组**可以使用内存映射像普通的内存中数组一样处理。

  • 使用 numpy.ndarray.tofilenumpy.ndarray.tobytes 编写的原始数组数据可以使用 numpy.memmap 读取

    array = numpy.memmap("mydata/myarray.arr", mode="r", dtype=np.int16, shape=(1024, 1024))
    
  • 使用 numpy.save 输出的文件(即使用 numpy 格式)可以使用 numpy.loadmmap_mode 关键字参数读取

    large_array[some_slice] = np.load("path/to/small_array", mmap_mode="r")
    

内存映射缺少数据分块和压缩等功能;与 NumPy 可用的功能更全面的格式和库包括:

有关 memmap、Zarr 和 HDF5 之间的权衡,请参阅 pythonspeed.com

编写供其他(非 NumPy)工具读取的文件#

与其他工具**交换数据**的格式包括 HDF5、Zarr 和 NetCDF(请参阅 写入或读取大型数组)。

写入或读取 JSON 文件#

NumPy 数组和大多数 NumPy 标量**不是**直接 JSON 可序列化的。相反,请为 NumPy 类型使用自定义 json.JSONEncoder,可以使用您喜欢的搜索引擎找到它。

使用 pickle 文件保存/恢复#

如有可能,请避免使用;pickle 无法抵御错误或恶意构造的数据。

使用 numpy.savenumpy.load。除非数组dtype包含Python对象(在这种情况下需要pickling),否则请设置 allow_pickle=False

numpy.loadpickle 子模块也支持解封用NumPy 1.26创建的文件。

从pandas DataFrame转换到NumPy数组#

参见 pandas.Series.to_numpy

使用 tofilefromfile 保存/恢复#

一般情况下,更推荐使用 numpy.savenumpy.load

numpy.ndarray.tofilenumpy.fromfile 会丢失关于字节序和精度的信息,因此不适用于除临时存储之外的任何用途。