python - 如何使用 importlib 实现可以动态修改源代码的导入 Hook ？

Question

使用已弃用的模块 imp，我可以编写自定义导入 Hook ，在 Python 导入/执行之前动态修改模块的源代码。给定源代码作为下面名为 source 的字符串，创建模块所需的基本代码如下:

module = imp.new_module(name)
sys.modules[name] = module
exec(source, module.__dict__)

由于 imp 已被弃用，我想用 importlib 做一些类似的事情。 [编辑:需要替换其他 imp 方法来构建自定义导入 Hook - 所以我正在寻找的答案不仅仅是替换上面的代码。]

但是，我还没有弄清楚如何做到这一点。 importlib documentation有一个function to create modules from "specs"据我所知，它们是包含自己的加载器的对象，没有明显的方法来重新定义它们以便能够从字符串创建模块。

我创建了一个 minimal example证明这一点；有关详细信息，请参阅自述文件。

Answer 1

find_module 和 load_module 均已弃用。您需要分别切换到 find_spec 和(create_module 和 exec_module)模块。请参阅 importlib documentation了解详情。

您还需要检查是否要使用 MetaPathFinder 或 PathEntryFinder，因为调用它们的系统不同。也就是说，元路径查找器先行并可以覆盖内置模块，而路径条目查找器专门用于在 sys.path 上找到的模块。

以下是一个非常基本的进口商，它试图取代整个进口机械。它展示了如何使用函数(find_spec、create_module 和 exec_module)。

import sys
import os.path

from importlib.abc import Loader, MetaPathFinder
from importlib.util import spec_from_file_location

class MyMetaFinder(MetaPathFinder):
    def find_spec(self, fullname, path, target=None):
        if path is None or path == "":
            path = [os.getcwd()] # top level import -- 
        if "." in fullname:
            *parents, name = fullname.split(".")
        else:
            name = fullname
        for entry in path:
            if os.path.isdir(os.path.join(entry, name)):
                # this module has child modules
                filename = os.path.join(entry, name, "__init__.py")
                submodule_locations = [os.path.join(entry, name)]
            else:
                filename = os.path.join(entry, name + ".py")
                submodule_locations = None
            if not os.path.exists(filename):
                continue

            return spec_from_file_location(fullname, filename, loader=MyLoader(filename),
                submodule_search_locations=submodule_locations)

        return None # we don't know how to import this

class MyLoader(Loader):
    def __init__(self, filename):
        self.filename = filename

    def create_module(self, spec):
        return None # use default module creation semantics

    def exec_module(self, module):
        with open(self.filename) as f:
            data = f.read()

        # manipulate data some way...

        exec(data, vars(module))

def install():
    """Inserts the finder into the import machinery"""
    sys.meta_path.insert(0, MyMetaFinder())

接下来是一个稍微更精致的版本，它试图重用更多的进口机器。因此，您只需要定义如何获取模块的源代码。

import sys
from os.path import isdir
from importlib import invalidate_caches
from importlib.abc import SourceLoader
from importlib.machinery import FileFinder


class MyLoader(SourceLoader):
    def __init__(self, fullname, path):
        self.fullname = fullname
        self.path = path

    def get_filename(self, fullname):
        return self.path

    def get_data(self, filename):
        """exec_module is already defined for us, we just have to provide a way
        of getting the source code of the module"""
        with open(filename) as f:
            data = f.read()
        # do something with data ...
        # eg. ignore it... return "print('hello world')"
        return data


loader_details = MyLoader, [".py"]

def install():
    # insert the path hook ahead of other path hooks
    sys.path_hooks.insert(0, FileFinder.path_hook(loader_details))
    # clear any loaders that might already be in use by the FileFinder
    sys.path_importer_cache.clear()
    invalidate_caches()