用于访问 Azure Data Lake Store 的 Python 代码

Question

我正在查看 Microsoft 文档 here和 here ，我在 Azure Active Directory 中创建了 Web 应用程序来访问 Data Lake Store

从网络应用程序中，我有对象 ID、应用程序 ID 和 key

查看文档，我看到了这一点:

adlCreds = lib.auth(tenant_id = 'FILL-IN-HERE', client_secret = 'FILL-IN-HERE', client_id = 'FILL-IN-HERE', resource = 'https://datalake.azure.net/')

如何使用它来验证我的代码并在 Data Lake Store 上运行操作？

这是我的完整测试代码:

## Use this for Azure AD authentication
from msrestazure.azure_active_directory import AADTokenCredentials

## Required for Azure Data Lake Store account management
from azure.mgmt.datalake.store import DataLakeStoreAccountManagementClient
from azure.mgmt.datalake.store.models import DataLakeStoreAccount

## Required for Azure Data Lake Store filesystem management
from azure.datalake.store import core, lib, multithread

# Common Azure imports
import adal
from azure.mgmt.resource.resources import ResourceManagementClient
from azure.mgmt.resource.resources.models import ResourceGroup

## Use these as needed for your application
import logging, getpass, pprint, uuid, time


## Declare variables
subscriptionId = 'FILL-IN-HERE'
adlsAccountName = 'FILL-IN-HERE'

tenant_id = 'FILL-IN-HERE'
client_secret = 'FILL-IN-HERE'
client_id = 'FILL-IN-HERE'


## adlCreds = lib.auth(tenant_id = 'FILL-IN-HERE', client_secret = 'FILL-IN-HERE', client_id = 'FILL-IN-HERE', resource = 'https://datalake.azure.net/')
from azure.common.credentials import ServicePrincipalCredentials
adlCreds = lib.auth(tenant_id, client_secret, client_id, resource = 'https://datalake.azure.net/')


## Create a filesystem client object
adlsFileSystemClient = core.AzureDLFileSystem(adlCreds, store_name=adlsAccountName)

## Create a directory
adlsFileSystemClient.mkdir('/mysampledirectory')

当我尝试运行代码时出现错误:

[运行] python "c:....\dls.py"回溯(最近一次调用最后一次):文件“c:....\dls.py”，第 38 行，位于 adlCreds = lib.auth(tenant_id, client_secret, client_id, 资源 = ' https://datalake.azure.net/ ') 文件“C:\Python36\lib\site-packages\azure\datalake\store\lib.py”，第 130 行，在身份验证密码、client_id 中) 文件“C:\Python36\lib\site-packages\adal\authentication_context.py”，第 145 行，在 acquire_token_with_username_password 中 返回 self._acquire_token(token_func) 文件“C:\Python36\lib\site-packages\adal\authentication_context.py”，第 109 行，在 _acquire_token 中 返回 token_func(自身) 文件“C:\Python36\lib\site-packages\adal\authentication_context.py”，第 143 行，在 token_func 中 返回 token_request.get_token_with_username_password(用户名，密码) 文件“C:\Python36\lib\site-packages\adal\token_request.py”，第 280 行，在 get_token_with_username_password 中 self._user_realm.discover() 文件“C:\Python36\lib\site-packages\adal\user_realm.py”，第 152 行，位于 discovery 中 引发 AdalError(return_error_string, error_response)adal.adal_error.AdalError:用户领域发现请求返回 http 错误:404 和服务器响应:

404 - 未找到文件或目录。

服务器错误

404 - 未找到文件或目录。

您正在查找的资源可能已被删除、更名或暂时不可用。

[完成] 在 1.216 秒内退出，代码=1

Answer 1

有两种不同的身份验证方式。第一个是交互式的，适合最终用户。它甚至可以与多因素身份验证一起使用。以下是具体操作方法。您需要进行交互才能登录。

from azure.datalake.store import core, lib, multithread
token = lib.auth()

第二种方法是使用 Azure Active Directory 中的服务主体标识。此处提供了设置 Azure AD 应用程序、检索客户端 ID 和 secret 以及使用 SPI 配置访问权限的分步教程:https://learn.microsoft.com/en-us/azure/data-lake-store/data-lake-store-service-to-service-authenticate-using-active-directory#create-an-active-directory-application

from azure.common.credentials import ServicePrincipalCredentials
token = lib.auth(tenant_id = '<your azure tenant id>', client_secret = '<your client secret>', client_id = '<your client id>')

这里是博客文章，展示了如何通过 pandas 和 Jupyter 访问它。它还详细说明了如何获取身份验证 token 。 https://medium.com/azure-data-lake/using-jupyter-notebooks-and-pandas-with-azure-data-lake-store-48737fbad305