python - 从 Blob 中提取数据并将其加载到 SQL Server 中的表中的最简单方法是什么？-6ren

python - 从 Blob 中提取数据并将其加载到 SQL Server 中的表中的最简单方法是什么？

转载作者：行者123 更新时间：2023-12-01 07:26:50

25

4

我有数百个压缩文件位于不同的文件夹中，我可以使用 MS Storage Explorer 访问这些文件。我刚刚在 Azure 中设置了一个 SQL Server 数据库。现在我试图弄清楚如何从每个文件夹中的每个文件中提取数据，解压缩它，解析它，并将其加载到表中。数据每天都会传入，因此文件夹被命名为“1”、“2”、“3”等。“31”表示该月中的第几天。另外，我还有每月文件夹“1”到“12”，代表一年中的 12 个月。最后，我有名为“2017”、“2018”和“2019”的文件夹。我可以要求我团队中的一些人编写 Python 代码来完成这项工作，但似乎应该有一种更简单的方法。如果有更简单的方法来完成这种事情，我想避免编写数千行Python代码。 TIA。

最佳答案

我会创建 Azure 逻辑应用程序

HTTP 触发器(这将手动运行)
迭代存储帐户上存在的所有 Blob
对于每个元素，请使用 blob 连接器，该连接器具有名为“提取存档”的操作，可将压缩文件提取到 blob 中
使用 Azure SQL BCP 提取此内容，如果格式与 CSV 不同，则使用 Azure 数据工厂

稍后，如果您希望新的 blob 执行类似的流程，除了使用新的或修改的 blob 触发器。

有关带有逻辑应用的 BLOB 示例的 Azure SQL BCP，请查看本文 https://marczak.io/posts/azure-loading-csv-to-sql/

如果您想了解 Azure 逻辑应用程序的一般介绍，请观看此视频 https://youtu.be/ZvsOzji_8ow这里还有新的 blob 触发器演示。

如果您需要数据工厂，请随时观看此视频。它也有 blob 到 sql 演示。您也可以从逻辑应用程序触发数据工厂。 https://youtu.be/EpDkxTHAhOs

关于python - 从 Blob 中提取数据并将其加载到 SQL Server 中的表中的最简单方法是什么？，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/57402746/

25

4

0

文章推荐： java - 在java中实现哈希表时出现NullPointerException错误

文章推荐： jQuery 克隆/追加创建多个重复项

文章推荐： java - driver.findElement() 和 driver.findElements() 有什么区别？

文章推荐： jquery - Telerik MVC 扩展日期选择器未将日期放入文本框中

sql - SQL、PL-SQL 和 T-SQL 之间有什么区别？
SQL、PL-SQL 和 T-SQL 之间有什么区别？谁能解释一下这三者之间的区别，并提供每一个的相关使用场景？最佳答案 SQL 是一种对集合进行操作的查询语言。它或多或少是标准化的，几乎所有关
sql - T-SQL、SQL Server 和 SQL 有什么区别
这个问题已经有答案了: What is the difference between SQL, PL-SQL and T-SQL? (6 个回答) 已关闭 9 年前。我对 SQL 的了解足以完成我的
sql - Linq To Sql - SQL 默认约束问题
我在数据库中有一个 USER 表。该表有一个 RegistrationDate 列，该列有一个默认约束为 GETDATE()。使用 LINQ 时，我没有为 RegistrationDate 列提供任
sql - 在字符串中查找第二组数字(SQL/PL-SQL)
我有一个可能属于以下类型的字符串 string expected result 15-th-rp 15 15/12-rp 12 15-12-th
sql - 服务器端 sql 与客户端 sql
很难说出这里问的是什么。这个问题模棱两可、含糊不清、不完整、过于宽泛或言辞激烈，无法以目前的形式合理回答。如需帮助澄清此问题以便可以重新打开，visit the help center . 9年前关闭
sql - sql 如何计算 sql 存储过程中的附加表？
我有一个存储过程(称为 sprocGetArticles)，它从文章表中返回文章列表。这个存储过程没有任何参数。用户可以对每篇文章发表评论，我将这些评论存储在由文章 ID 链接的评论表中。有什么方
sql - 嵌入式 SQL 与动态 SQL
我目前正在做一个 *cough*Oracle*cough* 数据库主题。讲师介绍embedded SQL作为让其他语言(例如 C、C++)与(Oracle)数据库交互的方式。我自己做了一些数据库工作
sql - SQL Server SQL 语句可以有多少个字符？
SQL Server 中 SQL 语句的最大长度是多少？这个长度是否取决于 SQL Server 的版本？例如，在 DECLARE @SQLStatement NVARCHAR(MAX) = N'S
sql-server - SQL 行到列 sql
这个问题已经有答案了: Simple way to transpose columns and rows in SQL? (9 个回答) 已关闭 8 年前。 CallType
sql - SQL Server SQL 语句中的动态日期
预先感谢您对此提供的任何帮助。假设我有一个查询，可以比较跨年的数据，从某个任意年份开始，永无止境(进入 future )，每年同一时期直到最后一个完整的月份(其特点是一月数据永远不会显示至 2 月
sql - Linq To Sql - SQL 默认约束问题
我在数据库中有一个 USER 表。该表有一个 RegistrationDate 列，该列的默认约束为 GETDATE()。使用 LINQ 时，我没有为 RegistrationDate 列提供任何数
sql - (SQL Server) SQL 不允许在检查过程是否存在后创建过程
下面是我试图用来检查存储过程是否不存在然后创建过程的 sql。它会抛出一个错误:Incorrect syntax near the keyword 'PROCEDURE' IF NOT EXISTS
sql - 动态 SQL 是否比 SQL Server 中的静态 SQL 性能更高？
我有一个同事声称动态 SQL 在许多情况下比静态 SQL 执行得更快，所以我经常看到 DSQL 到处都是。除了明显的缺点，比如在运行之前无法检测到错误并且更难阅读，这是否准确？当我问他为什么一直使用
sql - exec sp_executesql @sql 和 exec (@sql) SQL Server
来自 lobodava 的动态 SQL 查询是: declare @sql nvarchar(4000) = N';with cteColumnts (ORDINAL_POSITION, CO
sql - 动态 SQL - EXEC(@SQL) 与 EXEC SP_EXECUTESQL(@SQL)
使用 SQL Server 中的存储过程执行动态 SQL 命令的现实优点和缺点是什么 EXEC (@SQL) 对比 EXEC SP_EXECUTESQL @SQL ？最佳答案 sp_executes
c# - SQL > Linq to Sql，SQL 查询有效，Linq to SQL 返回空数据集
我有这个有效的 SQL 查询: select sum(dbos.Points) as Points, dboseasons.Year from dbo.StatLines dbos i
sql-server - "> sql.txt && sql -h-1 -i sql.txt && del sql.txt"命令是什么意思？
我正在调试一些构建成功运行的 SQL 命令的代码。然而，在查询结束时，查询结果似乎被写入了一个文本文件。完整的查询如下 echo SELECT DATE,DATETABLE,DATE,APPDAT
sql - 如何从 MS SQL 数据库(Microsoft SQL Server)中的其他 .sql 文件运行 .sql 文件？
我有一些创建表的 .sql 文件(MS SQL 数据库): 表_1.sql: IF OBJECT_ID (N'my_schema.table1', N'U') IS NOT NULL DROP TAB
sql - 如何在查询中使用 SQL 变量(SQL Server)？
我写了下面的 SQL 存储过程，它一直给我错误@pid = SELECT MAX(... 整个过程是: Alter PROCEDURE insert_partyco @pname varchar(20
sql - 如何将两个列表转换为邻接矩阵 SQL Server T-SQL？
我在 SQL Server 2005 中有包含两列 Fruit 和 Color 的表，如下所示 Fruit Colour Apple Red Orange

首页

博学

6Ren·AI

商城

python - 从 Blob 中提取数据并将其加载到 SQL Server 中的表中的最简单方法是什么？