php - 从 CSV 执行大型 MySQL 插入时出现错误 500 或内容编码错误-6ren

php - 从 CSV 执行大型 MySQL 插入时出现错误 500 或内容编码错误

转载作者：行者123 更新时间：2023-11-29 18:29:34

25

4

/开始注释该问题被标记为“重复”。它与引用的问题不同，因为在我的应用程序中，我无法使用 LOAD IN，因为输入文件永远不会被很好地格式化，因此我必须逐行读取它以测试有效记录。

另外:在我的工作代码中，我已从 mysql_ 更改为 mysqli，并且出现了相同的症状。

另外:我的主机提供商告诉我，我收到的浏览器错误(500 或内容编码错误)不会显示在服务器日志中。

我想重新打开此问题并了解如何解决该问题。/尾注

我在 Firefox 和 Chrome 中尝试从 CSV 文件将记录插入 MySQL 时遇到错误。 CSV 文件有 300,000 行。它要么是“无法显示您尝试查看的页面，因为它使用了无效或不受支持的压缩形式。”或者只是错误 500。

问题是缓冲区被填满了吗？我尝试使用ob_clean()和flush()，但这不起作用。有想法吗？

<html xmlns="http://www.w3.org/1999/xhtml">
<head>
  <meta http-equiv="Content-Type" content="text/html; charset=utf-8" />
  <title>Process uploaded CSV file for Seatac Noise</title>
  <link rel="stylesheet" type="text/css" href="style.css" />
</head>

<?php
error_reporting(E_ALL);
//echo "<pre>" . PHP_EOL;
$database = "jch";
$user     = "jch";
$password = "password";
$connector = 'jch.55.com';
$link = mysql_connect($connector,$user,$password);
mysql_select_db($database) or die( "Unable to select database");
$filter = $_POST["filter"];
$uploaddir = '/uploads';

$path = $uploaddir  . $filter . basename($_FILES['ufile']['name']);

if($ufile != none)
{ 
if (move_uploaded_file($_FILES['ufile']['tmp_name'], $path)) {
  echo "File is valid and was successfully uploaded.\n";

    $row = 0;
    if (($handle = fopen($path, "r")) !== FALSE) {
    while (($data = fgetcsv($handle, 1000, ",")) !== FALSE) {
    $num = count($data);
    $row++;

            if( strlen($data[4]) > 0 )          
            {

             $monitor_id = $data[1];                                                                                             
                 $time = date("Y-m-d H:i:s", strtotime($data[0]));  

             echo('<p>' . $time . ' rows processed: ' . $row . '</p>');

                 $noise_level = $data[2];                                                                                            
                 $flight_id = $data[4];                                                                                          
                 $aircraft_type = $data[3];                                                                                          

                 $query="INSERT INTO jch_noise_detail_copy (
                        monitor_id,                                                                                          
                        time,
                        noise_level,
                        flight_id,
                        aircraft_type) 
                        VALUES(" . 
                            "'" . $monitor_id . "','" .
                            $time . "'," .
                            $noise_level . ",'" .
                            $flight_id . "','" .
                            $aircraft_type . "')";

                        $result = mysql_query($query);
                        if( mysql_errno($link)!= 0 ){
                                echo $query . "\n";
                                echo mysql_errno($link) . ": " . mysql_error($link) . "\n"  ;
                        }
                }

        }  // end while
        mysql_close();


    }

}
else
    echo 'No Rows found matching this date or filter';  
}
mysql_close();
fclose($handle);
?>
</body>
</html>

最佳答案

在此代码中，您将插入 300,000 行，其中包含 300,000 次单独的插入。每次 mysql_query() 都会创建一个从 php 到 mysql 的单独调用。

您可以使用批量插入对其进行优化 - MySQL Reference

最后查询将如下所示:

INSERT INTO jch_noise_detail_copy (
    monitor_id,                                                                                          
    time,
    noise_level,
    flight_id,
    aircraft_type 
) VALUES ($monitor_id_0, time_0 ...), ($monitor_id_1, time_1, ...), ..., ($monitor_id_N, time_N, ...);

关于php - 从 CSV 执行大型 MySQL 插入时出现错误 500 或内容编码错误，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/45826006/

25

4

0

文章推荐： php - MySQL数据库不更新数据

文章推荐： php - 特殊字符如 č,š,ž 从 php 到 android TextView

文章推荐： android - NetworkModule 中的 SharedPreferences 实例

mysql - 只有 Mysql OR mysql+sqlite OR mysql+自己的解决方案
目前我正在构建相当大的网络系统，我需要强大的 SQL 数据库解决方案。我选择 Mysql 而不是 Postgres，因为一些任务需要只读(MyISAM 引擎)而其他任务需要大量写入(InnoDB)。
mysql - Linux/mysql 将 mysql 表输出写入文件并保持 mysql 格式。
我在 mysql 中使用如下命令。当它显示表格数据时，它被格式化为一个非常干净的表格，间距均匀且 |作为列分隔符。 SELECT * FROM TABLE_NAME; 当我从 CLI 运行命令时，如下
mysql - 无法从终端加载 mysql 但可以使用系统首选项启动 mysql
我知道这个问题之前已经被问过好几次了，我已经解决了很多问题，但到目前为止没有任何效果。 MySQL 试图将自身安装到的目录 (usr/local/mysql) 肯定有问题。关于我的错误的奇怪之处在于我
mysql - 在 mysql 数据查询上获取不需要的输出 mysql
以下是我的 SQL 数据结构，我正在尝试如下两个查询: Select Wrk_ID, Wrk_LastName, Skill_Desc from Worker, Skill where
mysql - 将本地 mysql 服务器复制到基于云的 mysql
我们有一个本地 mysql 服务器(不在公共(public)域上)，并希望将该服务器复制到我们拥有的 google 云 sql 实例。我的问题是:1.这可能吗？2.我们的本地服务器只能在本地网络上访问
mysql - MySQL 触发器上 MySQL 变量的算术运算
我有一个表(test_table)，其中一些字段值(例如字段 A、B 和 C)是从外部应用程序插入的，还有一个字段(字段 D)，我想从现有表(store_table)插入其值，但在插入前者(A、B 和
mysql - 无法在创建 MySQL 服务器的同一计划中使用 mysql
我想创建一个 AWS RDS 实例，然后使用 terraform 管理数据库用户。因此，首先，我创建了一个 RDS 实例，然后使用创建的 RDS 实例初始化 mysql 提供程序，以进一步将其用于用户
mysql - MySql 用户数量对 MySql 性能影响大吗？
当用户在我的网站上注册时，他们会在我的一个数据库中创建自己的表格。该表存储用户发布的所有帖子。我还想做的是也为他们生成自己的 MySql 用户——该用户仅有权从他们的表中读取、写入和删除。创建它应该
mysql - mysql 表中的下和子类别(coldfusion，mysql)
我有一个关于 ColdFusion 和 Mysql 的问题。我有两个表:PRODUCT 和 PRODUCT_CAT。我想列出包含一些标记为:IS_EXTRANET=1 的特殊产品的类别。所以我写了这个
mysql - 如何使用 MYSQL 运算符选择列所有值都必须可用 - MYSQL
我想获取 recipes_id 列的值，以获取包含 ingredient_id 的 2,17 和 26 条目的值。假设 ingredient_id 2 丢失则不获取记录。我已经尝试过 IN 运算符
mysql - MySQL 服务器和 MySQL 客户端有什么区别
在 Ubuntu 中，我通常安装两者，但 MySQL 的客户端和服务器之间有什么区别。作为奖励，当一个新语句提到它需要 MySQL 5.x 时，它是指客户端、服务器还是两者兼而有之。例如这个链接ht
mysql - mysql - 如何在没有触发器和手动插入的情况下在插入时生成/自动增加 guid mysql？
我重新访问了我的数据库并注意到我有一些 INT 类型的主键。这还不够独特，所以我想我会有一个指导。我来自微软 sql 背景，在 ssms 中你可以选择类型为“uniqeidentifier”并自
mysql - Oracle MySQL 与 MySQL 相同吗？
我的系统上有 MySQL，我正在尝试确定它是 Oracle MySQL 还是 MySQL。 Oracle MySQL 有区别吗: http://www.oracle.com/us/products/m
mysql - 本地 mysql 服务器和生产 mysql 服务器之间的显着性能差异
我是在生产 MySQL 中运行的应用程序的新维护者。之前的维护者已经离开，留下的文档很少，而且联系不上了。我面临的问题是执行以下请求大约需要 10 秒: SELECT COUNT(*) FROM `
mysql - 如何自动将数据从一个 MySQL 数据库传输到另一个 MySQL 数据库？
我有两个位于不同机器上的 MySQL 数据库。我想自动将数据从一台服务器传输到另一台服务器。比方说，我希望每天早上 4:00 进行数据传输。可以吗？是否有任何 MySQL 内置功能可以让我们做到这一
mysql - 从 mysql 目录外的 mysql 表查询？
有什么方法可以使用 jdbc 查询位于 mysql 根目录之外的目录中的 mysql 表，还是必须将它们移动到 mysql 根目录内的数据库文件夹中？我在 Google 上搜索时没有找到任何东西。最
mysql - 使用另一个 mysql 表的值更新 Mysql 表
我在 mysql 数据库中有两个表。成员和 ClassNumbers。两个表都有一个付费年份字段，都有一个代码字段。我想用代码数字表中的值更新成员表中的付费年份，其中成员中的代码与 ClassNumb
mysql - 是否可以将本地 MySQL 数据库复制到远程 MySQL 数据库？
情况:我有 2 台服务器，其中一台当前托管一个实时 WordPress 站点，我希望能够将该站点转移到另一台服务器，以防第一台服务器出现故障。传输源文件很容易；传输数据库是我需要弄清楚如何做的。两台服
mysql - 使用 mysql 查询复制 mysql 数据库
Phpmyadmin 有一个功能是“复制数据库到”..有没有mysql查询来写这个函数？类似于将 db A 复制到新的 db B。最佳答案首先创建复制数据库: CREATE DATABASE du
mysql - 当 mySQL 已安装并由另一个应用程序配置时，为新应用程序配置 mySQL
我有一个使用 mySQL 作为后端的库存软件。我已经在我的计算机上对其进行了测试，并且运行良好。当我在计算机上安装我的软件时，我必须执行以下步骤: 安装 mySQL 服务器将用户名指定为“root

首页

博学

6Ren·AI

商城

php - 从 CSV 执行大型 MySQL 插入时出现错误 500 或内容编码错误