如何将CSV文件导入MySQL更快速的codeigniter

Question

它可以正常工作，但是当我在CSV文件中导入近2500行以上的大文件时，它会缓慢加载/导入，并说出错误，但是有些文件正在插入，有些则没有。 我的问题是有什么方法可以使其更快地导入？ 我在文件中看到但我不知道如何使用它。

码：

    function convert_csv($id){
                if (empty($id)) redirect("contracts");
                $config['upload_path']   = './files/contracts-csv/'; 
                $config['allowed_types'] = 'csv';   
                $config['max_size']      = '4096';      
                $config['overwrite']     =  TRUE;

                $this->load->library('upload', $config);
                $this->upload->display_errors('', '');

                if (!$this->upload->do_upload("csv_file")) {
                      echo $this->upload->display_errors(); die();
                      $this->data['error'] = array('error' => $this->upload->display_errors());
                } else {
                    $upload_result = $this->upload->data();
                    $upload_result = $this->upload->data(); 
                    $this->load->library('csvreader');
                    $result =   $this->csvreader->parse_file("./files/contracts-csv/".$upload_result['file_name']);
                    $date_today = date('Y-m-d H:i:s');
                        foreach ($result as $v) {
                            $this->contract_items->add_serial($v,$id,$date_today);
                        }
                }
}

Answer 1

在CodeIgniter中使用MySQL事务 ，它将大大加快一切速度（例如，制作500个项目的块并将它们插入一个事务中）。

但是，如果它以错误结尾，则问题可能出在其他地方。 2500不是很多。

Answer 2

csv中行的每次迭代都会执行以下操作：

• 建立插入SQL
• 发送到数据库布局
• 得到回应

您可以尝试构建如下的批量sql：

insert into table_name (f1, f2, f3) values ("val1", "val2", "val3"), ("val2_1", "val2_2", "val2_3"),...

大约100-200 '("val1", "val2", "val3")'块应该更快，但是我不知道代码初始化缓存和其他东西如何...

Answer 3

您可以将其包装在insert_batch查询中。

$your_data = array();
foreach ($result as $v) {
    $your_data[] = array(
        'v' => $v,
        'id' => $id,
        'date_today' => $today,
    );
);

$this->db->insert_batch('your_table_name', $your_data);

这将整个事情作为单个查询运行。 这应该比多个查询更快。 确切的代码由您决定，因为我不知道$this->contract_items->add_serial这样。