繁体   English   中英

使用 phpcassa 从文件批量加载到 Cassandra 的问题

[英]Problem in bulk load from a file into Cassandra using phpcassa

我正在尝试使用 phpcassa 将文本文件中的 1000000 条记录加载到Cassandra中。 但是在加载过程的中途,我收到了以下错误。

PHP 致命错误:/usr/share/php/phpcassa/columnfamily.php 在第 759 行中超过了 30 秒的最大执行时间**

如何增加执行时间? 我是否必须更改columnfamily.php中的任何参数? 请在下面找到我的代码。

 <?
     require_once('phpcassa/connection.php');
     require_once('phpcassa/columnfamily.php');
     try {
     $servers = array("127.0.0.1:9160");
     $pool = new ConnectionPool("Keyspace1", $servers);
     $column_family = new ColumnFamily($pool, 'Product');
     $cnt=0;
     $files = fopen("dump.txt", "r");

     $mtime = microtime();
     $mtime = explode(" ",$mtime);
     $mtime = $mtime[1] + $mtime[0];
     $starttime = $mtime;

     while (!feof($files)) {
         $line = fgets($files);
         $keyname="P".$cnt;
         $split_line = explode("," , $line);
         for ($i=0;$i<count($split_line);$i++) {
             //echo $split_line[$i];
             $column_family->insert(
                 $keyname, array(
                     'code' => $split_line[0] ,
                     'pname' => $split_line[1] ,
                     'price' => $split_line[2]
                 )
             );
         }
         $cnt += 1;
     }
     $mtime = microtime();
     $mtime = explode(" ",$mtime);
     $mtime = $mtime[1] + $mtime[0];
     $endtime = $mtime;

     fclose($files);

     $totaltime = ($endtime - $starttime);
     echo "$cnt keys loaded in ".$totaltime." seconds";

     }
     catch (Exception $e)
     {
         echo 'Exception: ' . $e->getMessage();
     }
 ?>

尝试将其添加到脚本顶部: set_time_limit(0);

请增加php.ini文件中的max_execution_time限制。 这将避免PHP Fatal error: Maximum execution time of 30 seconds 默认情况下,web 服务器上的最大执行时间保持在 30 秒。

您可以更改该数量,以便为服务器上的某些执行提供更多时间。

max_execution_time = 1200;

set_time_limit

更一般地说,在 web 服务器环境(就是这样,对吗?)中进行批量加载并不是最好的主意。 也不是用一个线程来做的。 但我猜,对于一百万行,这将足够工作。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM