未知的内容类型：json如何在MarkLogic 8中将JSON文档作为XML加载

Question

我正在尝试使用MLCP和摄取时使用的基本转换脚本将一堆JSON文件加载到MarkLogic 8中。

我可以按原样加载文件，可以在ML中获取JSON对象。

我想要的是在摄取时从JSON转换为XML，因此我编写了一个基本的转换，如下所示：

xquery version "1.0-ml";

module namespace ingest = "http://dikw.com/ingest/linkedin";

import module namespace json="http://marklogic.com/xdmp/json" at "/MarkLogic/json/json.xqy";
import module namespace sem="http://marklogic.com/semantics" at "/MarkLogic/semantics.xqy";

declare namespace basic="http://marklogic.com/xdmp/json/basic";

declare default function namespace "http://www.w3.org/2005/xpath-functions";

declare option xdmp:mapping "false";

declare function ingest:transform(
  $content as map:map,
  $context as map:map
) as map:map*
{
  let $org-doc := map:get($content, "value")
  let $jsonxml := json:transform-from-json($org-doc)
  let $name := $jsonxml//basic:full__name
  let $_ := xdmp:log(concat('Inserting linkedin profile ', $name, '.xml..'))
  let $new-doc := 
    document {
      <json>{
        $jsonxml
      }</json>
  }
  return (
    map:put($content, "value", $new-doc),
    $content
  )
};

现在，如果我使用MLCP加载文档而不进行转换，则可以正常工作，但是如上所述，我在ML8中获得了JSON。 （我使用Roxy调用正确的环境以加载到MLCP。）

./ml $ENV mlcp import -input_file_path content/linkedin -input_file_type documents  

以上工作正常。

但是像这样使用转换：

./ml $ENV mlcp import -input_file_path content/linkedin -input_file_type documents  -transform_module /ingest/linkedin.xqy -output_collections incoming,incoming/linkedin

我收到一个错误：“ ERROR contentpump.MultithreadedMapper：未知内容类型：json”

15/06/22 17:37:12 INFO contentpump.ContentPump: Hadoop library version: 2.0.0-mr1-cdh4.3.0
15/06/22 17:37:12 INFO contentpump.LocalJobRunner: Content type is set to MIXED.  The format of the  inserted documents will be determined by the MIME  type specification configured on MarkLogic Server.
15/06/22 17:37:12 WARN util.KerberosName: Kerberos krb5 configuration not found, setting default realm to empty
15/06/22 17:37:12 INFO input.FileInputFormat: Total input paths to process : 9
15/06/22 17:37:13 ERROR contentpump.MultithreadedMapper: Unknown content type: json
java.lang.IllegalArgumentException: Unknown content type: json
    at com.marklogic.mapreduce.ContentType.forName(ContentType.java:107)
    at com.marklogic.contentpump.utilities.TransformHelper.getTransformInsertQry(TransformHelper.java:124)
    at com.marklogic.contentpump.TransformWriter.write(TransformWriter.java:97)
    at com.marklogic.contentpump.TransformWriter.write(TransformWriter.java:46)
    at org.apache.hadoop.mapreduce.task.TaskInputOutputContextImpl.write(TaskInputOutputContextImpl.java:85)
    at org.apache.hadoop.mapreduce.lib.map.WrappedMapper$Context.write(WrappedMapper.java:106)
    at com.marklogic.contentpump.DocumentMapper.map(DocumentMapper.java:46)
    at com.marklogic.contentpump.DocumentMapper.map(DocumentMapper.java:32)
    at com.marklogic.contentpump.BaseMapper.runThreadSafe(BaseMapper.java:51)
    at com.marklogic.contentpump.MultithreadedMapper$MapRunner.run(MultithreadedMapper.java:376)
    at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:471)
    at java.util.concurrent.FutureTask.run(FutureTask.java:262)
    at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1145)
    at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:615)
    at java.lang.Thread.run(Thread.java:745)

在查询控制台中，一切按预期方式工作，将JSON变量按预期方式转换为XML文档...

我在这里想念什么？

TX

雨果

Answer 1

根据https://docs.marklogic.com/guide/ingestion/content-pump#id_82518 ，似乎缺少一些障碍。

您没有指定要存储的文档类型（-document_type xml）-您仅存储xml，而是使用“文档”作为输入类型（假设这些是.json扩展名？）-因此代码不知道该转换从json转换为xmls。

您没有更改URI-因此默认的mime映射将不知道您的输入和输出类型期望有所不同：

https://docs.marklogic.com/guide/ingestion/content-pump#id_17589

无论您使用什么后缀，如果没有提供其他信息，它都无法用于JSON输入和XML存储（请参见上面的链接）