[英]How to check if query is pushed down from databricks to snowflake?
我正在尝试使用从数据块到雪花的查询下推。 我正在从雪花(数据源)读取数据到数据块,创建数据框并应用连接、过滤和聚合函数。 代码运行良好,但无法找到查询是否被推送到雪花。 如何检查查询是否已在雪花或 spark(databricks) 集群上运行?
至少这两种方式:
使用 Snowflake UI 中的History查看查询是否在 Snowflake 端运行。
通过将上下文设置为 DEBUG,在 Spark 连接器上启用调试模式:
sc.setLogLevel('DEBUG')
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.