sql - BigQuery UNNEST 无结果

Question

我对嵌套数据的概念相对较新，并试图了解正确的方法来扁平化 BigQuery ( https://support.google.com/analytics/answer/3437719?hl=en ) 中的一些 GA 数据。

现在给出一些上下文，对于每个访问者 session ，我试图捕获查看的产品 SKU 列表(详细 View )以及是否有交易，交易 id。根据我的估计，在做了一些研究之后，最简单的方法是这样的，使用 LEFT JOINS 来恢复所有内容:

SELECT fullVisitorId as uId, visitId as vId, h.transaction.transactionId as 
trId, STRING_AGG(p.productSKU, "|") as skus
FROM
`test-bigquery.12345678.ga_sessions_*` t
  LEFT JOIN UNNEST(hits) h
  LEFT JOIN UNNEST(h.product) p
WHERE 
_TABLE_SUFFIX = '20170709'
AND h.eCommerceAction.action_type = '2'
GROUP BY uId, vId, trId

但是，这似乎返回零结果，其中 trId 不为空......

然后，我尝试将上述内容分成两个查询并加入。这似乎可行，并返回看似合理的行数(~1000)，其中 trId 不为空。

WITH skus AS
(SELECT fullVisitorId as uId, visitId as vId, STRING_AGG(p.productSKU, "|") as skus
    FROM
    `test-bigquery.12345678.ga_sessions_*` t
      LEFT JOIN UNNEST(hits) h
      LEFT JOIN UNNEST(h.product) p
    WHERE 
    _TABLE_SUFFIX = '20170709'
    AND h.eCommerceAction.action_type = '2'
    GROUP BY uId, vId),
transactions AS
  (SELECT fullVisitorId as uId_trans, visitId as vId_trans,  h.transaction.transactionId as trId
    FROM
    `test-bigquery.12345678.ga_sessions_*` t
      LEFT JOIN UNNEST(hits) h
    WHERE 
      _TABLE_SUFFIX = '20170709'
      AND h.transaction.transactionId IS NOT NULL
      GROUP BY uId_trans, vId_trans, trId)
SELECT skus.uId, skus.vId, transactions.trId, skus.skus
FROM skus
LEFT JOIN transactions ON transactions.vId_trans = skus.vId AND transactions.uId_trans = skus.uId

如果有人能解释为什么两者不给出相同的答案并希望让我能够在 future 参与各种嵌套乐趣，那就太棒了....谢谢!

Answer 1

你犯的错误发生在这一行:
AND h.eCommerceAction.action_type = '2'
如果您检查 ga sessions schema 字段 action_type ，您会看到当客户刚刚看到产品时它的值为“2”，而当交易发生时它的值为“6”。因此，如果您仅过滤掉等于“2”的操作，您将无法获得交易，因为它们的值为“6”。

在您的第二个查询中，请注意您对 transactions 的查询不再过滤掉操作为“2”的位置，而是过滤掉 trasactionId 不为空的位置，因此您现在可以成功检索这些行。

还有一些方法可以极大地优化查询，例如:

SELECT 
  fullvisitorid,
  visitid,
  ARRAY(SELECT STRUCT(prods.productsku AS sku, MAX(IF(hits.ecommerceaction.action_type = '6', hits.transaction.transactionID, NULL)) AS transactionID) FROM UNNEST(hits) hits, UNNEST(hits.product) prods WHERE hits.ecommerceaction.action_type IN ('2', '6') GROUP BY prods.productsku) result
FROM `test-bigquery.12345678.ga_sessions_*`
WHERE TRUE
  AND _TABLE_SUFFIX = '20170709'
  AND EXISTS(SELECT 1 FROM UNNEST(hits) hits WHERE hits.ecommerceaction.action_type IN ('2', '6'))
LIMIT 1000

此查询产生与您的相同的结果，但它更简洁并且具有更高的性能(它避免了不必要的 JOIN 和 UNNEST 操作，并充分利用了数据中的 ARRAYs 和 STRUCTs 结构)。

我强烈建议您学习如何将这些技术与嵌套数据一起使用，因为您将能够在几秒钟内查询数百个 gigas。这些是我在数据集中得到的结果:



它在 15 秒内处理了超过 500Gbs。