Brain-Dead MySQL选择优化（使用临时，使用Filesort）

Question

我目前正在开展涉及专利的项目拉动USPTO网站，作为该项目的一部分，我正在使用伊利诺伊大学的人们创建的数据库
（论文： http ： //abel.lis.illinois.edu/UPDC/USPTOPatentsDatabaseConstruction.pdf ）
（我正在使用的表格稍微过时，只缺少非索引/键值： http ： //i.imgur.com/44LHS3L.png ）

现在标题说我正在尝试优化查询：

SELECT 
        PN,
        AN,
        grants.GrantID,
        grants.FileDate,
        grants.IssueDate,
        grants.Kind,
        grants.ApplicationID,
        assignee_g.OrgName,
        GROUP_CONCAT(DISTINCT CONCAT_WS(', ', assignee_g.City, assignee_g.State, assignee_g.Country) separator ';') as Assignee,
        GROUP_CONCAT(DISTINCT CONCAT_WS(', ', inventor_g.FirstName, inventor_g.LastName) separator ';') as Inventor,
        GROUP_CONCAT(DISTINCT CONCAT_WS(', ', inventor_g.City, inventor_g.State, inventor_g.Country) separator ';') as Inventor_address,
        GROUP_CONCAT(DISTINCT CONCAT_WS(', ', usclass_g.Class, usclass_g.Subclass) separator ';') as USClass,
        intclass_g.Section,
        intclass_g.Class,
        intclass_g.Subclass,
        intclass_g.MainGroup,
        intclass_g.SubGroup
FROM
    (
    SELECT grants.GrantID as CitingID, CitedID as PN, grants2.ApplicationID AS AN
    FROM
        gracit_g, grants, grants as grants2
    Where
        grants.GrantID IN (*A 
                                         couple 
                                           Thousand
                                              keys*)
            and grants.GrantID = gracit_g.GrantID and grants2.GrantID = CitedID 
    LIMIT 500000) tbl1,
             grants, assignee_g, inventor_g, usclass_g, intclass_g
WHERE
    grants.GrantID = tbl1.CitingID
        and grants.GrantID = assignee_g.GrantID
        and grants.GrantID = inventor_g.GrantID
        and grants.GrantID = usclass_g.GrantID
        and grants.GrantID = intclass_g.GrantID
GROUP BY PN, GrantID
LIMIT 50000000

几乎每个专利都被引用它后面的一个引用我想记录专利的信息引用它。 我似乎遇到的问题是我的“GROUP BY PN，GrantID”导致“使用临时，使用Filesort”，这严重减慢了我的努力。

这就是我的解释给了我的内容（抱歉，如果格式不完整，我找不到如何制作表格）

1
主
Derived2的
所有
8716
可能的键：null
key：null
key_len：null
ref：null
使用临时; 使用filesort

---

1
主
补助
eq_ref
主
主
62
tbl1.CitingID
1

---

1
主
assignee_g
REF
PRIMARY，FK_PublicationID_PUBLICATION_ASSIGNEE_P
主
62
tbl1.CitingID
1

---

1
主
intclass_g
REF
PRIMARY，fk_publicationid_PUBLICATION_INTERNATIONALCLASS_P
主
62
tbl1.CitingID
1

---

1
主
inventor_g
REF
PRIMARY，fk_PublicationID_Inventor_p
主
62
tbl1.CitingID
1

---

1
主
usclass_g
REF
PRIMARY，fk_publicationid_PUBLICATION_USCLASS_P
主
62
tbl1.CitingID
2

---

2
衍生
补助
范围
主
主
62
ref：null
2179
用在哪里; 使用索引

---

2
衍生
gracit_g
REF
PRIMARY，FK_PublicationID_PUBLICATION_PCITATION_P，CitedID
主
62
uspto_patents.grants.GrantID
4
在哪里使用

---

2
衍生
grants2
eq_ref
主
主
62
uspto_patents.gracit_g.CitedID
1

---

gracit_g的SHOW CREATE是：

CREATE TABLE `gracit_g` (
`GrantID` varchar(20) NOT NULL,
`Position` int(11) NOT NULL,
`CitedID` varchar(20) DEFAULT NULL,
`Kind` varchar(10) DEFAULT NULL COMMENT 'identify whether citedDoc is a document or foreign patent',
`Name` varchar(100) DEFAULT NULL,
`Date` date DEFAULT NULL,
`Country` varchar(100) DEFAULT NULL,
`Category` varchar(100) DEFAULT NULL,
PRIMARY KEY (`GrantID`,`Position`),
KEY `FK_PublicationID_PUBLICATION_PCITATION_P` (`GrantID`),
KEY `CitedID` (`CitedID`),
CONSTRAINT `FK_GrantID_GRANT_PCITATION_G0` FOREIGN KEY (`GrantID`) REFERENCES `grants`   (`GrantID`) ON DELETE CASCADE ON UPDATE CASCADE
) ENGINE=InnoDB DEFAULT CHARSET=utf8

资助的SHOW CREATE是：

 CREATE TABLE `grants` (
 `GrantID` varchar(20) NOT NULL,
 `Title` varchar(500) DEFAULT NULL,
 `IssueDate` date DEFAULT NULL,
 `Kind` varchar(2) DEFAULT NULL,
 `USSeriesCode` varchar(2) DEFAULT NULL,
 `Abstract` text,
 `ClaimsNum` int(11) DEFAULT NULL,
 `DrawingsNum` int(11) DEFAULT NULL,
 `FiguresNum` int(11) DEFAULT NULL,
 `ApplicationID` varchar(20) NOT NULL,
 `Claims` text,
 `FileDate` date DEFAULT NULL,
 `AppType` varchar(45) DEFAULT NULL,
 `AppNoOrig` varchar(10) DEFAULT NULL,
 `SourceName` varchar(100) DEFAULT NULL,
 PRIMARY KEY (`GrantID`)
 ) ENGINE=InnoDB DEFAULT CHARSET=utf8

非常感谢您的时间，不幸的是，我必须退休到我的床上，因为现在为时已经太晚了（或者在这一点上很早），我现在继续工作）

---

---

一个建议是将其更改为1个查询而不是子查询：

  SELECT 
        gracit_g.citedID,
        info_grant.GrantID,
        info_grant.FileDate,
        info_grant.IssueDate,
        info_grant.Kind,
        info_grant.ApplicationID,
        assignee_g.OrgName,
        GROUP_CONCAT(DISTINCT CONCAT_WS(', ', assignee_g.City, assignee_g.State, assignee_g.Country) separator ';') as Assignee,
        GROUP_CONCAT(DISTINCT CONCAT_WS(', ', inventor_g.FirstName, inventor_g.LastName) separator ';') as Inventor,
        GROUP_CONCAT(DISTINCT CONCAT_WS(', ', inventor_g.City, inventor_g.State, inventor_g.Country) separator ';') as Inventor_address,
        GROUP_CONCAT(DISTINCT CONCAT_WS(', ', usclass_g.Class, usclass_g.Subclass) separator ';') as USClass,
        intclass_g.Section,
        intclass_g.Class,
        intclass_g.Subclass,
        intclass_g.MainGroup,
        intclass_g.SubGroup
FROM
    gracit_g, grants as info_grant, assignee_g, inventor_g, usclass_g, intclass_g
WHERE
        gracit_g.GrantID IN (*KEYS*)
        and info_grant.GrantID = gracit_g.GrantID
        and info_grant.GrantID = assignee_g.GrantID
        and info_grant.GrantID = inventor_g.GrantID
        and info_grant.GrantID = usclass_g.GrantID
        and info_grant.GrantID = intclass_g.GrantID
GROUP BY gracit_g.citedID, info_grant.GrantID
LIMIT 50000000

这已经从21s持续时间/ 10s提取减少到13s持续时间/ 8s提取，我仍然希望改进，因为我有许多密钥通过。

Answer 1

您的查询格式如下：

SELECT some_fields
FROM (
    SELECT other_fields
    FROM table1, table2
    WHERE join_condition_table1_table2 AND some_other_condition
) AS subquery, table3
WHERE join_condition_subquery_table3
GROUP BY another_field

您需要按如下方式重写它：

SELECT some_fields
FROM table1, table2, table3
WHERE
    join_condition_table1_table2
    AND join_condition_subquery_table3 -- actually rewrite this ans a join of either table1 and table3, or table2 and table3
    AND some_other_condition
GROUP BY another_field

正如@Ollie Jones所指出的那样，选择既不属于GROUP BY条件也不属于agregating函数的字段（在SELECT子句中）是危险的。 如果这些字段不唯一地依赖于GROUP BY条件中的字段，则这些字段的值是未定义的。

[编辑]

还有一些建议：

• 按此顺序在gracit_g(citedID, GrantID)上添加索引（ ALTER TABLE gracit_g ADD INDEX(citedID, GrantID); ）并将GROUP BY子句更改为GROUP BY gracit_g.citedID, gracit_g.GrantID 。 优化器可能会使用此索引来计算GROUP BY子句。

• 如果您的VARCHAR主键实际上是数字，请将其类型更改为合适的整数类型。 如果没有，请添加数字代理键并将其用作主键。 整数比较更快，并且您在所有联接中进行了大量比较。

• 预先计算连接值，如CONCAT_WS(', ', assignee_g.City, assignee_g.State, assignee_g.Country) separator ';')在一个额外的列或一个额外的表中（后者将需要每个表额外的连接）

• 增加tmp_table_size和max_heap_table_size服务器选项。 如果临时表大于这两个值中的任何一个（以字节为单位），则临时表不能保存在内存中并将写入磁盘。 您可能会受益于异常大的值，因为您正在处理异常大的结果集。

我不知道还有什么要做的。 您可能需要考虑返回较小的结果集（较少的列，或更多的过滤器，或较小的LIMIT ）。