2011年7月16日 星期六

轉錄-解決並分析mysqld-nt.exe大量佔用CPU問題

轉錄 from  http://www.k666.com/
早上幫朋友一台服務器解決了Mysql cpu 佔用100% 的問題,稍整理如下,希望對各位有所幫助。
朋友主機(Windows 2003 + IIS + PHP + MYSQL )近來MySQL 服務進程(mysqld-nt.exe) CPU 佔用率總為100% 高居不下。此主機有10個左右的database, 分別給十個網站調用。據朋友測試,導致mysqld-nt.exe cpu 佔用奇高的是網站A,一旦在IIS 中將此網站停止服務,CPU 佔用就降下來了。一啟用,則馬上上升。
MYSQL CPU 佔用 100% 的解決過程
今天早上仔細檢查了一下。目前此網站的七日平均日IP 為2000,PageView 為3萬左右。網站A 用的database 目前有39個表,記錄數60.1萬條,佔空間45MB。按這個數據,MySQL 不可能佔用這麼高的資源。
於是在服務器上運行命令,將mysql 當前的環境變量輸出到文件output.txt:
d:\web\mysql>mysqld.exe--help>output.txt
發現tmp_table_size 的值是默認的32M,於是修改My.ini, 將tmp_table_size 賦值到200M:
d:\web\mysql>notepad c:\windows\my.ini[mysqld]tmp_table_size=200M
然後重啟 MySQL 服務。 CPU 佔用有輕微下降,以前的CPU 佔用波形圖是100% 一根直線,現在則在97%~100%之間起伏。這表明調整tmp_table_size 參數對MYSQL 性能提升有改善作用。但問題還沒有完全解決。
於是進入mysql 的shell 命令行,調用show processlist, 查看當前mysql 使用頻繁的sql 語句:
mysql>show processlist;

反複調用此命令(每秒刷兩次),發現網站A 的兩個SQL 語句經常在process list 中出現,其語法如下:
SELECT t1.pid, t2.userid, t3.count, t1.date FROM _mydata AS t1LEFT JOIN _myuser AS t3 ON t1.userid=t3.useridLEFT JOIN _mydata_body AS t2 ON t1.pid=t3.pid ORDER BY t1.pid LIMIT0 ,15

調用 show columns 檢查這三個表的結構 :
mysql>show columns from _myuser;mysql>show columns from _mydata;mysql>show columns from _mydata_body;

終於發現了問題所在:_mydata 表,只根據pid 建立了一個primary key,但並沒有為userid 建立索引。而在這個SQL 語句的第一個LEFT JOIN ON 子句中:
LEFT JOIN _myuser AS t3 ON t1.userid=t3.userid

_mydata 的userid 被參與了條件比較運算。於是我為給_mydata 表根據字段userid 建立了一個索引:
mysql>ALTER TABLE `_mydata` ADD INDEX ( `userid` )

建立此索引之後,CPU 馬上降到了80% 左右。看到找到了問題所在,於是檢查另一個反復出現在show processlist 中的sql 語句:
SELECT COUNT(*)FROM _mydata AS t1, _mydata_key AS t2WHERE t1.pid=t2.pid and t2.keywords= '孔雀'

經檢查_mydata_key 表的結構,發現它只為pid 建了了primary key, 沒有為keywords 建立index。 _mydata_key 目前有33 萬條記錄,在沒有索引的情況下對33萬條記錄進行文本檢索匹配,不耗費大量的cpu 時間才怪。看來就是針對這個表的檢索出問題了。於是同樣為_mydata_key 表根據字段keywords 加上索引:
mysql>ALTER TABLE `_mydata_key` ADD INDEX ( `keywords` )

建立此索引之後,CPU立刻降了下來,在50%~70%之間震盪。
再次調用show prosslist,網站A 的sql 調用就很少出現在結果列表中了。但發現此主機運行了幾個Discuz 的論壇程序, Discuz論壇的好幾個表也存在著這個問題。於是順手一併解決,cpu佔用再次降下來了。
至此,問題解決。 1. 增加 tmp_table_size 值。 mysql 的配置文件中,tmp_table_size 的默認大小是32M。如果一張臨時表超出該大小,MySQL產生一個The table tbl_name is full 形式的錯誤,如果你做很多高級GROUP BY 查詢,增加tmp_table_size 值。這是 mysql 官方關於此選項的解釋:
tmp_table_size This variable determines the maximum size for a temporary table in memory. If the table becomes too large, a MYISAM table is created on disk. Try to avoid temporary tables by optimizing the queries where possible, but where this is not possible, try to ensure temporary tables are always stored in memory. Watching the processlist for queries with temporary tables that take too long to resolve can give you an early warning that tmp_table_size needs to be upped. Be aware that memory is also allocated per-thread. An example where upping this worked for more was a server where I upped this from 32MB (the default) to 64MB with immediate effect. The quicker resolution of queries resulted in less threads being active at any one time, with all-round benefits for the server, and available memory.
2. 對WHERE, JOIN, MAX(), MIN(), ORDER BY 等子句中的條件判斷中用到的字段,應該根據其建立索引INDEX。
索引被用來快速找出在一個列上用一特定值的行。沒有索引,MySQL不得不首先以第一條記錄開始並然後讀完整個表直到它找出相關的行。表越大,花費時間越多。如果表對於查詢的列有一個索引,MySQL能快速到達一個位置去搜尋到數據文件的中間,沒有必要考慮所有數據。如果一個表有1000行,這比順序讀取至少快100倍。所有的MySQL索引(PRIMARY、UNIQUE和INDEX)在B樹中存儲。
根據 mysql 的開發文檔:
索引 index 用於:
o 快速找出匹配一個WHERE子句的行 o 當執行聯結(JOIN)時,從其他表檢索行。 o 對特定的索引列找出MAX()或MIN()值 o 如果排序或分組在一個可用鍵的最左面前綴上進行(例如,ORDER BY key_part_1,key_part_2),排序或分組一個表。如果所有鍵值部分跟隨DESC,鍵以倒序被讀取。 o 在一些情況中,一個查詢能被優化來檢索值,不用諮詢數據文件。如果對某些表的所有使用的列是數字型的並且構成某些鍵的最左面前綴,為了更快,值可以從索引樹被檢索出來。
假定你發出下列SELECT語句:
mysql>SELECT*FROM tbl_name WHERE col1=val1 AND col2=val2;

如果一個多列索引存在於col1和col2上,適當的行可以直接被取出。如果分開的單行列索引存在於col1和col2上,優化器試圖通過決定哪個索引將找到更少的行並來找出更具限制性的索引並且使用該索引取行。
開發人員做SQL 數據表設計的時候,一定要通盤考慮清楚。

沒有留言:

張貼留言