《本博客所有均为原创，希望转载的保留版权信息，谢谢》
作者qq:5439028 电话：15176853646 (一个最普通的程序员)
最近天天在做啥，最近天天在写python，Y的，主要是是我对这个语言比较喜欢，玩呗
程序员们，通过http://k.wps.cn/register/?invite=rr6zsq连接注册个用户，下载客户端，登陆，三日内会收到来自我共享的文件，文件都是我多年编程积攒的！
今天，数据库的操作越来越成为整个应用的性能瓶颈了，这点对于Web应用尤其明显。关于数据库的性能，这并不只是DBA才需要担心的事，而这更是我们程序员需要去关注的事情。当我们去设计数据库表结构，对操作数据库时（尤其是查表时的SQL语句），我们都需要注意数据操作的性能。这里，我们不会讲过多的SQL语句的优化，而只是针对MySQL这一Web应用最多的数据库。希望下面的这些优化技巧对你有用。
0. 为查询缓存优化你的查询
大多数的MySQL服务器都开启了查询缓存。这是提高性最有效的方法之一，而且这是被MySQL的数据库引擎处理的。当有很多相同的查询被执行了多次的时候，这些查询结果会被放到一个缓存中，这样，后续的相同的查询就不用操作表而直接访问缓存结果了。
这里最主要的问题是，对于程序员来说，这个事情是很容易被忽略的。因为，我们某些查询语句会让MySQL不使用缓存。请看下面的示例：
1 2 3 4 5 6 | // 查询缓存不开启 $r = mysql_query("SELECT username FROM user WHERE signup_date >= CURDATE()"); // 开启查询缓存 $today = date("Y-m-d"); $r = mysql_query("SELECT username FROM user WHERE signup_date >= '$today'"); |
上面两条SQL语句的差别就是 CURDATE() ，MySQL的查询缓存对这个函数不起作用。所以，像 NOW() 和 RAND() 或是其它的诸如此类的SQL函数都不会开启查询缓存，因为这些函数的返回是会不定的易变的。所以，你所需要的就是用一个变量来代替MySQL的函数，从而开启缓存。
1. EXPLAIN 你的 SELECT 查询
使用 EXPLAIN 关键字可以让你知道MySQL是如何处理你的SQL语句的。这可以帮你分析你的查询语句或是表结构的性能瓶颈。
EXPLAIN 的查询结果还会告诉你你的索引主键被如何利用的，你的数据表是如何被搜索和排序的……等等，等等。
挑一个你的SELECT语句（推荐挑选那个最复杂的，有多表联接的），把关键字EXPLAIN加到前面。你可以使用phpmyadmin来做这个事。然后，你会看到一张表格。下面的这个示例中，我们忘记加上了group_id索引，并且有表联接：
当我们为 group_id 字段加上索引后：
我们可以看到，前一个结果显示搜索了 7883 行，而后一个只是搜索了两个表的 9 和 16 行。查看rows列可以让我们找到潜在的性能问题。
2. 当只要一行数据时使用 LIMIT 1
当你查询表的有些时候，你已经知道结果只会有一条结果，但因为你可能需要去fetch游标，或是你也许会去检查返回的记录数。
在这种情况下，加上 LIMIT 1 可以增加性能。这样一样，MySQL数据库引擎会在找到一条数据后停止搜索，而不是继续往后查少下一条符合记录的数据。
下面的示例，只是为了找一下是否有“中国”的用户，很明显，后面的会比前面的更有效率。（请注意，第一条中是Select *，第二条是Select 1）
1 2 3 4 5 6 7 8 9 10 11 | // 没有效率的： $r = mysql_query("SELECT * FROM user WHERE country = 'China'"); if (mysql_num_rows($r) > 0) { // ... } // 有效率的： $r = mysql_query("SELECT 1 FROM user WHERE country = 'China' LIMIT 1"); if (mysql_num_rows($r) > 0) { // ... } |
3. 为搜索字段建索引
索引并不一定就是给主键或是唯一的字段。如果在你的表中，有某个字段你总要会经常用来做搜索，那么，请为其建立索引吧。
从上图你可以看到那个搜索字串 “last_name LIKE ‘a%’”，一个是建了索引，一个是没有索引，性能差了4倍左右。
另外，你应该也需要知道什么样的搜索是不能使用正常的索引的。例如，当你需要在一篇大的文章中搜索一个词时，如： “WHERE post_content LIKE ‘%apple%’”，索引可能是没有意义的。你可能需要使用MySQL全文索引 或是自己做一个索引（比如说：搜索关键词或是Tag什么的）
4. 在Join表的时候使用相当类型的例，并将其索引
如果你的应用程序有很多 JOIN 查询，你应该确认两个表中Join的字段是被建过索引的。这样，MySQL内部会启动为你优化Join的SQL语句的机制。
而且，这些被用来Join的字段，应该是相同的类型的。例如：如果你要把 DECIMAL 字段和一个 INT 字段Join在一起，MySQL就无法使用它们的索引。对于那些STRING类型，还需要有相同的字符集才行。（两个表的字符集有可能不一样）
1 2 3 4 5 6 | // 在state中查找company $r = mysql_query("SELECT company_name FROM users LEFT JOIN companies ON (users.state = companies.state) WHERE users.id = $user_id"); // 两个 state 字段应该是被建过索引的，而且应该是相当的类型，相同的字符集。 |
5. 千万不要 ORDER BY RAND()
想打乱返回的数据行？随机挑一个数据？真不知道谁发明了这种用法，但很多新手很喜欢这样用。但你确不了解这样做有多么可怕的性能问题。
如果你真的想把返回的数据行打乱了，你有N种方法可以达到这个目的。这样使用只让你的数据库的性能呈指数级的下降。这里的问题是：MySQL会不得不去执行RAND()函数（很耗CPU时间），而且这是为了每一行记录去记行，然后再对其排序。就算是你用了Limit 1也无济于事（因为要排序）
下面的示例是随机挑一条记录
1 2 3 4 5 6 7 8 9 | // 千万不要这样做： $r = mysql_query("SELECT username FROM user ORDER BY RAND() LIMIT 1"); // 这要会更好： $r = mysql_query("SELECT count(*) FROM user"); $d = mysql_fetch_row($r); $rand = mt_rand(0,$d[0] - 1); $r = mysql_query("SELECT username FROM user LIMIT $rand, 1"); |
6. 避免 SELECT *
从数据库里读出越多的数据，那么查询就会变得越慢。并且，如果你的数据库服务器和WEB服务器是两台独立的服务器的话，这还会增加网络传输的负载。
所以，你应该养成一个需要什么就取什么的好的习惯。
1 2 3 4 5 6 7 8 9 | // 不推荐 $r = mysql_query("SELECT * FROM user WHERE user_id = 1"); $d = mysql_fetch_assoc($r); echo "Welcome {$d['username']}"; // 推荐 $r = mysql_query("SELECT username FROM user WHERE user_id = 1"); $d = mysql_fetch_assoc($r); echo "Welcome {$d['username']}"; |
7. 永远为每张表设置一个ID
我们应该为数据库里的每张表都设置一个ID做为其主键，而且最好的是一个INT型的（推荐使用UNSIGNED），并设置上自动增加的AUTO_INCREMENT标志。
就算是你 users 表有一个主键叫 “email”的字段，你也别让它成为主键。使用 VARCHAR 类型来当主键会使用得性能下降。另外，在你的程序中，你应该使用表的ID来构造你的数据结构。
而且，在MySQL数据引擎下，还有一些操作需要使用主键，在这些情况下，主键的性能和设置变得非常重要，比如，集群，分区……
在这里，只有一个情况是例外，那就是“关联表”的“外键”，也就是说，这个表的主键，通过若干个别的表的主键构成。我们把这个情况叫做“外键”。比如：有一个“学生表”有学生的ID，有一个“课程表”有课程ID，那么，“成绩表”就是“关联表”了，其关联了学生表和课程表，在成绩表中，学生ID和课程ID叫“外键”其共同组成主键。
8. 使用 ENUM 而不是 VARCHAR
ENUM 类型是非常快和紧凑的。在实际上，其保存的是 TINYINT，但其外表上显示为字符串。这样一来，用这个字段来做一些选项列表变得相当的完美。
如果你有一个字段，比如“性别”，“国家”，“民族”，“状态”或“部门”，你知道这些字段的取值是有限而且固定的，那么，你应该使用 ENUM 而不是 VARCHAR。
MySQL也有一个“建议”（见第十条）告诉你怎么去重新组织你的表结构。当你有一个 VARCHAR 字段时，这个建议会告诉你把其改成 ENUM 类型。使用 PROCEDURE ANALYSE() 你可以得到相关的建议。
9. 从 PROCEDURE ANALYSE() 取得建议
PROCEDURE ANALYSE() 会让 MySQL 帮你去分析你的字段和其实际的数据，并会给你一些有用的建议。只有表中有实际的数据，这些建议才会变得有用，因为要做一些大的决定是需要有数据作为基础的。
例如，如果你创建了一个 INT 字段作为你的主键，然而并没有太多的数据，那么，PROCEDURE ANALYSE()会建议你把这个字段的类型改成 MEDIUMINT 。或是你使用了一个 VARCHAR 字段，因为数据不多，你可能会得到一个让你把它改成 ENUM 的建议。这些建议，都是可能因为数据不够多，所以决策做得就不够准。
在phpmyadmin里，你可以在查看表时，点击 “Propose table structure” 来查看这些建议
一定要注意，这些只是建议，只有当你的表里的数据越来越多时，这些建议才会变得准确。一定要记住，你才是最终做决定的人。
A. 尽可能的使用 NOT NULL
除非你有一个很特别的原因去使用 NULL 值，你应该总是让你的字段保持 NOT NULL。这看起来好像有点争议，请往下看。
首先，问问你自己“Empty”和“NULL”有多大的区别（如果是INT，那就是0和NULL）？如果你觉得它们之间没有什么区别，那么你就不要使用NULL。（你知道吗？在 Oracle 里，NULL 和 Empty 的字符串是一样的！)
不要以为 NULL 不需要空间，其需要额外的空间，并且，在你进行比较的时候，你的程序会更复杂。 当然，这里并不是说你就不能使用NULL了，现实情况是很复杂的，依然会有些情况下，你需要使用NULL值。
下面摘自MySQL自己的文档：
“NULL columns require additional space in the row to record whether their values are NULL. For MyISAM tables, each NULL column takes one bit extra, rounded up to the nearest byte.”
B. Prepared Statements
Prepared Statements很像存储过程，是一种运行在后台的SQL语句集合，我们可以从使用 prepared statements 获得很多好处，无论是性能问题还是安全问题。
Prepared Statements 可以检查一些你绑定好的变量，这样可以保护你的程序不会受到“SQL注入式”攻击。当然，你也可以手动地检查你的这些变量，然而，手动的检查容易出问题，而且很经常会被程序员忘了。当我们使用一些framework或是ORM的时候，这样的问题会好一些。
在性能方面，当一个相同的查询被使用多次的时候，这会为你带来可观的性能优势。你可以给这些Prepared Statements定义一些参数，而MySQL只会解析一次。
虽然最新版本的MySQL在传输Prepared Statements是使用二进制形势，所以这会使得网络传输非常有效率。
当然，也有一些情况下，我们需要避免使用Prepared Statements，因为其不支持查询缓存。但据说版本5.1后支持了。
在PHP中要使用prepared statements，你可以查看其使用手册：mysqli 扩展 或是使用数据库抽象层，如： PDO.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 | // 创建 prepared statement if ($stmt = $mysqli->prepare("SELECT username FROM user WHERE state=?")) { // 绑定参数 $stmt->bind_param("s", $state); // 执行 $stmt->execute(); // 绑定结果 $stmt->bind_result($username); // 移动游标 $stmt->fetch(); printf("%s is from %s\n", $username, $state); $stmt->close(); } |
C. 无缓冲的查询
正常的情况下，当你在当你在你的脚本中执行一个SQL语句的时候，你的程序会停在那里直到没这个SQL语句返回，然后你的程序再往下继续执行。你可以使用无缓冲查询来改变这个行为。
关于这个事情，在PHP的文档中有一个非常不错的说明： mysql_unbuffered_query() 函数：
“mysql_unbuffered_query() sends the SQL query query to MySQL without automatically fetching and buffering the result rows as mysql_query() does. This saves a considerable amount of memory with SQL queries that produce large result sets, and you can start working on the result set immediately after the first row has been retrieved as you don’t have to wait until the complete SQL query has been performed.”
上面那句话翻译过来是说，mysql_unbuffered_query() 发送一个SQL语句到MySQL而并不像mysql_query()一样去自动fethch和缓存结果。这会相当节约很多可观的内存，尤其是那些会产生大量结果的查询语句，并且，你不需要等到所有的结果都返回，只需要第一行数据返回的时候，你就可以开始马上开始工作于查询结果了。
然而，这会有一些限制。因为你要么把所有行都读走，或是你要在进行下一次的查询前调用mysql_free_result() 清除结果。而且， mysql_num_rows() 或 mysql_data_seek() 将无法使用。所以，是否使用无缓冲的查询你需要仔细考虑。
D. 把IP地址存成 UNSIGNED INT
很多程序员都会创建一个 VARCHAR(15) 字段来存放字符串形式的IP而不是整形的IP。如果你用整形来存放，只需要4个字节，并且你可以有定长的字段。而且，这会为你带来查询上的优势，尤其是当你需要使用这样的WHERE条件：IP between ip1 and ip2。
我们必需要使用UNSIGNED INT，因为 IP地址会使用整个32位的无符号整形。
而你的查询，你可以使用 INET_ATON() 来把一个字符串IP转成一个整形，并使用 INET_NTOA() 把一个整形转成一个字符串IP。在PHP中，也有这样的函数 ip2long() 和 long2ip()。
1 | $r = "UPDATE users SET ip = INET_ATON('{$_SERVER['REMOTE_ADDR']}') WHERE user_id = $user_id"; |
1 | <strong>E. 固定长度的表会更快</strong> |
如果表中的所有字段都是“固定长度”的，整个表会被认为是 “static” 或 “fixed-length”。 例如，表中没有如下类型的字段： VARCHAR，TEXT，BLOB。只要你包括了其中一个这些字段，那么这个表就不是“固定长度静态表”了，这样，MySQL 引擎会用另一种方法来处理。
固定长度的表会提高性能，因为MySQL搜寻得会更快一些，因为这些固定的长度是很容易计算下一个数据的偏移量的，所以读取的自然也会很快。而如果字段不是定长的，那么，每一次要找下一条的话，需要程序找到主键。
并且，固定长度的表也更容易被缓存和重建。不过，唯一的副作用是，固定长度的字段会浪费一些空间，因为定长的字段无论你用不用，他都是要分配那么多的空间。
使用“垂直分割”技术（见下一条），你可以分割你的表成为两个一个是定长的，一个则是不定长的。
F. 垂直分割
“垂直分割”是一种把数据库中的表按列变成几张表的方法，这样可以降低表的复杂度和字段的数目，从而达到优化的目的。（以前，在银行做过项目，见过一张表有100多个字段，很恐怖）
示例一：在Users表中有一个字段是家庭地址，这个字段是可选字段，相比起，而且你在数据库操作的时候除了个人信息外，你并不需要经常读取或是改写这个字段。那么，为什么不把他放到另外一张表中呢？ 这样会让你的表有更好的性能，大家想想是不是，大量的时候，我对于用户表来说，只有用户ID，用户名，口令，用户角色等会被经常使用。小一点的表总是会有好的性能。
示例二： 你有一个叫 “last_login” 的字段，它会在每次用户登录时被更新。但是，每次更新时会导致该表的查询缓存被清空。所以，你可以把这个字段放到另一个表中，这样就不会影响你对用户ID，用户名，用户角色的不停地读取了，因为查询缓存会帮你增加很多性能。
另外，你需要注意的是，这些被分出去的字段所形成的表，你不会经常性地去Join他们，不然的话，这样的性能会比不分割时还要差，而且，会是极数级的下降。
11. 拆分大的 DELETE 或 INSERT 语句
如果你需要在一个在线的网站上去执行一个大的 DELETE 或 INSERT 查询，你需要非常小心，要避免你的操作让你的整个网站停止相应。因为这两个操作是会锁表的，表一锁住了，别的操作都进不来了。
Apache 会有很多的子进程或线程。所以，其工作起来相当有效率，而我们的服务器也不希望有太多的子进程，线程和数据库链接，这是极大的占服务器资源的事情，尤其是内存。
如果你把你的表锁上一段时间，比如30秒钟，那么对于一个有很高访问量的站点来说，这30秒所积累的访问进程/线程，数据库链接，打开的文件数，可能不仅仅会让你泊WEB服务Crash，还可能会让你的整台服务器马上掛了。
所以，如果你有一个大的处理，你定你一定把其拆分，使用 LIMIT 条件是一个好的方法。下面是一个示例：
1 2 3 4 5 6 7 8 9 10 | while (1) { //每次只做1000条 mysql_query("DELETE FROM logs WHERE log_date <= '2009-11-01' LIMIT 1000"); if (mysql_affected_rows() == 0) { // 没得可删了，退出！ break; } // 每次都要休息一会儿 usleep(50000); } |
12. 越小的列会越快
对于大多数的数据库引擎来说，硬盘操作可能是最重大的瓶颈。所以，把你的数据变得紧凑会对这种情况非常有帮助，因为这减少了对硬盘的访问。
参看 MySQL 的文档 Storage Requirements 查看所有的数据类型。
如果一个表只会有几列罢了（比如说字典表，配置表），那么，我们就没有理由使用 INT 来做主键，使用 MEDIUMINT, SMALLINT 或是更小的 TINYINT 会更经济一些。如果你不需要记录时间，使用 DATE 要比 DATETIME 好得多。
当然，你也需要留够足够的扩展空间，不然，你日后来干这个事，你会死的很难看，参看Slashdot的例子（2009年11月06日），一个简单的ALTER TABLE语句花了3个多小时，因为里面有一千六百万条数据。
13. 选择正确的存储引擎
在 MySQL 中有两个存储引擎 MyISAM 和 InnoDB，每个引擎都有利有弊。
MyISAM 适合于一些需要大量查询的应用，但其对于有大量写操作并不是很好。甚至你只是需要update一个字段，整个表都会被锁起来，而别的进程，就算是读进程都无法操作直到读操作完成。另外，MyISAM 对于 SELECT COUNT(*) 这类的计算是超快无比的。
InnoDB 的趋势会是一个非常复杂的存储引擎，对于一些小的应用，它会比 MyISAM 还慢。他是它支持“行锁” ，于是在写操作比较多的时候，会更优秀。并且，他还支持更多的高级应用，比如：事务。
下面是MySQL的手册
·target=”_blank”MyISAM Storage Engine
14. 使用一个对象关系映射器（Object Relational Mapper）
使用 ORM (Object Relational Mapper)，你能够获得可靠的性能增涨。一个ORM可以做的所有事情，也能被手动的编写出来。但是，这需要一个高级专家。
ORM 的最重要的是“Lazy Loading”，也就是说，只有在需要的去取值的时候才会去真正的去做。但你也需要小心这种机制的副作用，因为这很有可能会因为要去创建很多很多小的查询反而会降低性能。
ORM 还可以把你的SQL语句打包成一个事务，这会比单独执行他们快得多得多。
目前，个人最喜欢的PHP的ORM是：Doctrine。
15. 小心“永久链接”
“永久链接”的目的是用来减少重新创建MySQL链接的次数。当一个链接被创建了，它会永远处在连接的状态，就算是数据库操作已经结束了。而且，自从我们的Apache开始重用它的子进程后——也就是说，下一次的HTTP请求会重用Apache的子进程，并重用相同的 MySQL 链接。
在理论上来说，这听起来非常的不错。但是从个人经验（也是大多数人的）上来说，这个功能制造出来的麻烦事更多。因为，你只有有限的链接数，内存问题，文件句柄数，等等。
而且，Apache 运行在极端并行的环境中，会创建很多很多的了进程。这就是为什么这种“永久链接”的机制工作地不好的原因。在你决定要使用“永久链接”之前，你需要好好地考虑一下你的整个系统的架构。
Ganglia 是 UC Berkeley 发起的一个开源监视项目，设计用于测量数以千计的节点。每台计算机都运行一个收集和发送度量数据（如处理器速度、内存使用量等）的名为 gmond 的守护进程。它将从操作系统和指定主机中收集。接收所有度量数据的主机可以显示这些数据并且可以将这些数据的精简表单传递到层次结构中。正因为有这种层次结构模式，才使得 Ganglia 可以实现良好的扩展。gmond 带来的系统负载非常少，这使得它成为在集群中各台计算机上运行的一段代码，而不会影响用户性能。
linux下ganglia监控系统搭建
Ganglia监控软件主要是用来监控系统性能的软件，如：cpu 、mem、硬盘利用率， I/O负载、网络流量情况等，通过曲线很容易见到每个节点的工作状态，对合理调整、分配系统资源，提高系统整体性能起到重要作用。支持浏览器方式访问，但不能监控节点硬件技术指标，ganglia 是分布式的监控系统，有两个Daemon, 分别是：客户端Ganglia Monitoring Daemon (gmond)和服务端Ganglia Meta Daemon (gmetad)，还有Ganglia PHP Web Frontend（基于web的动态访问方式）组成。是一个Linux下图形化监控系统运行性能的软件，界面美观、丰富，功能强大。RRDtool是系统存放和显示time-series (即网络带宽、温度、人数、服务器负载等) 。并且它提出有用的图表由处理数据强制执行有些数据密度。
Ganglia 是 UC Berkeley 发起的一个开源监视项目，设计用于测量数以千计的节点。每台计算机都运行一个收集和发送度量数据（如处理器速度、内存使用量等）的名为 gmond 的守护进程。它将从操作系统和指定主机中收集。接收所有度量数据的主机可以显示这些数据并且可以将这些数据的精简表单传递到层次结构中。正因为有这种层次结构模式，才使得 Ganglia 可以实现良好的扩展。gmond 带来的系统负载非常少，这使得它成为在集群中各台计算机上运行的一段代码，而不会影响用户性能。
1、lap（linux+apache+php）
（略）
2、需要的软件包
通过yum源安装，系统光盘就有：
yum -y install \ apr-devel \ apr-util \ check-devel \ cairo-devel \ pango-devel \ libxml2-devel \ rpmbuild \ glib2-devel \ dbus-devel \ freetype-devel \ fontconfig-devel \ gcc-c++ \ expat-devel \ python-devel \ libXrender-devel
3、安装libconfuse
32位os下载：
wget http://download.fedora.redhat.com/pub/epel/5/i386/libconfuse-2.5-4.el5.i386.rpm wget http://download.fedora.redhat.com/pub/epel/5/i386/libconfuse-devel-2.5-4.el5.i386.rpm
64位os下载：
wget http://download.fedora.redhat.com/pub/epel/5/x86_64/libconfuse-2.5-4.el5.x86_64.rpm wget http://download.fedora.redhat.com/pub/epel/5/x86_64/libconfuse-devel-2.5-4.el5.x86_64.rpm
安装
rpm –ivh libconfuse-2.5-4.el5.i386.rpm libconfuse-devel-2.5-4.el5.i386.rpm
4、安装RRDTool
wget http://oss.oetiker.ch/rrdtool/pub/rrdtool.tar.gz tar zxvf rrdtool* cd rrdtool-* ./configure --prefix=/usr make make install
5、安装ganglia
到http://ganglia.info网站下载最新版的ganglia，这里以3.1.2版为例
这里编译安装的时候需要注意：
安装之前用以下命令检查有没有rrd.h和librrd.a文件：
ll /usr/include/rrd.h ll /usr/lib/librrd.a
如果存在以上两个文件，则继续安装否则使用find命令查找这两个文件，并创建指向这两个文件的软链接
find / -name rrd.h find / -name librrd.a
比如说你找到的文件在/usr/local/下，则：
ln -s /usr/local/rrd.h /usr/include/rrd.h ln -s /usr/local/librrd.a /usr/lib/librrd.a
安装：
tar –zxvf ganglia-3.1.2.tar.gz cd ganglia-3.1.2.tar.gz ./configure --with-gmetad make make install
如果安装过程中出现读取相关lib文件读取错误，请在/usr/lib(32os)或/usr/lib64下查找是否存在该lib文件，如果不存在，查找该文件并在/usr/lib(32os)或/usr/lib64创建指向该lib文件的软链接。
6、配置ganglia
step 1、处理命令行文件
cd /tmp/ganglia-3.1.2/ //假设你的ganglia在此目录 mkdir -p /var/www/html/ganglia/ //创建网站主目录下ganglia文件夹，用来访问ganglia cp -a web/* /var/www/html/ganglia/ //拷贝ganglia网站代码到该目录 cp gmetad/gmetad.init /etc/rc.d/init.d/gmetad //拷贝gmetad服务启动脚本 cp gmond/gmond.init /etc/rc.d/init.d/gmond //拷贝gmond服务启动脚本 mkdir /etc/ganglia //创建配置文件主目录 gmond -t | tee /etc/ganglia/gmond.conf //生成gmond服务配置文件 cp gmetad/gmetad.conf /etc/ganglia/ //拷贝gmetad服务配置文件 mkdir -p /var/lib/ganglia/rrds //创建rrd文件存放目录 chown nobody:nobody /var/lib/ganglia/rrds //属主和属组都为nobody chkconfig --add gmetad //将服务交给chkconfig管理 chkconfig --add gmond //同上
step 2、修改配置文件
vi /etc/ganglia/gmond.conf //修改以下字段 cluster { name = "cluster name" //你要监控的集群名，一般我们只改这一项，可以是任意值 owner = " unspecified " latlong = "unspecified" url = "unspecified" }step3、两块网卡的设置
如果你的服务器有两块网卡，eth0使用公网地址，eth1使用局域网地址，而你的监控服务器和被监控服务器之间的通信你希望通过局域网地址实现以减少公网网卡的负载，那么可以使用以下命令：
ip route add 239.2.11.71 dev eth1
因为239.2.11.71是ganglia默认的多点传输通道，所以要加一条路由使它通过eth1,也就是内网网卡，239.2.11.71这个地址你可以在/etc/ganglia/gmond.conf中修改
step4、启动服务
service gmond start service gmetad start service httpd restart
这时服务端的配置已经结束，通过网页http://You_IP/ganglia已经可以访问，并且可以监控到监控服务器的信息。
7、客户端的配置
在监控服务器编写一个脚本文件，执行它可以将服务快速的发布到被监控主机上
step1、编写一个主机地址文件
vi mynodes
添加你的主机名或服务器ip到该文件，我这里只写了5台主机
192.168.10.1 192.168.10.2 192.168.10.3 192.168.10.4 192.168.10.5
step2、编写脚本实现服务的发布
vi ganglia.sh
使用以下内容，这里使用的是64位OS，如果是32位OS，将下面的lib64改为lib
for i in `cat mynodes`; do scp /usr/bin/gmetric $i:/usr/bin scp /usr/sbin/gmond $i:/usr/sbin/gmond ssh $i mkdir -p /etc/ganglia/ scp /etc/ganglia/gmond.conf $i:/etc/ganglia/ scp /etc/init.d/gmond $i:/etc/init.d/ scp /usr/lib64/libganglia-3.1.2.so.0 $i:/usr/lib64/ scp /lib64/libexpat.so.0 $i:/lib64/ scp /usr/lib64/libconfuse.so.0 $i:/usr/lib64/ scp /usr/lib64/libapr-1.so.0 $i:/usr/lib64/ scp -r /usr/lib64/ganglia $i:/usr/lib64/ ssh $i service gmond start done
step3、赋予脚本可执行权限并执行
chmod 755 ganglia.sh ./ganglia.sh
至此ganglia客户端和服务器端的配置完成，可以通过web访问来监控你的群集了
8、使用gmetric定制你自己要监控的信息
step1、准备工作
在使用gmetric前要确定自己被监控服务器有gmetri
ll /usr/bin/gmetric
如果没有，通过scp从监控服务器拷贝
scp root@192.168.10.100:/usr/bin/gmetric /usr/bin/ //假设你的监控服务器为192.168.10.100
step2、编写脚本
定制你自己的脚本，执行，并且将结果返回监控服务器
你可以在http://ganglia.info/gmetric/找到很多别人共享的脚本，以下是一个监控memcache服务的脚本：
vi /root/mcd_gmetric.sh
以下内容
#!/bin/bash ### $Id: mcd_gmetric.sh 16661 2006-11-07 00:56:33Z ben $ ### This script queries a memcached server running ### on localhost and reports a few statistics to ### ganglia. ### It reports ### *mcd_curr_items - the number of objects stored ### *mcd_curr_bytes - current bytes used ### *mcd_curr_conns - current number of connections ### *mcd_hit_perc - hits / gets for current time duration ### (current hit percentage) ### For more description on any of these metrics, ### see the protocols.txt file in the MCD docs. ### Copyright Simply Hired, Inc. 2006 ### License to use, modify, and distribute under the GPL ### http://www.gnu.org/licenses/gpl.txt VERSION=1.0 GMETRIC="/usr/bin/gmetric" GMETRIC_ARGS="-c /etc/ganglia/gmond.conf" STATEFILE="/var/lib/ganglia/metrics/mcd.stats" ERROR_NOTROOT="/tmp/mcd_gmetric_notroot" ERROR_CANT_CONNECT="/tmp/mcd_gmetric_cant_connect" ERROR_CREATE="/tmp/mcd_gmetric_create_statefile_failed" ERROR_GETS_EMPTY="/tmp/mcd_gets_empty" MCD_CONF="/etc/sysconfig/memcached" # get system configuration if [ -e ${MCD_CONF} ] then source ${MCD_CONF} MCD_PORT=${PORT} fi MCD_PORT=${MCD_PORT:-11211} date=`date +%s` if [ $UID -ne 0 ] then if [ -e $ERROR_NOTROOT ] ; then exit 1; fi echo "Error: this script must be run as root." touch $ERROR_NOTROOT exit 1 fi rm -f $ERROR_NOTROOT if [ "x$1" == "x-h" ] then echo "Usage: mcd_gmetric.sh [--clean]" echo " --clean delete all tmp files" exit 0 fi if [ "x$1" == "x--clean" ] then rm -f $STATEFILE $ERROR_NOTROOT $ERROR_CANT_CONNECT $ERROR_CREATE retval=$? if [ $retval -ne 0 ] then echo "failed to clean up." exit 1 else echo "All cleaned up." exit 0 fi fi # if the GMETRIC program isn't installed, compain if [ ! -e $GMETRIC ] then if [ -e $ERROR_GMETRIC ] ; then exit 1; fi echo "" echo "Error: GMETRIC doesn't seem to be installed." echo "$GMETRIC doesn't exist." echo "" touch $ERROR_GMETRIC exit 1 fi # get current statistics exec 3>&2 #turn off STDERR exec 2>/dev/null stats_array=(`echo "stats" | nc localhost $MCD_PORT`) retval=$? exec 2>&1 #turn on STDERR exec 3>&- if [ $retval -ne 0 ] then if [ -e $ERROR_CANT_CONNECT ] ; then exit 1 ; fi echo "I can't connect to mcd." echo "Bummer. " touch $ERROR_CANT_CONNECT exit 1 fi mcd_curr_items=`echo ${stats_array[23]}|tr -c -d [0-9]` #this tr thing is because there's a trailing ^M on the string from netcat that breaks bc. mcd_curr_bytes=`echo ${stats_array[29]}|tr -c -d [0-9]` mcd_curr_conns=`echo ${stats_array[32]}|tr -c -d [0-9]` mcd_total_gets=`echo ${stats_array[41]}|tr -c -d [0-9]` mcd_total_sets=`echo ${stats_array[44]}|tr -c -d [0-9]` mcd_total_hits=`echo ${stats_array[47]}|tr -c -d [0-9]` if [ -z "$mcd_total_gets" ] then # this actually happens rather often for some reason, so I'm just going to fail silently. # if [ -e $ERROR_GETS_EMPTY ] ; then exit 1 ; fi # echo "" # echo "ERROR: mcd_total_gets empty." # echo "" exit 1 fi rm -f $ERROR_GETS_EMPTY # save and turn off /STDERR for the statefile tests exec 3>&2 exec 2>/dev/null # if the statefile doesn't exist, we either havn't # run yet or there's something bigger wrong. if [ ! -e $STATEFILE ] then if [ ! -d `dirname $STATEFILE` ] then mkdir -p `dirname $STATEFILE` fi echo "$date $mcd_curr_items $mcd_curr_bytes $mcd_curr_conns $mcd_total_gets $mcd_total_sets $mcd_total_hits" > $STATEFILE if [ ! -e $STATEFILE ] then # if it didn't exist and we couldn't create # it, we should just scream bloody murder and die. # only scream once though... if [ -e $ERROR_CREATE ] then exit 1 fi echo "" echo "ERROR: couldn't create $STATEFILE" echo "" touch $ERROR_CREATE exit 1 fi echo "Created statefile. Exitting." exit 0 fi # restore stderr exec 2>&3 exec 3>&- old_stats_array=(`cat $STATEFILE`) old_date=${old_stats_array[0]} old_mcd_curr_items=${old_stats_array[1]} old_mcd_curr_bytes=${old_stats_array[2]} old_mcd_curr_conns=${old_stats_array[3]} old_mcd_total_gets=${old_stats_array[4]} old_mcd_total_sets=${old_stats_array[5]} old_mcd_total_hits=${old_stats_array[6]} echo "$date $mcd_curr_items $mcd_curr_bytes $mcd_curr_conns $mcd_total_gets $mcd_total_sets $mcd_total_hits" > $STATEFILE time_diff=$(($date - $old_date)) mcd_total_gets_diff=$(($mcd_total_gets - $old_mcd_total_gets)) mcd_total_sets_diff=$(($mcd_total_sets - $old_mcd_total_sets)) mcd_total_hits_diff=$(($mcd_total_hits - $old_mcd_total_hits)) if [ $time_diff -eq 0 ] then if [ -e $ERROR_TIMEDIFF ] ; then exit 1 ; fi echo "something is broken." echo "time_diff is 0." touch $ERROR_TIMEDIFF exit 1 fi # none of these numbers should be less than 1, but if they are, just send back 1. if [ $mcd_total_gets_diff -le 1 ] ; then mcd_total_gets_diff=1 ; fi if [ $mcd_total_sets_diff -le 1 ] ; then mcd_total_sets_diff=1 ; fi if [ $mcd_total_hits_diff -le 1 ] ; then mcd_total_hits_diff=1 ; fi mcd_gets_per_sec=`echo "scale=3;${mcd_total_gets_diff}/${time_diff}"|bc` mcd_sets_per_sec=`echo "scale=3;${mcd_total_sets_diff}/${time_diff}"|bc` mcd_hits_per_sec=`echo "scale=3;${mcd_total_hits_diff}/${time_diff}"|bc` mcd_hit_perc=`echo "scale=3; ${mcd_total_hits_diff} * 100 / ${mcd_total_gets_diff}" | bc` $GMETRIC $GMETRIC_ARGS --name="mcd_seconds_measured" --value=${time_diff} --type=uint32 --units="secs" $GMETRIC $GMETRIC_ARGS --name="mcd_items_cached" --value=${mcd_curr_items} --type=uint32 --units="items" $GMETRIC $GMETRIC_ARGS --name="mcd_bytes_used" --value=${mcd_curr_bytes} --type=uint32 --units="bytes" $GMETRIC $GMETRIC_ARGS --name="mcd_conns" --value=${mcd_curr_conns} --type=uint32 --units="connections" $GMETRIC $GMETRIC_ARGS --name="mcd_gets" --value=${mcd_gets_per_sec} --type=float --units="gps" $GMETRIC $GMETRIC_ARGS --name="mcd_sets" --value=${mcd_sets_per_sec} --type=float --units="sps" $GMETRIC $GMETRIC_ARGS --name="mcd_cache_hits" --value=${mcd_hits_per_sec} --type=float --units="hps" $GMETRIC $GMETRIC_ARGS --name="mcd_cache_hit%" --value=${mcd_hit_perc} --type=float --units="%" 赋予脚本可执行权限并执行：
chmod 755 mcd_gmetric.sh ./mcd_gmetric.sh
这时已经将结果通过gmetric返回到监控服务器，在服务器该主机的信息中已经可以看到memcached服务的相关信息了
将这个服务添加到crontab
crontab -e /1 * * * * /root/mcd_gmetric.sh //设置每分钟将结果返回监控服务器
使用 rsync 同步
内容提要
- 熟悉 rsync 的功能及其特点
- 掌握 rsync 语法及常用选项的功能
- 掌握 rsync 命令的三种基本使用方法
- 掌握如何筛选 rsync 的传输目标
- 掌握使用 rsync 进行镜像和增量备份的方法
rsync 简介
rsync（remote synchronize）是一个远程数据同步工具，可通过 LAN/WAN 快速同步多台主机之间的文件。也可以使用 rsync 同步本地硬盘中的不同目录。
rsync 是用于替代 rcp 的一个工具，rsync 使用所谓的 rsync算法 进行数据同步，这种算法只传送两个文件的不同部分，而不是每次都整份传送，因此速度相当快。 您可以参考 How Rsync Works A Practical Overview 进一步了解 rsync 的运作机制。
rsync 的初始作者是 Andrew Tridgell 和 Paul Mackerras，目前由 http://rsync.samba.org 维护。
rsync 支持大多数的类 Unix 系统，无论是 Linux、Solaris 还是 BSD上 都经过了良好的测试。 CentOS系统默认就安装了 rsync 软件包。 此外，在 windows 平台下也有相应的版本，如 cwrsync 和DeltaCopy 等。
rsync 具有如下的基本特性：
- 可以镜像保存整个目录树和文件系统
- 可以很容易做到保持原来文件的权限、时间、软硬链接等
- 无须特殊权限即可安装
- 优化的流程，文件传输效率高
- 可以使用 rsh、ssh 方式来传输文件，当然也可以通过直接的 socket 连接
- 支持匿名传输，以方便进行网站镜象
在使用 rsync 进行远程同步时，可以使用两种方式：远程 Shell 方式（建议使用 ssh，用户验证由 ssh 负责）和 C/S 方式（即客户连接远程 rsync 服务器，用户验证由 rsync 服务器负责）。
无论本地同步目录还是远程同步数据，首次运行时将会把全部文件拷贝一次，以后再运行时将只拷贝有变化的文件（对于新文件）或文件的变化部分（对于原有文件）。
本节重点介绍 rsync 客户命令的使用，有关 rsync 服务器的配置和使用请参见下节。
rsync 在首次复制时没有速度优势，速度不如 tar，因此当数据量很大时您可以考虑先使用 tar 进行首次复制，然后再使用 rsync 进行数据同步。
镜像、备份和归档
实施备份的两种情况：
- 需保留备份历史归档：在备份时保留历史的备份归档，是为了在系统出现错误后能恢复到从前正确的状态。这可以使用完全备份和增量备份来完成。
- 可以使用 tar 命令保存归档文件。
- 为了提高备份效率，也可以使用 rsync 结合 tar 来完成。
- 无需保留备份历史归档：若无需从历史备份恢复到正确状态，则只备份系统最“新鲜”的状态即可。这可以简单地使用 rsync 同步来完成。此时通常称为镜像。镜像可以分为两种：
- 被镜像的目录在各个主机上保持相同的位置。此时一般是为了实施负载均衡而对多个主机进行同步镜像。例如：将主机 A 的 /srv/www 目录同步到主机 B 的 /srv/www 目录等。
- 被镜像的目录在各个主机上不保持相同的位置。例如：主机 A 和主机 B 都运行着各自的业务，同时又互为镜像备份。此时主机 A 的 /srv/www 目录同步到主机 B 的 /backups/hosta/www 目录；主机 B 的 /srv/www 目录同步到主机 A 的 /backups/hostb/www 目录等。
rsync 命令
rsync 是一个功能非常强大的工具，其命令也有很多功能选项。rsync 的命令格式为：
1）本地使用： rsync [OPTION...] SRC... [DEST] 2）通过远程 Shell 使用： 拉: rsync [OPTION...] [USER@]HOST:SRC... [DEST] 推: rsync [OPTION...] SRC... [USER@]HOST:DEST 3）访问 rsync 服务器: 拉: rsync [OPTION...] [USER@]HOST::SRC... [DEST] 推: rsync [OPTION...] SRC... [USER@]HOST::DEST 拉: rsync [OPTION...] rsync://[USER@]HOST[:PORT]/SRC... [DEST] 推: rsync [OPTION...] SRC... rsync://[USER@]HOST[:PORT]/DEST
其中：
- SRC: 是要复制的源位置
- DEST: 是复制目标位置
- 若本地登录用户与远程主机上的用户一致，可以省略 USER@
- 使用远程 shell 同步时，主机名与资源之间使用单个冒号“:”作为分隔符
- 使用 rsync 服务器同步时，主机名与资源之间使用两个冒号“::”作为分隔符
- 当访问 rsync 服务器时也可以使用 rsync:// URL
- “拉”复制是指从远程主机复制文件到本地主机
- “推”复制是指从本地主机复制文件到远程主机
- 当进行“拉”复制时，若指定一个 SRC 且省略 DEST，则只列出资源而不进行复制
下面列出常用选项：
| 选项 | 说明 |
|---|---|
| -a, ––archive | 归档模式，表示以递归方式传输文件，并保持所有文件属性，等价于 -rlptgoD (注意不包括 -H) |
| -r, ––recursive | 对子目录以递归模式处理 |
| -l, ––links | 保持符号链接文件 |
| -H, ––hard-links | 保持硬链接文件 |
| -p, ––perms | 保持文件权限 |
| -t, ––times | 保持文件时间信息 |
| -g, ––group | 保持文件属组信息 |
| -o, ––owner | 保持文件属主信息 (super-user only) |
| -D | 保持设备文件和特殊文件 (super-user only) |
| -z, ––compress | 在传输文件时进行压缩处理 |
| ––exclude=PATTERN | 指定排除一个不需要传输的文件匹配模式 |
| ––exclude-from=FILE | 从 FILE 中读取排除规则 |
| ––include=PATTERN | 指定需要传输的文件匹配模式 |
| ––include-from=FILE | 从 FILE 中读取包含规则 |
| ––copy-unsafe-links | 拷贝指向SRC路径目录树以外的链接文件 |
| ––safe-links | 忽略指向SRC路径目录树以外的链接文件（默认） |
| ––existing | 仅仅更新那些已经存在于接收端的文件，而不备份那些新创建的文件 |
| ––ignore-existing | 忽略那些已经存在于接收端的文件，仅备份那些新创建的文件 |
| -b, ––backup | 当有变化时，对目标目录中的旧版文件进行备份 |
| ––backup-dir=DIR | 与 -b 结合使用，将备份的文件存到 DIR 目录中 |
| ––link-dest=DIR | 当文件未改变时基于 DIR 创建硬链接文件 |
| ––delete | 删除那些接收端还有而发送端已经不存在的文件 |
| ––delete-before | 接收者在传输之前进行删除操作 (默认) |
| ––delete-during | 接收者在传输过程中进行删除操作 |
| ––delete-after | 接收者在传输之后进行删除操作 |
| ––delete-excluded | 在接收方同时删除被排除的文件 |
| -e, ––rsh=COMMAND | 指定替代 rsh 的 shell 程序 |
| ––ignore-errors | 即使出现 I/O 错误也进行删除 |
| ––partial | 保留那些因故没有完全传输的文件，以是加快随后的再次传输 |
| ––progress | 在传输时显示传输过程 |
| -P | 等价于 ––partial ––progress |
| ––delay-updates | 将正在更新的文件先保存到一个临时目录（默认为 “.~tmp~”），待传输完毕再更新目标文件 |
| -v, ––verbose | 详细输出模式 |
| -q, ––quiet | 精简输出模式 |
| -h, ––human-readable | 输出文件大小使用易读的单位（如，K，M等） |
| -n, ––dry-run | 显示哪些文件将被传输 |
| ––list-only | 仅仅列出文件而不进行复制 |
| ––rsyncpath=PROGRAM | 指定远程服务器上的 rsync 命令所在路径 |
| ––password-file=FILE | 从 FILE 中读取口令，以避免在终端上输入口令，通常在 cron 中连接 rsync 服务器时使用 |
| -4, ––ipv4 | 使用 IPv4 |
| -6, ––ipv6 | 使用 IPv6 |
| ––version | 打印版本信息 |
| ––help | 显示帮助信息 |
- 若使用普通用户身份运行 rsync 命令，同步后的文件的属主将改变为这个普通用户身份。
- 若使用超级用户身份运行 rsync 命令，同步后的文件的属主将保持原来的用户身份。
rsync 的基本使用
在本地磁盘同步数据
# rsync -a --delete /home /backups # rsync -a --delete /home/ /backups/home.0
在指定复制源时，路径是否有最后的 “/” 有不同的含义，例如：
- /home ： 表示将整个 /home 目录复制到目标目录
- /home/ ： 表示将 /home 目录中的所有内容复制到目标目录
使用基于 ssh 的 rsync 远程同步数据
- 同步静态主机表文件
# 执行“推”复制同步（centos5 是可解析的远程主机名） [root@soho ~]# rsync /etc/hosts centos5:/etc/hosts # 执行“拉”复制同步（soho 是可解析的远程主机名） [root@centos5 ~]# rsync soho:/etc/hosts /etc/hosts
- 同步用户的环境文件
# 执行“推”复制同步 [osmond@soho ~]$ rsync ~/.bash* centos5: # 执行“拉”复制同步 [osmond@cnetos5 ~]$ rsync soho:~/.bash* .
- 同步站点根目录
# 执行“推”复制同步 [osmond@soho ~]$ rsync -avz --delete /var/www root@192.168.0.101:/var/www # 执行“拉”复制同步 [osmond@cnetos5 ~]$ rsync -avz --delete root@192.168.0.55:/var/www /var/www
- 使用基于 ssh 的 rsync 同步数据可以使用 -e ssh 参数，当前的 CentOS 默认指定使用 ssh 作为远程Shell。若您在其他系统上执行 rsync 命令，为确保使用 ssh 作为远程 Shell，请添加 -e ssh 参数。
- 通常 rsync 命令在后台以 cron 任务形式执行，为了避免从终端上输入口令需要设置 ssh。ssh 的设置方法请参考 安全登录守护进程。
使用 rsync 从远程 rsync 服务器同步数据
下面以镜像 CentOS 和 Ubuntu 的软件库为例来说明。
您可以到如下站点查找离自己最近的提供 rsync 服务的镜像站点
然后执行类似如下命令：
rsync -aqzH --delete --delay-updates \ rsync://mirror.centos.net.cn/centos /var/www/mirror/centos rsync -azH --progress --delete --delay-updates \ rsync://ubuntu.org.cn/ubuntu /var/www/mirror/ubuntu/ rsync -azH --progress --delete --delay-updates \ rsync://ubuntu.org.cn/ubuntu-cn /var/www/mirror/ubuntu-cn/
为了每天不断更新，可以安排一个 cron 任务：
# crontab -e # mirror centos at 0:10AM everyday 10 0 * * * rsync -aqzH --delete --delay-updates rsync://mirror.centos.net.cn/centos /var/www/mirror/centos/ # mirror ubuntu at 2:10AM everyday 10 2 * * * rsync -azH --progress --delete --delay-updates rsync://ubuntu.org.cn/ubuntu /var/www/mirror/ubuntu/ # mirror ubuntu-cn at 4:10AM everyday 10 4 * * * rsync -azH --progress --delete --delay-updates rsync://ubuntu.org.cn/ubuntu-cn /var/www/mirror/ubuntu-cn/
如果您安装了自己的匿名 rsync 服务器请相应地更改 rsync URL。有关如何配置匿名 rsync 服务器的内容请参见下节。
筛选 rsync 的传输目标
使用 --exclude/--include 选项
可以使用 ––exclude 选项排除源目录中要传输的文件；同样地，也可以使用 ––include 选项指定要传输的文件。
例如：下面的 rsync 命令将 192.168.0.101 主机上的 /www 目录（不包含 /www/logs 和 /www/conf子目录）复制到本地的 /backup/www/ 。
# rsync -vzrtopg --delete --exclude "logs/" --exclude "conf/" --progress \ backup@192.168.0.101:/www/ /backup/www/
又如：下面的 rsync 命令仅复制目录结构而忽略掉目录中的文件。
# rsync -av --include '*/' --exclude '*' \ backup@192.168.0.101:/www/ /backup/www-tree/
选项 ––include 和 ––exclude 都不能使用间隔符。例如：
--exclude "logs/" --exclude "conf/"
不能写成
--exclude "logs/ conf/"
使用 --exclude-from/--include-from 选项
当 include/exclude 的规则较复杂时，可以将规则写入规则文件。使用规则文件可以灵活地选择传输哪些文件（include）以及忽略哪些文件（exclude）。
- 若文件/目录在剔除列表中，则忽略传输
- 若文件/目录在包含列表中，则传输之
- 若文件/目录未被提及，也传输之
在 rsync 的命令行中使用 ––exclude-from=FILE 或 ––include-from=FILE 读取规则文件。
规则文件 FILE 的书写约定：
- 每行书写一条规则 RULE
- 以 # 或 ; 开始的行为注释行
包含（include）和排除（exclude）规则的语法如下：
- include PATTERN 或简写为 + PATTERN
- exclude PATTERN 或简写为 - PATTERN
PATTERN 的书写规则如下：
- 以 / 开头：匹配被传输的跟路径上的文件或目录
- 以 / 结尾：匹配目录而非普通文件、链接文件或设备文件
- 使用通配符
- *：匹配非空目录或文件（遇到 / 截止）
- **：匹配任何路径（包含 / ）
- ?：匹配除了 / 的任意单个字符
- [：匹配字符集中的任意一个字符，如 [a-z] 或 [[:alpha:]]
- 可以使用转义字符 \ 将上述通配符还原为字符本身含义
下面给出几个使用规则的例子：
例1：
# 不传输所有后缀为 .o 的文件 - *.o # 不传输传输根目录下名为 foo 的文件或目录 - /foo # 不传输名为 foo 的目录 - foo/ # 不传输 /foo 目录下的名为 bar 的文件或目录 - /foo/bar
例2：
# 传输所有目录和C语言源文件并禁止传输其他文件 + */ + *.c - *
例3：
# 仅传输 foo 目录和其下的 bar.c 文件 + foo/ + foo/bar.c - *
将规则写入规则文件之后，如何在命令行上使用它呢？下面给出一个例子：
首先将下面的规则存入名为 www-rsync-rules 的文件
# 不传输 logs 目录 - logs/ # 不传输后缀为 .tmp 的文件 - *.tmp # 传输 Apache 虚拟主机文档目录（/*/ 匹配域名） + /srv/www/ + /srv/www/*/ + /srv/www/*/htdocs/ + /srv/www/*/htdocs/** # 传输每个用户的 public_html 目录（/*/ 匹配用户名） + /home/ + /home/*/ + /home/*/public_html/ + /home/*/public_html/** # 禁止传输其他 - *
然后即可使用类似如下的 rsync 命令：
rsync -av --delete --exclude-from=www-rsync-rules / remotehost:/dest/dir
rsync 应用示例
使用 rsync 镜像
使用 rsync 对目录做镜像实际上就是做无历史归档的完全备份。下面给出一个镜像远程 Web 站点例子。
笔者在 dreamhost 上维护了3个 Dokuwiki 站点。为了备份这3个站点笔者使用 rsync 进行镜像。远程站点的目录结构如下：
~ |-- sinosmond.com | `-- dokuwiki |-- smartraining.cn | `-- dokuwiki `-- symfony-project.cn `-- dokuwiki
每个 Dokuwiki 的目录结构如下：
dokuwiki |-- bin |-- inc |-- conf --- 存放配置文件的目录 | |-- acl.auth.php --- 访问控制配置文件 ★ | |-- local.php --- 本地配置文件 ★ | |-- users.auth.php --- 用户口令文件 ★ | `-- ……………… |-- data --- 存放数据的目录 | |-- attic --- 存放WIKI版本信息 ★ | |-- cache --- 存放数据缓存 | |-- index --- 存放站内索引 | |-- locks --- 存放编辑页面时的锁定文件 | |-- media --- 存放图片等 ★ | |-- meta --- 存放 meta 以便系统读取这些信息生成页面 ★ | `-- pages --- 存放 wiki 页面 ★ `-- lib |-- plugins --- 存放插件的目录 ☆ |-- tpl --- 存放模版的目录 ☆ `-- ………………
为了减少网络流量，只同步标有 ★ 的目录或文件。若在站点运行过程中新安装了插件或更换了模板，也应该同步标有 ☆ 的目录。为此编写如下的规则文件 /root/bin/backup/dw-exclude.txt：
- dokuwiki/bin/ - dokuwiki/inc/ - dokuwiki/data/cache/ - dokuwiki/data/locks/ - dokuwiki/data/index/ + dokuwiki/conf/acl.auth.php + dokuwiki/conf/local.php + dokuwiki/conf/users.auth.php - dokuwiki/conf/* + dokuwiki/lib/plugins/ # 不同步系统默认安装的插件 - dokuwiki/lib/plugins/acl/ - dokuwiki/lib/plugins/config/ - dokuwiki/lib/plugins/importoldchangelog/ - dokuwiki/lib/plugins/importoldindex/ - dokuwiki/lib/plugins/info/ - dokuwiki/lib/plugins/plugin/ - dokuwiki/lib/plugins/revert/ - dokuwiki/lib/plugins/usermanager/ - dokuwiki/lib/plugins/action.php - dokuwiki/lib/plugins/admin.php - dokuwiki/lib/plugins/syntax.php + dokuwiki/lib/tpl # 不同步系统默认安装的模板 - dokuwiki/lib/tpl/default/ - dokuwiki/lib/* - dokuwiki/COPYING - dokuwiki/doku.php - dokuwiki/feed.php - dokuwiki/index.php - dokuwiki/install* - dokuwiki/README - dokuwiki/VERSION
下面是同步脚本 /root/bin/backup/rsync-dw.sh
#!/bin/bash ##################################### # mirror dokuwiki website # $1 --- domain (ex: smartraining.cn) # $2 --- full or update ##################################### # declare some variable RmtUser=osmond RmtIP=208.113.163.110 RmtPath=$1/dokuwiki BackupRoot=/backups/$1 Excludes="--exclude-from=/root/bin/backup/dw-exclude.txt" # use rsync for mirror if [ "$2" == "full" ] then [ -d /backups/$1 ] || mkdir -p /backups/$1 excludesfile="/tmp/first-excludes" cat > ${excludesfile} << EOF + dokuwiki/data/cache/_dummy - dokuwiki/data/cache/* + dokuwiki/data/locks/_dummy - dokuwiki/data/locks/* + dokuwiki/data/index/_dummy - dokuwiki/data/index/* EOF /usr/bin/rsync -avzP --exclude-from=${excludesfile} \ $RmtUser@$RmtIP:$RmtPath $BackupRoot else /usr/bin/rsync -avzP --delete $Excludes \ $RmtUser@$RmtIP:$RmtPath $BackupRoot fi首次备份可以使用类似如下的命令（为了在本地保留一个完整复本）：
# /root/bin/backup/rsync-dw.sh smartraining.cn full # /root/bin/backup/rsync-dw.sh sinosmond.com full # /root/bin/backup/rsync-dw.sh symfony-project.cn full
可以安排 cron 任务以便日后更新：
# crontab -e 05 1 * * * /root/bin/backup/rsync-dw.sh smartraining.cn 25 1 * * * /root/bin/backup/rsync-dw.sh sinosmond.com 45 1 * * * /root/bin/backup/rsync-dw.sh symfony-project.cn
普通型增量备份
使用 rsync 可以做增量备份。rsync 提供了 -b ––backup-dir 选项，使用这个选项可以将有变化的文件进行更新同时将其旧版本保存在指定的目录中，从而实现增量备份。 下面是对 /home 进行增量备份的步骤说明：
# 第0次备份 # 首先复制 /home 目录的内容到备份目录 /backups/daily/home.0， # rsync -a /home/ /backups/daily/home.0 # /backups/daily/home.0 总是同步到最新的状态，可以每隔一段时间（如一周） # 对其内容进行打包压缩生成归档文件（完全备份）存在 /backups/archive/。 # 第1次备份（此为核心操作） # 将 /home 目录的内容同步到目录 /backups/daily/home.0， # 并将有变化的文件的旧版本保存到 /backups/daily/home.1， # 若每天执行一次，则目录 /backups/daily/home.1 保存了有变化文件一天前的状态。 # rsync -a --delete -b --backup-dir=/backups/daily/home.1 /home/ /backups/daily/home.0 # 第2次备份 # 将备份目录 /backups/daily/home.1 更名为 /backups/daily/home.2 # mv /backups/daily/home.1 /backups/daily/home.2 # 执行第1次备份的核心操作 # 第n次备份 # 将早先的备份目录 /backups/daily/home.n 到 /backups/daily/home.1 # 依次更名为 /backups/daily/home.(n+1) 到 /backups/daily/home.2 # 执行第1次备份的核心操作
下面给出一个增量备份示例脚本。
#!/bin/bash #======================== # 您可以安排 cron 任务执行本脚本 # > crontab -e # # daily : 1 1 * * * /path/to/script/rsync-backup.sh #======================== mydate="`date '+%Y%m%d.%H%M'`" # Define rmt location RmtUser=root RmtHost=192.168.0.55 RmtPath=/home/ BackupSource="${RmtUser}@${RmtHost}:${RmtPath}" #BackupSource="/home/" # 若进行本地备份则用本地路径替换上面的行 # Define location of backup BackupRoot="/backups/$RmtHost/" # BackupRoot="/backups/localhost/" # 若进行本地备份则用本地路径替换上面的行 LogFile="${BackupRoot}/backup.log" ExcludeList="/root/backup/backup-exclude-list.txt" BackupName='home' BackupNum="7" # 指定保留多少个增量备份（适用于每周生成归档文件） #BackupNum="31" # 指定保留多少个增量备份（适用于每月生成归档文件） # 定义函数检查目录 $1 是否存在，若不存在创建之 checkDir() { if [ ! -d "${BackupRoot}/$1" ] ; then mkdir -p "${BackupRoot}/$1" fi } # 定义函数实现目录滚动 # $1 -> 备份路径 # $2 -> 备份名称 # $3 -> 增量备份的数量 rotateDir() { for i in `seq $(($3 - 1)) -1 1` do if [ -d "$1/$2.$i" ] ; then /bin/rm -rf "$1/$2.$((i + 1))" mv "$1/$2.$i" "$1/$2.$((i + 1))" fi done } # 调用函数 checkDir ，确保目录存在 checkDir "archive" checkDir "daily" #======= Backup Begin ================= # S1: Rotate daily. rotateDir "${BackupRoot}/daily" "$BackupName" "$BackupNum" checkDir "daily/${BackupName}.0/" checkDir "daily/${BackupName}.1/" mv ${LogFile} ${BackupRoot}/daily/${BackupName}.1/ cat >> ${LogFile} <<_EOF =========================================== Backup done on: $mydate =========================================== _EOF # S2: Do the backup and save difference in ${BackupName}.1 rsync -av --delete \ -b --backup-dir=${BackupRoot}/daily/${BackupName}.1 \ --exclude-from=${ExcludeList} \ $BackupSource ${BackupRoot}/daily/${BackupName}.0 \ 1>> ${LogFile} 2>&1 # S3: Create an archive backup every week if [ `date +%w` == "0" ] # 每周日做归档 # if [ `date +%d` == "01" ] # 每月1日做归档 then tar -cjf ${BackupRoot}/archive/${BackupName}-${mydate}.tar.bz2 \ -C ${BackupRoot}/daily/${BackupName}.0 . fi您可以适当修该上述脚本中变量：
RmtPath="$1/" #BackupSource="$1/" BackupName="$1"
然后传递脚本参数备份其他目录，例如要备份 /www 可以使用如下命令：
./rsync-backup.sh /www
快照型增量备份
使用 rsync 可以做快照（Snapshot）型增量备份。每一个快照都相当于一个完全备份。其核心思想是：对有变化的文件进行复制；对无变化的文件创建硬链接以减少磁盘占用。
下面是对 /home 进行快照型增量备份的步骤说明：
# 第0次备份 # 首先复制 /home 目录的内容到备份目录 /backups/home.0 # rsync -a /home/ /backups/home.0 # 第1次备份（此为核心操作） # 以硬链接形式复制 /backups/home.0 到 /backups/home.1 # cp -al /backups/home.0 /backups/home.1 # 将 /home 目录的内容同步到目录 /backups/home.0 # （rsync 在发现变化的文件时，先删除之，然后在创建该文件） # rsync -a --delete /home/ /backups/home.0 # 第2次备份 # 将备份目录 /backups/home.1 更名为 /backups/home.2 # mv /backups/home.1 /backups/home.2 # 执行第1次备份的核心操作 # 第n次备份 # 将早先的备份目录 /backups/home.n 到 /backups/home.1 # 依次更名为 /backups/home.(n+1) 到 /backups/home.2 # 执行第1次备份的核心操作
rsync 2.5.6 版本之后提供了 ––link-dest 选项，如下两条核心操作命令：
cp -al /backups/home.0 /backups/home.1 rsync -a --delete /home/ /backups/home.0
可以简化为如下的一条命令：
rsync -a --delete --link-dest=/backups/home.1 /home/ /backups/home.0
下面给出一个快照型增量备份示例脚本，该脚本来自http://www.mikerubel.org/computers/rsync_snapshots/contributed/peter_schneider-kamp
#!/bin/bash # ---------------------------------------------------------------------- # mikes handy rotating-filesystem-snapshot utility # ---------------------------------------------------------------------- # RCS info: $Id: make_snapshot.sh,v 1.6 2002/04/06 04:20:00 mrubel Exp $ # ---------------------------------------------------------------------- # this needs to be a lot more general, but the basic idea is it makes # rotating backup-snapshots of /home whenever called # ---------------------------------------------------------------------- # ------------- system commands used by this script -------------------- ID='/usr/bin/id'; ECHO='/bin/echo'; MOUNT='/bin/mount'; RM='/bin/rm'; MV='/bin/mv'; CP='/bin/cp'; TOUCH='/usr/bin/touch'; RSYNC='/usr/bin/rsync'; # ------------- file locations ----------------------------------------- MOUNT_DEVICE=/dev/hdb1; SNAPSHOT_RW=/root/snapshots; EXCLUDES=/etc/snapshot_exclude; # ------------- backup configuration------------------------------------ BACKUP_DIRS="/etc /home" NUM_OF_SNAPSHOTS=3 BACKUP_INTERVAL=hourly # ------------- the script itself -------------------------------------- # make sure we're running as root if (( `$ID -u` != 0 )); then { $ECHO "Sorry, must be root. Exiting..."; exit; } fi echo "Starting snapshot on "`date` # attempt to remount the RW mount point as RW; else abort $MOUNT -o remount,rw $MOUNT_DEVICE $SNAPSHOT_RW ; if (( $? )); then { $ECHO "snapshot: could not remount $SNAPSHOT_RW readwrite"; exit; } fi; # rotating snapshots for BACKUP_DIR in $BACKUP_DIRS do NUM=$NUM_OF_SNAPSHOTS # step 1: delete the oldest snapshot, if it exists: if [ -d ${SNAPSHOT_RW}${BACKUP_DIR}/${BACKUP_INTERVAL}.$NUM ] ; then \ $RM -rf ${SNAPSHOT_RW}${BACKUP_DIR}/${BACKUP_INTERVAL}.$NUM ; \ fi ; NUM=$(($NUM-1)) # step 2: shift the middle snapshots(s) back by one, if they exist while [[ $NUM -ge 1 ]] do if [ -d ${SNAPSHOT_RW}${BACKUP_DIR}/${BACKUP_INTERVAL}.$NUM ] ; then \ $MV ${SNAPSHOT_RW}${BACKUP_DIR}/${BACKUP_INTERVAL}.$NUM ${SNAPSHOT_RW}${BACKUP_DIR}/${BACKUP_IN} fi; NUM=$(($NUM-1)) done # step 3: make a hard-link-only (except for dirs) copy of the latest snapshot, # if that exists if [ -d ${SNAPSHOT_RW}${BACKUP_DIR}/${BACKUP_INTERVAL}.0 ] ; then \ $CP -al ${SNAPSHOT_RW}${BACKUP_DIR}/${BACKUP_INTERVAL}.0 ${SNAPSHOT_RW}${BACKUP_DIR}/${BACKUP_INTERVAL} fi; # step 4: rsync from the system into the latest snapshot (notice that # rsync behaves like cp --remove-destination by default, so the destination # is unlinked first. If it were not so, this would copy over the other # snapshot(s) too! $RSYNC \ -va --delete --delete-excluded \ --exclude-from="$EXCLUDES" \ ${BACKUP_DIR}/ ${SNAPSHOT_RW}${BACKUP_DIR}/${BACKUP_INTERVAL}.0 ; # step 5: update the mtime of ${BACKUP_INTERVAL}.0 to reflect the snapshot time $TOUCH ${SNAPSHOT_RW}${BACKUP_DIR}/${BACKUP_INTERVAL}.0 ; done # now remount the RW snapshot mountpoint as readonly $MOUNT -o remount,ro $MOUNT_DEVICE $SNAPSHOT_RW ; if (( $? )); then { $ECHO "snapshot: could not remount $SNAPSHOT_RW readonly"; exit; } fi;什么是直连线?什么是交叉线? 如何做？
交叉线和直通线是两种不同的双绞线类型。
交叉线的
线序是从左边起：橙白-橙-绿白-蓝-蓝白-绿-棕白-棕。
另一端线序为 绿白- 绿- 橙白--蓝--蓝白---橙--棕白--棕
两台的电脑用网卡直连，用交叉线，交叉线的做法！
一头是568B：白橙 橙 白绿 蓝 白蓝 绿 白棕 棕
一头是568A：白绿 绿 白橙 蓝 白蓝 橙 白棕 棕
*****************************************
百兆网线做法: 橙白 橙 绿白 蓝 蓝白 绿 棕白 棕
千兆网线做法: 绿白 绿 橙白 棕白 棕 橙 蓝 蓝白
有两种：
一是：586A速度为100m，任何地方。
二是：586B速度为100m，任何地方。不过现在这种居多。
注意：网线要用超五类的，才会快。网线的两头要一致。不能一头是586a一头是586b。
568A:
绿白 绿 橙白 蓝 蓝白 橙 棕白 棕
568B:
橙白 橙 绿白 蓝 蓝白 绿 棕白 棕
这是国际标准
在网络中现在多用B的平行线:两头是568B
多机直连或者打印机共用就要用交叉线:一头568A一头568B
直通线 两端做成一样的，主要连接计算机和交换机
做法：橙白 橙 绿白 蓝 蓝白 绿 棕白 棕
交叉线 1326对调 主要连接两个相同的设备
做法：一端是：橙白 橙 绿白 蓝 蓝白 绿 棕白 棕
另一端是：绿白 绿 橙白 蓝 蓝白 橙 棕白 棕
全反线 两端做成相反的。主要是测试用
***********************************************
有专用钳子才行
网线是网络中重要的组成部分之一，最常用的是5类非屏蔽双绞线UTP。常用于10 Base T和100Base TX。 由于个人叫法与理解不同造成现在对网线叫法比较混乱，有标准网线、直通网线、直连网线、级连网线、交叉网线等等。现就这几种叫法解释区别。100Base TX 使用5 类电缆的100 Mbit/s 快速以太网。10 Base T 使用非屏蔽双绞线(UTP) 电缆，满足电子和电气工程师协会(IEEE) 802.3 标准(与以太网相同)传输速率为10 Mbps 的局域网。
标准网线
采用朗讯标准制作的网线，用于数据终端设备计算机路由器与HUB或SWITCH相连在10 Base T下，数据传输速率为10 Mbit/s ，在100Base TX下数据传输速率为100 Mbit/s 。
具体制作线序：
Pin 1 2 3 4 5 6 7 8
颜色 橙白 橙 绿白 蓝 蓝白 绿 棕白 棕
直通网线
用于数据终端设备、计算机、路由器与HUB或SWITCH相连只要两边两头线序一致即可由于此种做法达不到最好的电气传输特性一般只能用于10 Base T 在用于100Base TX下数据传输速率达不到100 Mbit/s。
直连网线
有人认为是用于计算机与计算机相连的网线,那么此时就也要制作成交叉网线。
有人认为与直通网线概念一样,所以要注意此叫法防止理解错误.
级连网线
用于HUB SWITCH彼此互连,做法与交叉网线相同。
交叉网线
在标准网线线序下需将1与3 2与6芯线进行交叉形成所谓交叉网线其线序及连接关系如下:
具体线序
一头：
Pin 1 2 3 4 5 6 7 8
颜色 绿白 绿 橙白 蓝 蓝白 橙 棕白 棕
另一头
Pin 1 2 3 4 5 6 7 8
颜色 橙白 橙 绿白 蓝 蓝白 绿 棕白 棕
交叉网线常用于两台以太网交换机或两台计算机需要直接连接通信时。例如：SWITCH与SWITCH使用通端口级连时\计算机与计算机相互连接通信时。
总结
为避免叫法混乱理解错误尽量将叫法统一为标准网线和交叉网线。
两台电脑直连，双绞线需按“1→3,2→6交换”进行错线
具体制作方法是：将RJ45一头的第一根线与第三根线调换，第二根线与第六根线调换，其他不变。
第一个头：橙，橙白，绿，蓝白，蓝，绿白，棕，棕白；
另一个头：绿，绿白，橙，蓝白，蓝，橙白，棕 棕白。
图示如下：
1——3
2——6
3——1
4——4
5——5
6——2
7——7
8——8
如果使用HUB把三台电脑以上的电脑组成一个局域网时，双绞线按一一对应的接法即可
检查本机网卡链路是否正确：#ping -c 2 192.168.0.1(本机IP地址)
检查网关是否正确： #ping -c 2 192.168.0.254(网关IP地址)
检查外部连通性： #ping -c 2 www.google.com.hk
#include<afxinet.h>
int main(int argc,char* argv[])
{
CInternetSession session("phy5");
char* url = new char[100000];
char* address = new char[100];
cout<<"请输入需要采集的完整网址:"<<endl;
cin>>url;
cout<<"请输入文件的完整存储地址:"<<endl;
cin>>address;
CHttpFile* pfile = (CHttpFile*)session.OpenURL(url);
DWORD dwStatusCode;
pfile->QueryInfoStatusCode(dwStatusCode);
CStdioFile sfile;
sfile.Open(address,CFile::modeCreate|CFile::modeReadWrite|CFile::typeText);
if(dwStatusCode == HTTP_STATUS_OK)
{
CString content;
CString data;
cout<<"正在疯狂的采集中...\n";
while(pfile->ReadString(data))
{
content += data + "\n";
sfile.WriteString(data);
}
content.TrimRight();
cout<<"采集完毕\n";
}
pfile->Close();
sfile.Close();
delete pfile;
delete url;
delete address;
session.Close();
return 0;
}
