1、MyISAM
:默认表类型,它是基于传统的ISAM类型,ISAM是Indexed Sequential Access Method (有索引的顺序访问方法) 的缩写,它是存储记录和文件的标准方法。不是事务安全的,而且不支持外键,如果执行大量的select,insert MyISAM比较适合。
2、InnoDB
:支持事务安全的引擎,支持外键、行锁、事务是他的最大特点。如果有大量的update和insert,建议使用InnoDB,特别是针对多个并发和QPS较高的情况。
一、表锁差异
MyISAM:
myisam
只支持表级锁,用户在操作myisam
表时,select,update,delete,insert
语句都会给表自动加锁,如果加锁以后的表满足insert并发的情况下,可以在表的尾部插入新的数据。也可以通过lock table
命令来锁表,这样操作主要是可以模仿事务,但是消耗非常大,一般只在实验演示中使用。
InnoDB :
Innodb
支持事务和行级锁,是innodb
的最大特色。
事务的ACID属性:atomicity,consistent,isolation,durable
。
并发事务带来的几个问题:更新丢失,脏读,不可重复读,幻读。
事务隔离级别:未提交读(Read uncommitted),已提交读(Read committed),可重复读(Repeatable read),可序列化(Serializable)
四种隔离级别的比较
查看mysql的默认事务隔离级别“show global variables like ‘tx_isolation’;
”
Innodb的行锁模式有以下几种:共享锁,排他锁,意向共享锁(表锁),意向排他锁(表锁),间隙锁。
注意:当语句没有使用索引,innodb不能确定操作的行,这个时候就使用的意向锁,也就是表锁
关于死锁:
什么是死锁?当两个事务都需要获得对方持有的排他锁才能完成事务,这样就导致了循环锁等待,也就是常见的死锁类型。
解决死锁的方法:
1、 数据库参数
2、 应用中尽量约定程序读取表的顺序一样
3、 应用中处理一个表时,尽量对处理的顺序排序
4、 调整事务隔离级别(避免两个事务同时操作一行不存在的数据,容易发生死锁)
二、数据库文件差异
MyISAM :
myisam
属于堆表
myisam
在磁盘存储上有三个文件,每个文件名以表名开头,扩展名指出文件类型。
.frm
用于存储表的定义
.MYD
用于存放数据
.MYI
用于存放表索引
myisam
表还支持三种不同的存储格式:
静态表(默认,但是注意数据末尾不能有空格,会被去掉)
动态表
压缩表
InnoDB :
innodb
属于索引组织表
innodb
有两种存储方式,共享表空间存储和多表空间存储
两种存储方式的表结构和myisam
一样,以表名开头,扩展名是.frm
。
如果使用共享表空间,那么所有表的数据文件和索引文件都保存在一个表空间里,一个表空间可以有多个文件,通过innodb_data_file_path
和innodb_data_home_dir
参数设置共享表空间的位置和名字,一般共享表空间的名字叫ibdata1-n
。
如果使用多表空间,那么每个表都有一个表空间文件用于存储每个表的数据和索引,文件名以表名开头,以.ibd
为扩展名。
三、索引差异
1、关于自动增长
myisam引擎的自动增长列必须是索引,如果是组合索引,自动增长可以不是第一列,他可以根据前面几列进行排序后递增。
innodb引擎的自动增长咧必须是索引,如果是组合索引也必须是组合索引的第一列。
2、关于主键
myisam允许没有任何索引和主键的表存在,
myisam的索引都是保存行的地址。
innodb引擎如果没有设定主键或者非空唯一索引,就会自动生成一个6字节的主键(用户不可见)
innodb的数据是主索引的一部分,附加索引保存的是主索引的值。
3、关于count()函数
myisam
保存有表的总行数,如果select count(*) from table;
会直接取出出该值
innodb
没有保存表的总行数,如果使用select count(*) from table;
就会遍历整个表,消耗相当大,但是在加了wehre
条件后,myisam
和innodb
处理的方式都一样。
4、全文索引
myisam
支持FULLTEXT
类型的全文索引
innodb
不支持FULLTEXT
类型的全文索引,但是innodb
可以使用sphinx插件
支持全文索引,并且效果更好。(sphinx
是一个开源软件,提供多种语言的API接口,可以优化mysql的各种查询)
5、delete from table
使用这条命令时,innodb
不会从新建立表,而是一条一条的删除数据,在innodb
上如果要清空保存有大量数据的表,最 好不要使用这个命令。(推荐使用truncate table
,不过需要用户有drop
此表的权限)
6、索引保存位置
myisam
的索引以表名+.MYI
文件分别保存。
innodb
的索引和数据一起保存在表空间里。
四、开发的注意事项
可以用
show create table tablename
命令看表的引擎类型。对不支持事务的表做
start/commit
操作没有任何效果,在执行commit
前已经提交。可以执行以下命令来切换非事务表到事务(数据不会丢失),
innodb
表比myisam
表更安全:alter table tablename type=innodb;
或者使用alter table tablename engine = innodb;
默认
innodb
是开启自动提交的,如果你按照myisam
的使用方法来编写代码页不会存在错误,只是性能会很低。如何在编写代码时候提高数据库性能呢?a、尽量将多个语句绑到一个事务中,进行提交,避免多次提交导致的数据库开销。
b、在一个事务获得排他锁或者意向排他锁以后,如果后面还有需要处理的sql语句,在这两条或者多条sql语句之间程序应尽量少的进行逻辑运算和处理,减少锁的时间。
c、尽量避免死锁
d、sql语句如果有
where
子句一定要使用索引,尽量避免获取意向排他锁。f、针对我们自己的数据库环境,日志系统是直插入,不修改的,所以我们使用混合引擎方式,
ZION_LOG_DB
照旧使用myisam
存储引擎,只有ZION_GAME_DB,ZION_LOGIN_DB,DAUM_BILLING
使用Innodb
引擎。
五、究竟该怎么选择
下面先让我们回答一些问题:
◆ 你的数据库有外键吗?
◆ 你需要事务支持吗?
◆ 你需要全文索引吗?
◆ 你经常使用什么样的查询模式?
◆ 你的数据有多大?
myisam
只有索引缓存innodb
不分索引文件数据文件innodb buffer
myisam
只能管理索引,在索引数据大于分配的资源时,会由操作系统来cache
;数据文件依赖于操作系统的cache
。innodb
不管是索引还是数据,都是自己来管理
思考上面这些问题可以让你找到合适的方向,但那并不是绝对的。如果你需要事务处理或是外键,那么InnoDB
可能是比较好的方式。如果你需要全文索引,那么通常来说 MyISAM
是好的选择,因为这是系统内建的,然而,我们其实并不会经常地去测试两百万行记录。所以,就算是慢一点,我们可以通过使用Sphinx
从InnoDB
中获得全文索引。
数据的大小,是一个影响你选择什么样存储引擎的重要因素,大尺寸的数据集趋向于选择InnoDB
方式,因为其支持事务处理和故障恢复。数据库的在小决定了故障恢复的时间长短,InnoDB
可以利用事务日志进行数据恢复,这会比较快。而MyISAM
可能会需要几个小时甚至几天来干这些事,InnoDB
只需要几分钟。
操作数据库表的习惯可能也会是一个对性能影响很大的因素。比如: COUNT()
在 MyISAM
表中会非常快,而在InnoDB
表下可能会很痛苦。而主键查询则在InnoDB
下会相当相当的快,但需要小心的是如果我们的主键太长了也会导致性能问题。大批的inserts
语句在 MyISAM
下会快一些,但是updates
在InnoDB
下会更快一些——尤其在并发量大的时候。
所以,到底你检使用哪一个呢?根据经验来看,如果是一些小型的应用或项目,那么MyISAM
也许会更适合。当然,在大型的环境下使用MyISAM
也会有很大成功的时候,但却不总是这样的。如果你正在计划使用一个超大数据量的项目,而且需要事务处理或外键支持,那么你真的应该直接使用InnoDB
方式。但需要记住InnoDB
的表需要更多的内存和存储,转换100GB 的MyISAM
表到InnoDB
表可能会让你有非常坏的体验。
对于支持事务的InnoDB
类型的表,影响速度的主要原因是AUTOCOMMIT
默认设置是打开的,而且程序没有显式调用BEGIN
开始事务,导致每插入一条都自动Commit
,严重影响了速度。可以在执行sql前调用begin
,多条sql形成一个事务(即使autocommit
打开也可以),将大大提高性能。
InnoDB
InnoDB
给 MySQL 提供了具有事务(commit
)、回滚(rollback
)和崩溃修复能力 (crash recovery capabilities
)的事务安全(transaction-safe (ACID compliant)
)型表。InnoDB
提供了行锁(locking on row level
),提供与 Oracle
类型一致的不加锁读取(non- locking read in SELECTs
)。这些特性均提高了多用户并发操作的性能表现。在InnoDB
表中不需要扩大锁定 (lock escalation
),因为InnoDB
的列锁定(row level locks
)适宜非常小的空间。 InnoDB
是 MySQL 上第一个提供外键约束(FOREIGN KEY constraints
)的表引擎。
InnoDB
的设计目标是处理大容量数据库系统,它的 CPU 利用率是其它基于磁盘的关系数据库引擎所不能比的。在技术上,InnoDB 是一套放在 MySQL 后台的完整数据库系统,InnoDB 在主内存中建立其专用的缓冲池用于高速缓冲数据和索引。 InnoDB 把数据和索引存放在表空间里,可能包含多个文件,这与其它的不一样,举例来说,在 MyISAM 中,表被存放在单独的文件中。InnoDB 表的大小只受限于操作系统的文件大小,一般为 2 GB。
InnoDB所有的表都保存在同一个数据文件ibdata1
中(也可能是多个文件,或者是独立的表空间文件),相对来说比较不好备份,免费的方案可以是拷贝数据文件、备份 binlog,或者用 mysqldump。
MyISAM
MyISAM
是MySQL缺省存贮引擎 .
每张MyISAM
表被存放在三个文件 。frm
文件存放表格定义。 数据文件是MYD (MYData)
。 索引文件是 MYI (MYIndex)
引伸。
因为MyISAM
相对简单所以在效率上要优于InnoDB
..小型应用使用MyISAM
是不错的选择.MyISAM
表是保存成文件的形式,在跨平台的数据转移中使用MyISAM
存储会省去不少的麻烦
以下是一些细节和具体实现的差别:
InnoDB
不支持FULLTEXT
类型的索引。InnoDB
中不保存表的具体行数,也就是说,执行select count() from table时,InnoDB要扫描一遍整个表来计算有多少行,但是MyISAM只要简单的读出保存好的行数即可。注意的是,当count()语句包含 where条件时,两种表的操作是一样的。- 对于
AUTO_INCREMENT
类型的字段,InnoDB
中必须包含只有该字段的索引,但是在MyISAM表
中,可以和其他字段一起建立联合索引。 DELETE FROM table
时,InnoDB
不会重新建立表,而是一行一行的删除。LOAD TABLE FROM MASTER
操作对InnoDB
是不起作用的,解决方法是首先把InnoDB
表改成MyISAM
表,导入数据后再改成InnoDB
表,但是对于使用的额外的InnoDB
特性(例如外键)的表不适用。
另外,InnoDB
表的行锁也不是绝对的,如果在执行一个SQL语句时MySQL不能确定要扫描的范围,InnoDB表同样会锁全表,例如update table set num=1 where name like "%aaa%";
任何一种表都不是万能的,只用恰当的针对业务类型来选择合适的表类型,才能最大的发挥MySQL的性能优势。
六、重复地总结一遍
MyISAM
不支持事务,InnoDB
是事务类型的存储引擎,当我们的表需要用到事务支持的时候,那肯定是不能选择MyISAM
了。MyISAM
只支持表级锁,BDB
支持页级锁和表级锁默认为页级锁,而InnoDB
支持行级锁和表级锁默认为行级锁
表级锁:直接锁定整张表,在锁定期间,其他进程无法对该表进行写操作,如果设置的是写锁,那么其他进程读也不允许
MyISAM
是表级锁定的存储引擎,它不会出现死锁问题
对于write
,表锁定原理如下:
如果表上没有锁,在其上面放置一个写锁,否则,把锁定请求放在写锁队列中。
对于read
,表锁定原理如下 :
如果表上没有写锁定,那么把一个读锁放在其上面,否则把锁请求放在读锁定队列中
当一个锁定被释放时,表可被写锁定队列中的线程得到,然后才是读锁定队列中的线程。这意味着,如果你在一个表上有许多更新,那么你的SELECT语句将等到所有的写锁定线程执行完。
行级锁:只对指定的行进行锁定,其他进程还是可以对表中的其他行进行操作的。
行级锁是Mysql
粒度最小的一种锁,它能大大的减少数据库操作的冲突,但是粒度越小实现成本也越大。
行级锁可能会导致“死锁”,那到底是怎么导致的呢,分析原因:Mysql行级锁并不是直接锁记录,而是锁索引。索引分为主键索引和非主键索引两种,如果一条sql语句操作了主键索引,那么Mysql就会锁定这个主键索引,如果sql语句操作的是非主键索引,那么Mysql会先锁定这个非主键索引,再去锁定主键索引。
在UPDATE
和 DELETE
操作时Mysql不仅会锁定所有WHERE
条件扫描过得索引,还会锁定相邻的键值。
“死锁”举例分析:
表Test:(ID,STATE,TIME) 主键索引:ID 非主键索引:STATE
当执行”UPDATE STATE =1011 WHERE STATE=1000
“ 语句的时候会锁定STATE索引,由于STATE 是非主键索引,所以Mysql还会去请求锁定ID索引
当另一个SQL语句与语句1几乎同时执行时:“UPDATE STATE=1010 WHERE ID=1” 对于语句2 Mysql会先锁定ID索引,由于语句2操作了STATE字段,所以Mysql还会请求锁定STATE索引。这时。彼此锁定着对方需要的索引,又都在等待对方释放锁定。所以出现了”死锁”的情况。
行级锁的优点:
有许多线程访问不同的行时,只存在少量的冲突。
回滚时只有少量的更改
可以长时间锁定单一的行
行级锁缺点:
相对于页级锁和表级锁来说占用了更多的内存
当表的大部分行在使用时,比页级锁和表级锁慢,因为你必须获得更多的锁
当在大部分数据上经常使用GROUP BY操作,肯定会比表级锁和页级锁慢。
页级锁:表级锁速度快,但是冲突多;行级锁速度慢,但冲突少;页级锁就是他俩折中的,一次锁定相邻的一组记录。
MyISAM
引擎不支持外键,InnoDB
支持外键MyISAM
引擎的表在大量高并发的读写下会经常出现表损坏的情况
我们以前做的项目就遇到这个问题,表的INSERT
和 UPDATE
操作很频繁,原来用的MyISAM
引擎,导致表隔三差五就损坏,后来更换成了InnoDB
引擎。
其他容易导致表损坏原因:
服务器突然断电导致数据文件损坏,强制关机(mysqld未关闭情况下)导致表损坏
mysqld进程在写入操作的时候被杀掉
磁盘故障
表损坏常见症状:
查询表不能返回数据或返回部分数据
打开表失败:
Can’t open file: ‘×××.MYI’ (errno: 145)
。
Error: Table ‘p’ is marked as crashed and should be repaired 。
Incorrect key file for table: ‘…’. Try to repair it
Mysql表的恢复:
对于MyISAM
表的恢复:
可以使用Mysql自带的myisamchk
工具: myisamchk -r tablename
或者 myisamchk -o tablename
(比前面的更保险) 对表进行修复
- 对于
count()
查询来说MyISAM
更有优势
因为MyISAM
存储了表中的行数记录,执行SELECT COUNT()
的时候可以直接获取到结果,而InnoDB
需要扫描全部数据后得到结果。
但是注意一点:对于带有WHERE
条件的SELECT COUNT()
语句两种引擎的表执行过程是一样的,都需要扫描全部数据后得到结果
InnoDB
是为处理巨大数据量时的最大性能设计,它的CPU效率可能是任何其它基于磁盘的关系数据库引擎所不能匹敌的。MyISAM
支持全文索引(FULLTEXT
),InnoDB
不支持MyISAM
引擎的表的查询、更新、插入的效率要比InnoDB
高
网上截取了前辈们测试结论:
测试方法:连续提交10个query, 表记录总数:38万 , 时间单位 s
1 | 引擎类型 MyISAM InnoDB 性能相差 |
(1) 加了索引以后,对于MyISAM
查询可以加快:4 206.09733
倍,对InnoDB查询加快510.72921
倍,同时对MyISAM
更新速度减慢为原来的1/2
,InnoDB
的更新速度减慢为原来的1/30
。要看情况决定是否要加索引,比如不查询的log
表,不要做任何的索引。
(2) 如果你的数据量是百万级别的,并且没有任何的事务处理,那么用MyISAM
是性能最好的选择。
(3)InnoDB
表的大小更加的大,用MyISAM
可省很多的硬盘空间。
1 | 在我们测试的这个38w的表中,表占用空间的情况如下: |
七、性能对比
测试的版本是mysql Ver 14.14 Distrib 5.1.49, for debian-linux-gnu (i686)
,使用的是Innodb plugin 1.0.8
(官方称比built-in
版本性能更好)和默认的MyISAM
。
测试机器是笔记本,配置如下:Intel 酷睿2双核 P8600,4G DDR3 1066内存,320G硬盘5400转。
测试一:数据插入性能测试,这里我分别对innodb_flush_log_at_trx_commit
参数打开和关闭都测了了一下,每次测试都是运行40s
,表中数字都是实际插入条数。
1 |
|
可以发现批量插入的性能远高于单条插入,但是一次批量的大小对性能影响不大。每条记录是否都刷新日志的参数对innodb
性能的影响巨大。总体上来说,MyISAM
性能更优一点。这里有一点需要注意,在插入测试过程中,我对系统资源进行了监控,发现MyISAM
对系统资源占用很低,但是Innodb
对磁盘占用却很高,应该是对事务控制多了很多需要记录的日志。
测试二:数据读取性能测试。每次随机读取1000条记录,反复进行读取。
1 |
|
可以看出MyISAM
的读取性能非常恐怖,性能差距在3倍的样子。
以上两个测试发现MyISAM
在无事务的需求下几乎完胜,但是要知道它是表锁,Innodb
是行锁,那么在并发读写同时存在的情况下,那结果会是怎么样呢?!
测试三:两个线程并发写入,2个线程并发读取。
1 |
|
这下立刻显示出Innodb
在并发情况下强劲的性能,几乎没有什么性能衰减。而MyISAM
单条插入速度变得非常慢,批量插入也下降了40%
性能。
总结一下,在写多读少的应用中还是Innodb
插入性能更稳定,在并发情况下也能基本,如果是对读取速度要求比较快的应用还是选MyISAM
。