Mysql_Learning_Notes_mysql系统结构_2

Mysql_Learning_Notes_mysql系统结构_2

三层体系结构,启动方式,日志类型及解析方法,mysql 升级

连接层

• 通信协议处理线程处理账号认证(用户名和密码认证)安全检查等
• tcp/ip 连接 网络+端口号
  • mysql -h x.x.x.x -uroot -pxxxx -P3306
    • ERROR 1129 (HY000): Host 'mysql02' is blocked because of many connection errors; unblock with 'mysqladmin flush-hosts'
    • 错误原因：同一个ip在短时间内产生太多中断的数据库连接而导致的阻塞（超过mysql数据库max_connection_errors的最大值）
    • 解决办法:mysqladmin flush-hosts
  • 尽可能不在命令里出现,可以使用mysql --loginpath 的方式登录.
    • mysql_config_editor set -G p3507 -S /tmp/mgr_mysql3507.sock -p
    • mysql --login-path=p3507
• Unix socket
• Name pipe （win 不常用)
• share memory（win 不常用)

登录认证注意:

mysql -hlocalhost -uroot 认证的是localhost
mysql -h127.1 -uroot 认证的是ip地址

SQL层

• 权限判断(鉴权)、查询解析、优化器&缓存、查询执行&返回等
  
  SQL解析没有软解析,每次都是硬解析,但硬解析损耗很小.
• 为什么不用QC ? 单看查询缓存来说,是有积极作用,但从并发来说,如果实例在频繁的更新,会导致等待(锁),性能并不理想,所只适合不频繁更新的实例.5.7开始默认是关闭的,8.0直接禁了.
• Select sql_no_cache count(*) from users; 通过'sql_no_cache'方式指定某一条SQL不走QC

储存层

数据目录结构:

请求日志错误日志二进制日志中继日志
- 存储引擎(基于磁盘):Innodb、MyISAM、TokuDB 存储引擎API接口
- 存储引擎(基于内存):MEMORY/HEAP
- 存储引擎(基于网络):NDB(不推荐)
特别的文件:

• auto.cnf 常于用存储server-uuid,当复制从库时需要注意,避免server-uuid重复(重复时需要删除此文件,再重新启动会产生新的).
• relay-bin.000001 relay log(中继日志)主要用于存储主库传过来的binlog
• mysql-bin.000001 binlog 主要存储实例修改日志
• ib_logfile0 innodb redo log files
• error.log 错误日志文件排错非常有用的文件
• *.ibd 表数据文件,没有备份并drop表后,数据恢复时的关键文件

配置文件

• 读取位置顺序:

  • /etc/my.cnf
  • /etc/mysql/my.cnf
  • usr/local/mysql/etc/my.cnf
  • ~/.my.cnf

• my.cnf 配置文件的主要部分

  • client 所有客户端及相关程序(如:mysql mysqladmin mysqldump等)
  • mysql 只管"mysql"客户端
  • mysqldump 只管"mysqldump"客户端
  • mysql_multi 多版本启动的配置
  • mysqld mysql服务的配置

• 多实例配置在同一个文件:
  my.cnf
  [mysqld]
  通用参数
  [mysqld3306]
  3306端口实例的参数
  [mysqld3307]
  3306端口实例的参数

启动方式

• mysqld (5.7默认,格式:mysqld --defaults-file=/data/mysql3306/my3306.cnf&)
• mysql_safe (5.6默认)
• mysqld_multi (多版本启动)

日志类型及解析方法

日志文件	选项(配置文件中)	文件名/表名	应用程序
错误	log-error=error.log	error.log	n/a
常规	general_log/ general_log_file=general.log	general.log或mysql.general表	pt-query-digest
慢速查询	slow_query_log=slow.log&long-query_time=x	slow.log或mysql.slow_log表	mysqldumpslow或pt-query-digest
二进制	log-bin=/path/mybinlog&expire-logs-days	mybinlog.000001	mysqlbinlog或pt-query-digest
审计	audit_log&audit_log_file	audit.log	N/A

mysql 升级

• mysql_upgrade -f (小版本)
• 大版本:
  • 全备并查阅官方升级文档
  • innodb脏页比例innodb_max_dirty_pages_pct设置为0
  • innodb_fast_shutdown=0
  • shutdown
  • mysql_upgrade -f

[root@db211_07:07:13 /data/57mysql/mysql3507]
''#tree
.
├── data
│ ├── 3506binlog
│ ├── auto.cnf
│ ├── backup-my.cnf
│ ├── error.log
│ ├── ib_buffer_pool
│ ├── ib_logfile0
│ ├── ib_logfile1
│ ├── ib_logfile2
│ ├── innodb_status.12888
│ ├── master.info
│ ├── mysql
│ │ ├── columns_priv.frm
│ │ ├── columns_priv.MYD
│ │ ├── columns_priv.MYI
│ │ ├── db.frm
│ │ ├── db.MYD
│ │ ├── db.MYI
│ │ ├── db.opt
│ │ ├── engine_cost.frm
│ │ ├── engine_cost.ibd
│ │ ├── event.frm
│ │ ├── event.MYD
│ │ ├── event.MYI
│ │ ├── func.frm
│ │ ├── func.MYD
│ │ ├── func.MYI
│ │ ├── general_log.CSM
│ │ ├── general_log.CSV
│ │ ├── general_log.frm
│ │ ├── gtid_executed.frm
│ │ ├── gtid_executed.ibd
│ │ ├── help_category.frm
│ │ ├── help_category.ibd
│ │ ├── help_keyword.frm
│ │ ├── help_keyword.ibd
│ │ ├── help_relation.frm
│ │ ├── help_relation.ibd
│ │ ├── help_topic.frm
│ │ ├── help_topic.ibd
│ │ ├── innodb_index_stats.frm
│ │ ├── innodb_index_stats.ibd
│ │ ├── innodb_table_stats.frm
│ │ ├── innodb_table_stats.ibd
│ │ ├── ndb_binlog_index.frm
│ │ ├── ndb_binlog_index.MYD
│ │ ├── ndb_binlog_index.MYI
│ │ ├── plugin.frm
│ │ ├── plugin.ibd
│ │ ├── proc.frm
│ │ ├── proc.MYD
│ │ ├── proc.MYI
│ │ ├── procs_priv.frm
│ │ ├── procs_priv.MYD
│ │ ├── procs_priv.MYI
│ │ ├── proxies_priv.frm
│ │ ├── proxies_priv.MYD
│ │ ├── proxies_priv.MYI
│ │ ├── server_cost.frm
│ │ ├── server_cost.ibd
│ │ ├── servers.frm
│ │ ├── servers.ibd
│ │ ├── slave_master_info.frm
│ │ ├── slave_master_info.ibd
│ │ ├── slave_relay_log_info.frm
│ │ ├── slave_relay_log_info.ibd
│ │ ├── slave_worker_info.frm
│ │ ├── slave_worker_info.ibd
│ │ ├── slow_log.CSM
│ │ ├── slow_log.CSV
│ │ ├── slow_log.frm
│ │ ├── tables_priv.frm
│ │ ├── tables_priv.MYD
│ │ ├── tables_priv.MYI
│ │ ├── time_zone.frm
│ │ ├── time_zone.ibd
│ │ ├── time_zone_leap_second.frm
│ │ ├── time_zone_leap_second.ibd
│ │ ├── time_zone_name.frm
│ │ ├── time_zone_name.ibd
│ │ ├── time_zone_transition.frm
│ │ ├── time_zone_transition.ibd
│ │ ├── time_zone_transition_type.frm
│ │ ├── time_zone_transition_type.ibd
│ │ ├── user.frm
│ │ ├── user.MYD
│ │ └── user.MYI
│ ├── performance_schema
│ │ ├── accounts.frm
│ │ ├── cond_instances.frm
│ │ ├── db.opt
│ │ ├── events_stages_current.frm
│ │ ├── events_stages_history.frm
│ │ ├── events_stages_history_long.frm
│ │ ├── events_stages_summary_by_account_by_event_name.frm
│ │ ├── events_stages_summary_by_host_by_event_name.frm
│ │ ├── events_stages_summary_by_thread_by_event_name.frm
│ │ ├── events_stages_summary_by_user_by_event_name.frm
│ │ ├── events_stages_summary_global_by_event_name.frm
│ │ ├── events_statements_current.frm
│ │ ├── events_statements_history.frm
│ │ ├── events_statements_history_long.frm
│ │ ├── events_statements_summary_by_account_by_event_name.frm
│ │ ├── events_statements_summary_by_digest.frm
│ │ ├── events_statements_summary_by_host_by_event_name.frm
│ │ ├── events_statements_summary_by_program.frm
│ │ ├── events_statements_summary_by_thread_by_event_name.frm
│ │ ├── events_statements_summary_by_user_by_event_name.frm
│ │ ├── events_statements_summary_global_by_event_name.frm
│ │ ├── events_transactions_current.frm
│ │ ├── events_transactions_history.frm
│ │ ├── events_transactions_history_long.frm
│ │ ├── events_transactions_summary_by_account_by_event_name.frm
│ │ ├── events_transactions_summary_by_host_by_event_name.frm
│ │ ├── events_transactions_summary_by_thread_by_event_name.frm
│ │ ├── events_transactions_summary_by_user_by_event_name.frm
│ │ ├── events_transactions_summary_global_by_event_name.frm
│ │ ├── events_waits_current.frm
│ │ ├── events_waits_history.frm
│ │ ├── events_waits_history_long.frm
│ │ ├── events_waits_summary_by_account_by_event_name.frm
│ │ ├── events_waits_summary_by_host_by_event_name.frm
│ │ ├── events_waits_summary_by_instance.frm
│ │ ├── events_waits_summary_by_thread_by_event_name.frm
│ │ ├── events_waits_summary_by_user_by_event_name.frm
│ │ ├── events_waits_summary_global_by_event_name.frm
│ │ ├── file_instances.frm
│ │ ├── file_summary_by_event_name.frm
│ │ ├── file_summary_by_instance.frm
│ │ ├── global_status.frm
│ │ ├── global_variables.frm
│ │ ├── host_cache.frm
│ │ ├── hosts.frm
│ │ ├── memory_summary_by_account_by_event_name.frm
│ │ ├── memory_summary_by_host_by_event_name.frm
│ │ ├── memory_summary_by_thread_by_event_name.frm
│ │ ├── memory_summary_by_user_by_event_name.frm
│ │ ├── memory_summary_global_by_event_name.frm
│ │ ├── metadata_locks.frm
│ │ ├── mutex_instances.frm
│ │ ├── objects_summary_global_by_type.frm
│ │ ├── performance_timers.frm
│ │ ├── prepared_statements_instances.frm
│ │ ├── replication_applier_configuration.frm
│ │ ├── replication_applier_status_by_coordinator.frm
│ │ ├── replication_applier_status_by_worker.frm
│ │ ├── replication_applier_status.frm
│ │ ├── replication_connection_configuration.frm
│ │ ├── replication_connection_status.frm
│ │ ├── replication_group_members.frm
│ │ ├── replication_group_member_stats.frm
│ │ ├── rwlock_instances.frm
│ │ ├── session_account_connect_attrs.frm
│ │ ├── session_connect_attrs.frm
│ │ ├── session_status.frm
│ │ ├── session_variables.frm
│ │ ├── setup_actors.frm
│ │ ├── setup_consumers.frm
│ │ ├── setup_instruments.frm
│ │ ├── setup_objects.frm
│ │ ├── setup_timers.frm
│ │ ├── socket_instances.frm
│ │ ├── socket_summary_by_event_name.frm
│ │ ├── socket_summary_by_instance.frm
│ │ ├── status_by_account.frm
│ │ ├── status_by_host.frm
│ │ ├── status_by_thread.frm
│ │ ├── status_by_user.frm
│ │ ├── table_handles.frm
│ │ ├── table_io_waits_summary_by_index_usage.frm
│ │ ├── table_io_waits_summary_by_table.frm
│ │ ├── table_lock_waits_summary_by_table.frm
│ │ ├── threads.frm
│ │ ├── users.frm
│ │ ├── user_variables_by_thread.frm
│ │ └── variables_by_thread.frm
│ ├── relay-bin.000020
│ ├── relay-bin.000021
│ ├── relay-bin.000022
│ ├── relay-bin.000023
│ ├── relay-bin.index
│ ├── relay-log.info
│ ├── slow.log
│ ├── sys
│ │ ├── db.opt
│ │ ├── host_summary_by_file_io.frm
│ │ ├── host_summary_by_file_io_type.frm
│ │ ├── host_summary_by_stages.frm
│ │ ├── host_summary_by_statement_latency.frm
│ │ ├── host_summary_by_statement_type.frm
│ │ ├── host_summary.frm
│ │ ├── innodb_buffer_stats_by_schema.frm
│ │ ├── innodb_buffer_stats_by_table.frm
│ │ ├── innodb_lock_waits.frm
│ │ ├── io_by_thread_by_latency.frm
│ │ ├── io_global_by_file_by_bytes.frm
│ │ ├── io_global_by_file_by_latency.frm
│ │ ├── io_global_by_wait_by_bytes.frm
│ │ ├── io_global_by_wait_by_latency.frm
│ │ ├── latest_file_io.frm
│ │ ├── memory_by_host_by_current_bytes.frm
│ │ ├── memory_by_thread_by_current_bytes.frm
│ │ ├── memory_by_user_by_current_bytes.frm
│ │ ├── memory_global_by_current_bytes.frm
│ │ ├── memory_global_total.frm
│ │ ├── metrics.frm
│ │ ├── processlist.frm
│ │ ├── ps_check_lost_instrumentation.frm
│ │ ├── schema_auto_increment_columns.frm
│ │ ├── schema_index_statistics.frm
│ │ ├── schema_object_overview.frm
│ │ ├── schema_redundant_indexes.frm
│ │ ├── schema_table_lock_waits.frm
│ │ ├── schema_table_statistics.frm
│ │ ├── schema_table_statistics_with_buffer.frm
│ │ ├── schema_tables_with_full_table_scans.frm
│ │ ├── schema_unused_indexes.frm
│ │ ├── session.frm
│ │ ├── session_ssl_status.frm
│ │ ├── statement_analysis.frm
│ │ ├── statements_with_errors_or_warnings.frm
│ │ ├── statements_with_full_table_scans.frm
│ │ ├── statements_with_runtimes_in_95th_percentile.frm
│ │ ├── statements_with_sorting.frm
│ │ ├── statements_with_temp_tables.frm
│ │ ├── sys_config.frm
│ │ ├── sys_config.ibd
│ │ ├── sys_config_insert_set_user.TRN
│ │ ├── sys_config.TRG
│ │ ├── sys_config_update_set_user.TRN
│ │ ├── user_summary_by_file_io.frm
│ │ ├── user_summary_by_file_io_type.frm
│ │ ├── user_summary_by_stages.frm
│ │ ├── user_summary_by_statement_latency.frm
│ │ ├── user_summary_by_statement_type.frm
│ │ ├── user_summary.frm
│ │ ├── version.frm
│ │ ├── wait_classes_global_by_avg_latency.frm
│ │ ├── wait_classes_global_by_latency.frm
│ │ ├── waits_by_host_by_latency.frm
│ │ ├── waits_by_user_by_latency.frm
│ │ ├── waits_global_by_latency.frm
│ │ ├── x@0024host_summary_by_file_io.frm
│ │ ├── x@0024host_summary_by_file_io_type.frm
│ │ ├── x@0024host_summary_by_stages.frm
│ │ ├── x@0024host_summary_by_statement_latency.frm
│ │ ├── x@0024host_summary_by_statement_type.frm
│ │ ├── x@0024host_summary.frm
│ │ ├── x@0024innodb_buffer_stats_by_schema.frm
│ │ ├── x@0024innodb_buffer_stats_by_table.frm
│ │ ├── x@0024innodb_lock_waits.frm
│ │ ├── x@0024io_by_thread_by_latency.frm
│ │ ├── x@0024io_global_by_file_by_bytes.frm
│ │ ├── x@0024io_global_by_file_by_latency.frm
│ │ ├── x@0024io_global_by_wait_by_bytes.frm
│ │ ├── x@0024io_global_by_wait_by_latency.frm
│ │ ├── x@0024latest_file_io.frm
│ │ ├── x@0024memory_by_host_by_current_bytes.frm
│ │ ├── x@0024memory_by_thread_by_current_bytes.frm
│ │ ├── x@0024memory_by_user_by_current_bytes.frm
│ │ ├── x@0024memory_global_by_current_bytes.frm
│ │ ├── x@0024memory_global_total.frm
│ │ ├── x@0024processlist.frm
│ │ ├── x@0024ps_digest_95th_percentile_by_avg_us.frm
│ │ ├── x@0024ps_digest_avg_latency_distribution.frm
│ │ ├── x@0024ps_schema_table_statistics_io.frm
│ │ ├── x@0024schema_flattened_keys.frm
│ │ ├── x@0024schema_index_statistics.frm
│ │ ├── x@0024schema_table_lock_waits.frm
│ │ ├── x@0024schema_table_statistics.frm
│ │ ├── x@0024schema_table_statistics_with_buffer.frm
│ │ ├── x@0024schema_tables_with_full_table_scans.frm
│ │ ├── x@0024session.frm
│ │ ├── x@0024statement_analysis.frm
│ │ ├── x@0024statements_with_errors_or_warnings.frm
│ │ ├── x@0024statements_with_full_table_scans.frm
│ │ ├── x@0024statements_with_runtimes_in_95th_percentile.frm
│ │ ├── x@0024statements_with_sorting.frm
│ │ ├── x@0024statements_with_temp_tables.frm
│ │ ├── x@0024user_summary_by_file_io.frm
│ │ ├── x@0024user_summary_by_file_io_type.frm
│ │ ├── x@0024user_summary_by_stages.frm
│ │ ├── x@0024user_summary_by_statement_latency.frm
│ │ ├── x@0024user_summary_by_statement_type.frm
│ │ ├── x@0024user_summary.frm
│ │ ├── x@0024wait_classes_global_by_avg_latency.frm
│ │ ├── x@0024wait_classes_global_by_latency.frm
│ │ ├── x@0024waits_by_host_by_latency.frm
│ │ ├── x@0024waits_by_user_by_latency.frm
│ │ └── x@0024waits_global_by_latency.frm
│ ├── sysbench_testdata
│ │ ├── db.opt
│ │ ├── sbtest10.frm
│ │ ├── sbtest10.ibd
│ │ ├── sbtest1.frm
│ │ ├── sbtest1.ibd
│ │ ├── sbtest2.frm
│ │ ├── sbtest2.ibd
│ │ ├── sbtest3.frm
│ │ ├── sbtest3.ibd
│ │ ├── sbtest4.frm
│ │ ├── sbtest4.ibd
│ │ ├── sbtest5.frm
│ │ ├── sbtest5.ibd
│ │ ├── sbtest6.frm
│ │ ├── sbtest6.ibd
│ │ ├── sbtest7.frm
│ │ ├── sbtest7.ibd
│ │ ├── sbtest8.frm
│ │ ├── sbtest8.ibd
│ │ ├── sbtest9.frm
│ │ └── sbtest9.ibd
│ ├── wenyz
│ │ ├── db.opt
│ │ ├── t2.cfg
│ │ ├── t2.frm
│ │ └── t2.ibd
│ ├── xtrabackup_binlog_info
│ ├── xtrabackup_binlog_pos_innodb
│ ├── xtrabackup_checkpoints
│ ├── xtrabackup_info
│ └── xtrabackup_logfile
├── logs
│ ├── mysql-bin.000001
│ ├── mysql-bin.000002
│ ├── mysql-bin.000003
│ ├── mysql-bin.000004
│ ├── mysql-bin.000005
│ ├── mysql-bin.000006
│ ├── mysql-bin.000007
│ ├── mysql-bin.000008
│ └── mysql-bin.index
├── my3506.cnf
└── tmp