技术领域
[0001] 本
发明涉及计算机技术领域,具体涉及一种基于分级存储的升级方法和系统。
背景技术
[0002] Lustre文件系统是由cluster file system公司开发的开源的、高性能的文件系统。Lustre文件系统是一个透明的全局文件系统,客户端可以透明地
访问集群文件系统中的数据,而无需知道这些数据的实际存储
位置。Lustre文件系统是个高度模
块化的系统,主要由三个部分组成:客户端(Client)、对象存储
服务器(Object Storage Target,OST)和元数据服务器(MetaData Server,MDS)。三个组成部分除了各自的独特功能外,相互之间共享诸如
锁、
请求处理、消息传递等模块。
[0003] 为了提高Lustre文件系统的性能,通常Client、OST和MDS是分离,当然这些子系统也能运行在同一个系统中。Lustre文件系统消除了传统网络文件系统在可扩展性,可用性和性能上的问题,Lustre文件系统采用分布式的锁管理机制来实现并发控制,元数据和文件数据的通讯链路分开管理。Lustre具有针对大文件读写进行优化,提供高性能的I/O;元数据独立存储;服务和网络失效的快速恢复;基于意图的分布式锁管理;基于对象存储,使存储更具智能化,可以实现基于对象一级的数据保护技术;系统可快速配置等特点。随着Lustre文件系统被越来越广泛的被企业和用户所使用,在日常的工作中,由于各种需求的提出,Lustre文件系统已经成为日常工作不可或缺的文件系统环境。
[0004] 随着用户的多样性及
大数据时代的到来,单一的Lustre文件系统已很难满足用户的需求,无法在不影响带宽性能的情况下,保证大容量数据的存储、业务的连续性、数据的可靠性和用户的多样性。
发明内容
[0005] 本发明提供了一种基于分级存储的升级方法和系统,以解决
现有技术无法实现大容量、连续性、可靠性和多样性的
缺陷。
[0006] 本发明提供了一种基于分级存储的升级方法,包括以下步骤:
[0007] 以动态文件系统ZFS作为底层文件系统,配置集群资源管理器pacemaker和心跳线corosync冗余架构作为
基础存储系统;
[0008] 在所述基础存储系统的环境下,使用基于网络文件系统NFS的网络附属存储NAS系统作为分级存储系统。
[0009] 可选地,所述以动态文件系统ZFS作为底层文件系统,配置集群资源管理器pacemaker和心跳线corosync冗余架构作为基础存储系统之前,还包括:
[0010] 设置系统升级环境。
[0011] 可选地,所述设置系统升级环境,具体包括:
[0012] 配置服务器端的网络,设置网络IP地址,在Lustre
节点和NFS节点之间实现安全
外壳协议SSH无密码访问;关闭所有节点的
防火墙,禁用SELinux方法;将共享存储映射到相应的Lustre节点上,安装Lustre
软件包、ZFS
软件包、pacemaker软件包、corosync软件包和NFS软件包。
[0013] 可选地,所述在所述基础存储系统的环境下,使用基于网络文件系统NFS的网络附属存储NAS系统作为分级存储系统之后,还包括:
[0014] 基于所述分级存储系统,兼容多种
操作系统作为NFS客户端。
[0015] 可选地,所述基于所述分级存储系统,兼容多种操作系统作为NFS客户端,具体为:
[0016] 在基于NFS的NAS高容量分级空间的环境下,兼容windows、linux和mac操作系统作为NFS客户端。
[0017] 本发明还提供了一种基于分级存储的升级系统,包括:
[0018] 第一配置模块,用于以动态文件系统ZFS作为底层文件系统,配置集群资源管理器pacemaker和心跳线corosync冗余架构作为基础存储系统;
[0019] 第二配置模块,用于在所述基础存储系统的环境下,使用基于网络文件系统NFS的网络附属存储NAS系统作为分级存储系统。
[0020] 可选地,所述的系统,还包括:
[0021] 设置模块,用于设置系统升级环境。
[0022] 可选地,所述设置模块,具体用于配置服务器端的网络,设置网络IP地址,在Lustre节点和NFS节点之间实现安全外壳协议SSH无密码访问;关闭所有节点的防火墙,禁用SELinux方法;将共享存储映射到相应的Lustre节点上,安装Lustre软件包、ZFS软件包、pacemaker软件包、corosync软件包和NFS软件包。
[0023] 可选地,所述的系统,还包括:
[0024] 兼容模块,用于基于所述分级存储系统,兼容多种操作系统作为NFS客户端。
[0025] 可选地,所述兼容模块,具体用于在基于NFS的NAS高容量分级空间的环境下,兼容windows、linux和mac操作系统作为NFS客户端。
[0026] 本发明以ZFS作为底层文件系统搭建Lustre,能够保证存储系统的高带宽性能,使用pacemaker和corosync做双机高可用,能够保证系统的快速故障恢复能
力及业务的持续性,使用NAS存储系统作为高容量的存储系统,能够满足大容量数据的存储,并在需要的时候可调用到高带宽基础存储系统。
附图说明
[0027] 图1为本发明
实施例中的一种基于分级存储的升级方法
流程图;
[0028] 图2为本发明实施例中的一种基于分级存储的升级系统的结构示意图。
具体实施方式
[0029] 下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
[0030] 需要说明的是,如果不冲突,本发明实施例以及实施例中的各个特征可以相互结合,均在本发明的保护范围之内。另外,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
[0031] 本发明实施例提供了一种基于分级存储的升级方法,如图1所示,包括以下步骤:
[0032] 步骤101,设置系统升级环境。
[0033] 具体地,可以配置服务器端的网络,设置网络IP地址,在Lustre节点和NFS(Network File System,网络文件系统)节点之间实现SSH(Secure Shell Protocol,安全外壳协议)无密码访问,保证服务器端之间的网络连接;关闭所有节点的防火墙,禁用SELinux方法;将共享存储映射到相应的Lustre节点上,安装Lustre软件包、ZFS(Zettabyte File System,动态文件系统)软件包、pacemaker(集群资源管理器)软件包、corosync(心跳线)软件包和NFS软件包。
[0034] 步骤102,以ZFS作为底层文件系统,配置pacemaker和corosync冗余架构作为基础存储系统。
[0035] 具体地,可以在格式化
硬盘时,加入参数backfstype=zfs,并另做双机高可用设置failnode,如:
[0036] [root@node02~]#mkfs.lustre --reformat --mgs --mdt --backfstype=zfs --fsname=qq--failnode=node01@tcp0 --index=0 lustre-mgs/mgt raidz/dev/sd{a,b,c}
[0037] [root@node01~]#mkfs.lustre --reformat --ost --index=0 --backfstype=zfs --mgsnode=node02@tcp0--failnode=node02@tcp0 --fsname=qq lustre-ost0/ost0raidz2/dev/sd{a,b,c,d,e}
[0038] 启动Lustre服务,挂载Lustre客户端:
[0039] [root@cient1~]#mount-t lustre node02@tcp0:node01@tcp0:/qq/mnt/qq[0040] 将corosync配置文件分发给Lustre服务端节点,启动pacemaker和corosync服务,查看crm_mon,得到如下结果:
[0041] Last updated:Thu Nov 6 17:13:49 2014
[0042] Last change:Thu Nov 6 15:39:36 2014 via crmd on node02
[0043] Stack:classic openais(with plugin)
[0044] Current DC:node02-partition with quorum
[0045] Version:1.1.10-14.el6_5.3-368c726
[0046] 2 Nodes configured,2 expected votes
[0047] 4 Resources configured
[0048] Online:[node01node02]
[0049] mgt (ocf::heartbeat:Lustre): Started node01
[0050] ost0 (ocf::heartbeat:Lustre): Started node02
[0051] Clone Set:clonePing[resPing]
[0052] Started:[node01node02]
[0053] 步骤103,在基础存储系统的环境下,使用基于NFS的NAS(Network Attached Storage,网络附属存储)系统作为分级存储系统。
[0054] 具体地,可以在NFS服务端,配置export文件:
[0055] /mnt/nfstest*(fsid=0,rw,async,insecure,no_root_squash,no_subtree_check)
[0056] 启动NFS服务,在客户端进行挂载:
[0057] mount-t nfs node03:/mnt/nfstest/mnt/nfs
[0058] 在lustre mds节点上激活coordinator
[0059] [root@m2~]#lctl set_param mdt.testfs-MDT0000.hsm_control=enabled[0060] mdt.testfs-MDT0000.hsm_control=enabled
[0061] [root@m2~]#lctl get_param mdt.testfs-MDT0000.hsm_control
[0062] mdt.testfs-MDT0000.hsm_control=enabled
[0063] 启动agent
[0064] [root@node01~]#lhsmtool_posix --daemon --hsm-root /nfs --archive=1/testfs
[0065] lhsmtool_posix[32510]:action=0src=(null)dst=(null)mount_point=/testfs
[0066] hsmtool_posix[32511]:waiting for message from kernel
[0067] 使用hsm命令对文件进行激活释放查看状态
[0068] [root@client02hsmfs]#lfs hsm_archive–archive 1 file
[0069] [root@client02hsmfs]#lfs hsm_state file
[0070] [root@client02hsmfs]#lfs hsm_release file
[0071] 步骤104,基于分级存储系统,兼容多种操作系统作为NFS客户端。
[0072] 具体地,可以在基于NFS的NAS高容量分级空间的环境下,兼容windows、linux和mac操作系统作为NFS客户端,使用户可以通过NFS客户端对文件进行查看和数据传输,满足不同操作系统作业的需求。
[0073] 本实施例中,可以采用以下方式对Linux系统进行挂载:
[0074] 启动NFS服务,建立挂载目录,挂载NFS客户端:
[0075] #mount–t nfs 100.1.1.10:/mnt/nfs/mnt/nfs
[0076] 还可以采用以下方式对Windows系统进行挂载:
[0077] 在控制面板\程序\打开或关闭windows功能下,安装NFS客户端及工具;在cmd中运行:
[0078] C:\Users\pc>showmount-e 100.1.1.10
[0079] 导出列表在100.1.1.10:
[0080] /home *
[0081] /opt *
[0082] /mnt/nfs *
[0083] C:\Users\pc>mount\\100.1.1.10\mnt\nfs Z:
[0084] Z:现已成功连接到\\100.1.1.10\mnt\nfs
[0085] 命令已成功完成。
[0086] 需要说明的是,在某些其他版本的windows系统中,需适用一些软件来运行进行挂载,如SFU软件等。
[0087] 此外,还可以采用以下方式对Mac系统进行挂载:
[0088] 在终端检测能否连接到nfs服务端:
[0089] showmount-e 100.1.1.10
[0090] exports list on100.1.1.10:
[0091] /home *
[0092] /opt *
[0093] /mnt/nfs
[0094] 执行挂载命令:
[0095] mount–t nfs 100.1.1.10:/mnt/nfs/private/nfs
[0096] 如果显示报错:operation not permitted
[0098] mount–t nfs–o resvport,rw 100.1.1.10:/mnt/nfs/private/nfs[0099] 本发明实施例以ZFS作为底层文件系统搭建Lustre,能够保证存储系统的高带宽性能,使用pacemaker和corosync做双机高可用,能够保证系统的快速故障恢复能力及业务的持续性,使用NAS存储系统作为高容量的存储系统,能够满足大容量数据的存储,并在需要的时候可调用到高带宽基础存储系统。此外,以NAS系统作为高容量的二级分层空间,能够兼容windows、linux及mac系统客户端,从而满足用户使用不同操作系统进行文件的存储与传输的需求,提升了用户的多样性。
[0100] 基于上述基于分级存储的升级方法,本发明实施例还提供了一种基于分级存储的升级系统,如图2所示,包括:
[0101] 第一配置模块201,用于以ZFS作为底层文件系统,配置pacemaker和corosync冗余架构作为基础存储系统;
[0102] 第二配置模块202,用于在基础存储系统的环境下,使用基于NFS的NAS系统作为分级存储系统。
[0103] 进一步地,上述系统,还包括:
[0104] 设置模块203,用于设置系统升级环境。
[0105] 具体地,上述设置模块203,具体用于配置服务器端的网络,设置网络IP地址,在Lustre节点和NFS节点之间实现安全外壳协议SSH无密码访问;关闭所有节点的防火墙,禁用SELinux方法;将共享存储映射到相应的Lustre节点上,安装Lustre软件包、ZFS软件包、pacemaker软件包、corosync软件包和NFS软件包。
[0106] 进一步地,上述系统,还包括:
[0107] 兼容模块204,用于基于所述分级存储系统,兼容多种操作系统作为NFS客户端。
[0108] 具体地,上述兼容模块,具体用于在基于NFS的NAS高容量分级空间的环境下,兼容windows、linux和mac操作系统作为NFS客户端。
[0109] 本发明实施例以ZFS作为底层文件系统搭建Lustre,能够保证存储系统的高带宽性能,使用pacemaker和corosync做双机高可用,能够保证系统的快速故障恢复能力及业务的持续性,使用NAS存储系统作为高容量的存储系统,能够满足大容量数据的存储,并在需要的时候可调用到高带宽基础存储系统。此外,以NAS系统作为高容量的二级分层空间,能够兼容windows、linux及mac系统客户端,从而满足用户使用不同操作系统进行文件的存储与传输的需求,提升了用户的多样性。
[0110] 结合本文中所公开的实施例描述的方法中的步骤可以直接用
硬件、处理器执行的
软件模块,或者二者的结合来实施。软件模块可以置于随机
存储器(RAM)、内存、
只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
[0111] 以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉
本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应所述以
权利要求的保护范围为准。