将设为首页浏览此站
开启辅助访问 天气与日历 收藏本站联系我们切换到窄版

易陆发现论坛

 找回密码
 开始注册
查看: 848|回复: 3
收起左侧

oracle rac使用iscsi设备

[复制链接]
发表于 2021-7-9 17:25:34 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有帐号?开始注册

x
12.在 Oracle RAC 节点上配置 iSCSI 卷
) F$ _/ j, K  h
在集群中的两个 Oracle RAC 节点上配置 iSCSI 启动器。但是,应当仅在 RAC 集群中的节点之一上执行创建分区的操作。
iSCSI 客户端可以是任何提供 iSCSI 支持(驱动程序)的系统(Linux、Unix、MS Windows、Apple Mac 等)。在本例中,客户端是两个 Linux 服务器,即 racnode1 和 racnode2,运行 Oracle Enterprise Linux 5.4。
在本节中,我们将在两个 Oracle RAC 节点上配置 iSCSI 软件启动器。Oracle Enterprise Linux 5.4 包含 Open-iSCSI iSCSI 软件启动器,可从 iscsi-initiator-utils RPM 中获取该软件启动器。这与之前版本的 Oracle Enterprise Linux (4.x) 有所不同,该版本包含作为 Linux-iSCSI 项目中的一部分而开发的 Linux iscsi-sfnet 软件驱动程序。所有 iSCSI 管理任务(如发现和登录)都将使用 Open-iSCSI 中包含的命令行界面 iscsiadm。
iSCSI 软件启动器将被配置为自动登录至网络存储服务器 (openfiler1) 并发现上一节中创建的 iSCSI 卷。随后,我们将使用 udev 为所发现的每一个 iSCSI 目标名称创建持久本地 SCSI 设备名称(即 /dev/iscsi/crs1)。拥有一致的本地 SCSI 设备名称和所映射到的 iSCSI 目标,有助于在配置 ASM 时区分三个不同的卷。但是,在此之前,我们需要先安装 iSCSI 启动器软件。
注意: 本指南使用 ASMLib 2.0,它是 Oracle 数据库的自动存储管理 (ASM) 特性的支持库。ASMLib 将用于标记本指南中使用的所有 iSCSI 卷。默认情况下,ASMLib 已经为与 ASM 一起使用的存储设备提供了持久路径和权限。此功能消除了使用存储设备路径和权限更新 udev 或 devlabel 文件的需要。在本文和实践中,我仍然选择为使用 udev 发现的每一个 iSCSI 目标名称创建持久本地 SCSI 设备名称。这提供了一种自我归档方法,有助于快速识别每一个卷的名称和位置。
安装 iSCSI(启动器)服务
对于 Oracle Enterprise Linux 5.4,默认情况下不会安装 Open-iSCSI iSCSI 软件启动器。该软件包含在 iscsi-initiator-utils 软件包中,可从 CD #1 中找到该软件包。要确定是否安装了此软件包(大多数情况下未安装),请在两个 Oracle RAC 节点上执行以下操作:
[size=1.78]复制- H9 T; C  m. S3 v: P- e
Copied to Clipboard, c8 p. I( I# w: j7 X8 o( y/ q: v' r' I2 `
Error: Could not Copy
! m1 a, w8 e3 O$ A# R
* U8 s/ N" w; I
[root@racnode1 ~]#  rpm -qa --queryformat "%{NAME}-%{VERSION}-%{RELEASE} (%{ARCH})\n"| grep iscsi-initiator-utils
) c  d8 F9 G8 Z  @1 _
如果未安装 iscsi-initiator-utils 软件包,则将 CD #1 加载到每一个 Oracle RAC 节点中,然后执行以下操作:
[size=1.78]复制4 s9 O0 Z0 e" `0 [% s
Copied to Clipboard
2 ]  g# g8 s, o/ T/ F1 ^, vError: Could not Copy$ [0 G2 P) j! a9 J/ P

% o# r# }* m& |+ m# ^) S6 L5 l[root@racnode1 ~]#  mount -r /dev/cdrom /media/cdrom [root@racnode1 ~]#  cd /media/cdrom/Server [root@racnode1 ~]#  rpm -Uvh iscsi-initiator-utils-* [root@racnode1 ~]#  cd / [root@racnode1 ~]#  eject
9 ?  s' Q! z2 ^4 f, P' k  K1 p
验证现已安装 iscsi-initiator-utils 软件包:
[size=1.78]复制
5 C& Z8 j* {2 @/ x8 x# aCopied to Clipboard
3 r1 t* G. T4 u# i3 D6 NError: Could not Copy
, M$ k* T' p5 l' `+ l5 a

5 R1 h: ~! f! Z4 p$ N* [' D7 C[root@racnode1 ~]#  rpm -qa --queryformat "%{NAME}-%{VERSION}-%{RELEASE} (%{ARCH})\n"| grep iscsi-initiator-utils iscsi-initiator-utils-6.2.0.871-0.10.el5 (x86_64)
6 Y: \4 g9 k1 Q: N$ f
配置 iSCSI(启动器)服务
验证两个 Oracle RAC 节点上均安装了 iscsi-initiator-utils 软件包之后,启动 iscsid 服务并设置其在系统启动时自动启动。我们还将配置 iSCSI 服务自动启动,以便于在系统启动时登录到所需 iSCSI 目标。
[size=1.78]复制
# s  B, x6 z5 R- WCopied to Clipboard
0 G, N/ x  s, D+ t/ _Error: Could not Copy
5 Y2 J  k4 a% [# W5 p; @

8 d4 V5 u) I( L3 d9 a* k: ^0 {[root@racnode1 ~]#  service iscsid start Turning off network shutdown. Starting iSCSI daemon:   OK ]   OK ]  [root@racnode1 ~]#  chkconfig iscsid on [root@racnode1 ~]#  chkconfig iscsi on
0 D2 ~  |  s9 N. p
现在 iSCSI 服务已启动,请使用 iscsiadm 命令行界面来发现网络存储服务器上的所有可用目标。这应当在两个 Oracle RAC 节点上执行,以验证配置是否正常运行:
[size=1.78]复制! W/ n6 Q# T9 c% t- ^
Copied to Clipboard& x( Q) M2 }) ^4 w& T
Error: Could not Copy; q! k, f4 Q  \# Q1 h7 v; r
1 U/ J; b( `  A+ O
[root@racnode1 ~]#  iscsiadm -m discovery -t sendtargets -p openfiler1-priv 192.168.2.195:3260,1 iqn.2006-01.com.openfiler:racdb.crs1 192.168.2.195:3260,1 iqn.2006-01.com.openfiler:racdb.fra1 192.168.2.195:3260,1 iqn.2006-01.com.openfiler:racdb.data1

' t0 B( z# \5 K7 Y7 N
手动登录至 iSCSI 目标
至此,iSCSI 启动器服务已启动,每一个 Oracle RAC 节点都可以从网络存储服务器中发现可用目标。下一步是手动登录至每一个可用目标,可以使用 iscsiadm 命令行界面来执行此操作。两个 Oracle RAC 节点上都需要运行此任务。请注意,我需要指定 IP 地址,而不是网络存储服务器的主机名 (openfiler1-priv) - 我认为这是必需的,因为(上述)发现显示了使用 IP 地址的目标。
[size=1.78]复制
! c! T! M4 @: E7 _8 uCopied to Clipboard& H9 f: D+ h% I4 ?# D$ e2 {
Error: Could not Copy
; R3 x3 n" I; X2 q0 b1 i
# y0 v  h* ]9 _6 s
[root@racnode1 ~]#  iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.crs1 -p 192.168.2.195 -l [root@racnode1 ~]#  iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.data1 -p 192.168.2.195 -l [root@racnode1 ~]#  iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.fra1 -p 192.168.2.195 -l
& W5 J+ E1 {: X8 {
配置自动登录
下一步是确保客户端将在机器启动时(或 iSCSI 启动器服务启动/重新启动时)自动登录到上述每一个目标。与上述手动登录过程一样,在两个 Oracle RAC 节点上执行以下操作:
[size=1.78]复制
; ^7 f: J( W( [  [) Q$ B! [Copied to Clipboard) c9 P- R5 o+ ~6 w" n. O
Error: Could not Copy. t8 F4 Y1 V5 d  f
0 V" w3 I  A1 ?
[root@racnode1 ~]#  iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.crs1 -p 192.168.2.195 --op update -n node.startup -v automatic [root@racnode1 ~]#  iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.data1 -p 192.168.2.195 --op update -n node.startup -v automatic [root@racnode1 ~]#  iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.fra1 -p 192.168.2.195 --op update -n node.startup -v automatic

( r) Z9 C+ j" n/ i. g* v! D8 t
创建持久本地 SCSI 设备名称
在本节中,我们将为每一个 iSCSI 目标名称创建持久本地 SCSI 设备名称。这将使用 udev 来完成。拥有一致的本地 SCSI 设备名称和所映射到的 iSCSI 目标,有助于在配置 ASM 时区分三个不同的卷。这并不是一项严格的需求,因为我们将为所有卷使用 ASMLib 2.0,而这提供了一种自我归档方法来快速识别每一个 iSCSI 卷的名称和位置。
当任何一个 Oracle RAC 节点启动以及 iSCSI 启动器服务启动时,它将自动登录到以随机方式配置的每一个目标,并将其映射至下一个可用的本地 SCSI 设备名称。例如,目标 iqn.2006-01.com.openfiler:racdb.crs1 可能会映射到 /dev/sdb。我实际上可以通过查看 /dev/disk/by-path 目录来确定所有目标的当前映射:
[size=1.78]复制
5 w. ~8 k8 T  iCopied to Clipboard# q& ~2 Z, f6 D- _0 \
Error: Could not Copy% }4 w) w: e4 i  O
7 }' _# ^, t" z% Q0 P( |
[root@racnode1 ~]#  (cd /dev/disk/by-path; ls -l *openfiler* | awk '{FS=" "; print $9 " " $10 " " $11}') ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.crs1-lun-0 -> ../../sdb ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.data1-lun-0 -> ../../sdd ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.fra1-lun-0 -> ../../sdc

& C# Z# A$ f  I% ~- Y4 m
我们可以使用上述输出建立以下当前映射:
当前 iSCSI 目标名称到本地 SCSI 设备名称映射

! O0 _1 I# P( U. [
iSCSI 目标名称
SCSI 设备名称
5 e2 u& f8 ^6 L9 ^7 I
iqn.2006-01.com.openfiler:racdb.crs1
/dev/sdb

* i+ |3 B7 z3 N8 y( E
iqn.2006-01.com.openfiler:racdb.data1
/dev/sdd

( y. ~7 U9 b: K- n. O$ D- d
iqn.2006-01.com.openfiler:racdb.fra1
/dev/sdc
9 B1 o8 _0 ^+ h$ d) I% j9 E
5 X1 a" b! R1 ?6 U7 E7 g
但是,每次重新启动 Oracle RAC 节点时,此映射可能会发生更改。例如,在重新启动后,可能会确定 iSCSI 目标 iqn.2006-01.com.openfiler:racdb.crs1 映射到本地 SCSI 设备 /dev/sdc。因此,依赖于使用本地 SCSI 设备名称是不切实际的,因为在重新启动后无法预测 iSCSI 目标映射。
我们需要的是一个可供引用的一致设备名称(即 /dev/iscsi/crs1),它在重启后始终指向适当的 iSCSI 目标。这就是名为 udev 的动态设备管理工具的用武之地。udev 使用符号链接提供动态设备目录,这些链接使用一系列可配置规则指向实际设备。当 udev 接收到设备事件(例如,客户端登录到 iSCSI 目标)时,它会将其配置的规则与 sysfs 中提供的可用设备属性进行匹配以识别设备。匹配规则可能会提供额外的设备信息或指定设备节点名称和多个符号链接名称,并指示 udev 运行其他程序(例如 SHELL 脚本)作为设备事件处理过程的一部分。
下一步是创建一个新的规则文件。该文件将被命名为 /etc/udev/rules.d/55-openiscsi.rules 且仅包含一行 name=value 对,用于接收我们感兴趣的事件。它还将定义一个调用 SHELL 脚本 (/etc/udev/scripts/iscsidev.sh) 来处理事件。
在两个 Oracle RAC 节点上创建以下规则文件 /etc/udev/rules.d/55-openiscsi.rules:
[size=1.78]复制
6 \7 r5 v. y9 |4 g# ?/ c0 TCopied to Clipboard
# {" T4 F' }. W5 {+ Y$ k1 BError: Could not Copy
" c8 y, U/ b5 w0 r7 i" V

" ]8 `  u8 ~! c8 n.............................................. # /etc/udev/rules.d/55-openiscsi.rules KERNEL=="sd*", BUS=="scsi", PROGRAM="/etc/udev/scripts/iscsidev.sh %b",SYMLINK+="iscsi/%c/part%n" ..............................................
% Y( F  h" U2 w5 ]1 J2 C
我们现在需要创建 UNIX SHELL 脚本。当收到此事件时将调用该脚本。让我们首先在两个 Oracle RAC 节点上创建一个单独的目录来存储 udev 脚本:
[size=1.78]复制
$ g5 |, S5 o4 y% S6 p9 tCopied to Clipboard1 k2 G3 k4 J$ u/ ~% U
Error: Could not Copy
% o% l% d3 V' ]
8 S5 b; a5 l1 N- s  T$ U: Y6 C
[root@racnode1 ~]#  mkdir -p /etc/udev/scripts
3 I3 Y, N6 [- ?  G
接下来,在两个 Oracle RAC 节点上创建 UNIX shell 脚本 /etc/udev/scripts/iscsidev.sh:
[size=1.78]复制# G$ ^, T! S: k8 R
Copied to Clipboard& f" A* e/ y" l  S: Z, W1 G" q
Error: Could not Copy+ t' l. S% x: j- l/ ~9 k$ S5 M/ W

6 c% S: E6 Q. V6 [4 I.............................................. #!/bin/sh  # FILE: /etc/udev/scripts/iscsidev.sh  BUS=${1} HOST=${BUS%%:*}  -e /sys/class/iscsi_host ] || exit 1  file="/sys/class/iscsi_host/host${HOST}/device/session*/iscsi_session*/targetname"  target_name=$(cat ${file})  # This is not an open-scsi drive if -z "${target_name}" ]; then exit 1 fi  # Check if QNAP drive check_qnap_target_name=${target_name%%:*} if $check_qnap_target_name = "iqn.2004-04.com.qnap" ]; then target_name=`echo "${target_name%.*}"` fi  echo "${target_name##*.}" ..............................................

8 `( g; j# v2 E6 C, k/ B) |& Y
在创建 UNIX SHELL 脚本之后,将其更改为可执行文件:
[size=1.78]复制
# z+ G( x" {$ z6 F; RCopied to Clipboard
5 ~! Q& H' Y; D( G+ P/ ?Error: Could not Copy
3 |  ?' N% Y5 C, l2 {: W- Y
9 V4 W, t6 Q) d1 R, O
[root@racnode1 ~]#  chmod 755 /etc/udev/scripts/iscsidev.sh

# |" e' J) L6 R5 G
现在已经配置了 udev,接下来在两个 Oracle RAC 节点上重新启动 iSCSI 服务:
[size=1.78]复制/ s- d: Z" f& p* g" C; c
Copied to Clipboard( F3 i& r0 g5 ]& ^
Error: Could not Copy
$ R* W" o; ~  {' L0 v8 C

# s/ j! e4 Y) ^[root@racnode1 ~]#  service iscsi stop Logging out of session [sid: 6, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260] Logging out of session [sid: 7, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260] Logging out of session [sid: 8, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260] Logout of [sid: 6, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]: successful Logout of [sid: 7, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]: successful Logout of [sid: 8, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]: successful Stopping iSCSI daemon:   OK ]  [root@racnode1 ~]#  service iscsi start iscsid dead but pid file exists Turning off network shutdown. Starting iSCSI daemon:   OK ]   OK ] Setting up iSCSI targets: Logging in to [iface: default, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260] Logging in to [iface: default, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260] Logging in to [iface: default, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260] Login to [iface: default, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]: successful Login to [iface: default, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]: successful Login to [iface: default, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]: successful   OK ]
5 d  {  p3 O- f/ {; K3 I  d
我们来看看最终的结果:
[size=1.78]复制
1 @0 w+ Q; v* g( bCopied to Clipboard( L1 R% L! y( s$ K/ U6 v& h
Error: Could not Copy
: N- k* K& Z6 \& }* \
* t8 z" B2 Y# J8 n7 p) G/ s; l8 U
[root@racnode1 ~]#  ls -l /dev/iscsi/* /dev/iscsi/crs1: total 0 lrwxrwxrwx 1 root root 9 Nov 3 18:13 part -> ../../sdc  /dev/iscsi/data1: total 0 lrwxrwxrwx 1 root root 9 Nov 3 18:13 part -> ../../sde  /dev/iscsi/fra1: total 0 lrwxrwxrwx 1 root root 9 Nov 3 18:13 part -> ../../sdd
+ d0 P- f0 ^5 u3 z1 o1 J
以上清单显示 udev 完成了其应当完成的工作!我们现在拥有了一组一致的本地设备名称,可用于引用 iSCSI 目标。例如,我们可以安全地假定设备名称 /dev/iscsi/crs1/part 将始终引用 iSCSI 目标 iqn.2006-01.com.openfiler:racdb.crs1。我们现在通过一致的 iSCSI 目标名称与本地设备名称相映射,如下表所述:
iSCSI 目标名称到本地设备名称映射
! x/ ?2 J4 C  I
iSCSI 目标名称
本地设备名称

( Y4 v+ k6 {" Y+ _! \6 L
iqn.2006-01.com.openfiler:racdb.crs1
/dev/iscsi/crs1/part

5 c& K7 b3 g7 N4 p) t
iqn.2006-01.com.openfiler:racdb.data1
/dev/iscsi/data1/part
- \6 E1 }* x" x4 }9 n! T6 C4 w
iqn.2006-01.com.openfiler:racdb.fra1
/dev/iscsi/fra1/part

* M9 K/ {. X8 X

$ p- T7 z( c/ C
在 iSCSI 卷上创建分区
我们现在需要在跨整个卷大小的各个 iSCSI 卷上创建一个主分区。如前所述,我将使用自动存储管理 (ASM) 来存储 Oracle Clusterware 所需的共享文件、物理数据库文件(数据/索引文件、联机重做日志文件和控制文件)以及集群数据库的快速恢复区 (FRA)。
Oracle Clusterware 共享文件(OCR 和表决磁盘)将存储在名为 +CRS 的 ASM 磁盘组中,该磁盘组将配置为外部冗余。集群数据库的物理数据库文件将存储在名为 +RACDB_DATA 的 ASM 磁盘组中,该磁盘组也将配置为外部冗余。最后,快速恢复区(RMAN 备份和归档重做日志文件)将存储在名为 +FRA 的第三个 ASM 磁盘组中,该磁盘组也将配置为外部冗余。
下表列出了将创建的三个 ASM 磁盘组以及它们将包含哪些 iSCSI 卷:
Oracle 共享驱动器配置

; y) q2 k0 H- F: W' E2 w
文件类型
ASM 磁盘组名称
iSCSI 目标(短)名称
ASM 冗余
大小
ASMLib 卷名
- t) J8 X) L8 @5 K& J
OCR 和表决磁盘
+CRScrs1外部2GB
ORCL:CRSVOL1
7 z0 n2 W9 |* [+ c& z1 P
Oracle 数据库文件
+RACDB_DATAdata1外部32 GB
ORCL:DATAVOL1

7 Q4 e( E  N( I. c& \4 T, |
Oracle 快速恢复区
+FRAfra1外部32 GB
ORCL:FRAVOL1

) `. o1 k% M# O( R5 m& T- s

: Z& E% I- S/ S; O' K  J
如上表所示,我们需要在每一个 iSCSI 卷上都创建一个 Linux 主分区。fdisk 命令在 Linux 中用于创建(和删除)分区。对于每一个 iSCSI 卷,您都可以在创建主分区时使用默认值,因为默认操作是使用整个磁盘。您可以安全地忽略任何可能表明设备不包含有效 DOS 分区(或 Sun、SGI 或 OSF 磁盘标签)的警告。
在本例中,我将从 racnode1 中运行 fdisk 命令,并使用 udev 在上一节中创建的本地设备名称在每一个 iSCSI 目标上创建单一主分区:
  • /dev/iscsi/crs1/part
  • /dev/iscsi/data1/part
  • /dev/iscsi/fra1/part
    2 M5 n& w* Y) j
注意:在每一个 iSCSI 卷上创建单一分区时,只能从 Oracle RAC 集群中的一个节点运行!(即 racnode1)
[size=1.78]复制
( y: [  ~1 e/ m7 F" |: T" [( fCopied to Clipboard
: x! U* A) r5 d% h' I' P" UError: Could not Copy/ e2 Z& e. `$ U8 f9 T. m( Y

3 f+ p# H5 i! U9 t# ---------------------------------------  [root@racnode1 ~]#  fdisk /dev/iscsi/crs1/part Command (m for help):  n Command action e extended p primary partition (1-4) p Partition number (1-4):  1 First cylinder (1-1012, default 1):  1 Last cylinder or +size or +sizeM or +sizeK (1-1012, default 1012):  1012  Command (m for help):  p  Disk /dev/iscsi/crs1/part: 2315 MB, 2315255808 bytes 72 heads, 62 sectors/track, 1012 cylinders Units = cylinders of 4464 * 512 = 2285568 bytes  Device Boot Start End Blocks Id System /dev/iscsi/crs1/part1 1 1012 2258753 83 Linux  Command (m for help):  w The partition table has been altered!  Calling ioctl() to re-read partition table. Syncing disks.  # ---------------------------------------  [root@racnode1 ~]#  fdisk /dev/iscsi/data1/part Command (m for help):  n Command action e extended p primary partition (1-4) p Partition number (1-4):  1 First cylinder (1-33888, default 1):  1 Last cylinder or +size or +sizeM or +sizeK (1-33888, default 33888):  33888  Command (m for help):  p  Disk /dev/iscsi/data1/part: 35.5 GB, 35534143488 bytes 64 heads, 32 sectors/track, 33888 cylinders Units = cylinders of 2048 * 512 = 1048576 bytes  Device Boot Start End Blocks Id System /dev/iscsi/data1/part1 1 33888 34701296 83 Linux  Command (m for help):  w The partition table has been altered!  Calling ioctl() to re-read partition table. Syncing disks.   # ---------------------------------------  [root@racnode1 ~]#  fdisk /dev/iscsi/fra1/part Command (m for help):  n Command action e extended p primary partition (1-4) p Partition number (1-4):  1 First cylinder (1-33888, default 1):  1 Last cylinder or +size or +sizeM or +sizeK (1-33888, default 33888):  33888  Command (m for help):  p  Disk /dev/iscsi/fra1/part: 35.5 GB, 35534143488 bytes 64 heads, 32 sectors/track, 33888 cylinders Units = cylinders of 2048 * 512 = 1048576 bytes  Device Boot Start End Blocks Id System /dev/iscsi/fra1/part1 1 33888 34701296 83 Linux  Command (m for help):  w The partition table has been altered!  Calling ioctl() to re-read partition table. Syncing disks.

4 W1 L( E/ J$ m5 E3 ~) V3 T) y/ z
验证新分区
从 racnode1 创建所有必需的分区后,您现在应当使用以下命令作为 Oracle RAC 集群 (racnode2) 中所有其余节点的“root”用户帐户,以便于向内核通知分区更改。请注意,从 Openfiler 发现的 iSCSI 目标名称与本地 SCSI 设备名称的映射在两个 Oracle RAC 节点上将有所不同。这不是问题,也不会造成任何问题,因为我们不会使用本地 SCSI 设备名称,而是使用 udev 在上一节中创建的本地设备名称。
从 racnode2 中,运行以下命令:
[size=1.78]复制4 u) ~) E# I& [' ^1 R/ Y7 ]! N: k
Copied to Clipboard
1 T. g6 w& W' P1 h; gError: Could not Copy
9 p6 o3 g: `0 l; ^+ t
& q; j" \" ~" X& O# o  a' w; Q
[root@racnode2 ~]#  partprobe  [root@racnode2 ~]#  fdisk -l  Disk /dev/sda: 160.0 GB, 160000000000 bytes 255 heads, 63 sectors/track, 19452 cylinders Units = cylinders of 16065 * 512 = 8225280 bytes  Device Boot Start End Blocks Id System /dev/sda1 * 1 13 104391 83 Linux /dev/sda2 14 19452 156143767+ 8e Linux LVM  Disk /dev/sdb: 35.5 GB, 35534143488 bytes 64 heads, 32 sectors/track, 33888 cylinders Units = cylinders of 2048 * 512 = 1048576 bytes  Device Boot Start End Blocks Id System /dev/sdb1 1 33888 34701296 83 Linux  Disk /dev/sdc: 35.5 GB, 35534143488 bytes 64 heads, 32 sectors/track, 33888 cylinders Units = cylinders of 2048 * 512 = 1048576 bytes  Device Boot Start End Blocks Id System /dev/sdc1 1 33888 34701296 83 Linux  Disk /dev/sdd: 2315 MB, 2315255808 bytes 72 heads, 62 sectors/track, 1012 cylinders Units = cylinders of 4464 * 512 = 2285568 bytes  Device Boot Start End Blocks Id System /dev/sdd1 1 1012 2258753 83 Linux

/ ^  E9 Q0 }* L5 T  Y4 C; u$ }
最后一步,您应当在两个 Oracle RAC 节点上运行以下命令以验证 udev 是否为每个新分区创建了新的符号链接:
[size=1.78]复制
2 \9 O9 n* R0 @* ]Copied to Clipboard" B) y8 d6 j0 X' o) f
Error: Could not Copy# `! V- G# y) x. w
) H  U; ?. _- R' _) }5 Y! J
[root@racnode2 ~]#  (cd /dev/disk/by-path; ls -l *openfiler* | awk '{FS=" "; print $9 " " $10 " " $11}') ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.crs1-lun-0 -> ../../sdd ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.crs1-lun-0-part1 -> ../../sdd1 ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.data1-lun-0 -> ../../sdc ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.data1-lun-0-part1 -> ../../sdc1 ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.fra1-lun-0 -> ../../sdb ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.fra1-lun-0-part1 -> ../../sdb1

# b  @1 u/ d4 P
以上清单显示 udev 确实为每一个新分区创建了新的设备名称。在本指南稍后为 ASMlib 配置卷时,我们将使用这些新设备名称:

' `9 H& G( k, T% s" @2 p! Z* D$ X
  • /dev/iscsi/crs1/part1
  • /dev/iscsi/data1/part1
  • /dev/iscsi/fra1/part1  y: p4 S5 U/ k/ x% d& |
 楼主| 发表于 2021-7-9 17:25:52 | 显示全部楼层
12.在 Oracle RAC 节点上配置 iSCSI 卷! f6 `1 p  u) ~# {- `* Y
在集群中的两个 Oracle RAC 节点上配置 iSCSI 启动器。但是,应当仅在 RAC 集群中的节点之一上执行创建分区的操作。* S* C. g- L* {2 Y- C
iSCSI 客户端可以是任何提供 iSCSI 支持(驱动程序)的系统(Linux、Unix、MS Windows、Apple Mac 等)。在本例中,客户端是两个 Linux 服务器,即 racnode1 和 racnode2,运行 Oracle Enterprise Linux 5.4。
. a4 f3 H6 B4 b在本节中,我们将在两个 Oracle RAC 节点上配置 iSCSI 软件启动器。Oracle Enterprise Linux 5.4 包含 Open-iSCSI iSCSI 软件启动器,可从 iscsi-initiator-utils RPM 中获取该软件启动器。这与之前版本的 Oracle Enterprise Linux (4.x) 有所不同,该版本包含作为 Linux-iSCSI 项目中的一部分而开发的 Linux iscsi-sfnet 软件驱动程序。所有 iSCSI 管理任务(如发现和登录)都将使用 Open-iSCSI 中包含的命令行界面 iscsiadm。
( D) v6 T0 W5 b, KiSCSI 软件启动器将被配置为自动登录至网络存储服务器 (openfiler1) 并发现上一节中创建的 iSCSI 卷。随后,我们将使用 udev 为所发现的每一个 iSCSI 目标名称创建持久本地 SCSI 设备名称(即 /dev/iscsi/crs1)。拥有一致的本地 SCSI 设备名称和所映射到的 iSCSI 目标,有助于在配置 ASM 时区分三个不同的卷。但是,在此之前,我们需要先安装 iSCSI 启动器软件。  M$ l1 q* ?$ P( T! I
注意: 本指南使用 ASMLib 2.0,它是 Oracle 数据库的自动存储管理 (ASM) 特性的支持库。ASMLib 将用于标记本指南中使用的所有 iSCSI 卷。默认情况下,ASMLib 已经为与 ASM 一起使用的存储设备提供了持久路径和权限。此功能消除了使用存储设备路径和权限更新 udev 或 devlabel 文件的需要。在本文和实践中,我仍然选择为使用 udev 发现的每一个 iSCSI 目标名称创建持久本地 SCSI 设备名称。这提供了一种自我归档方法,有助于快速识别每一个卷的名称和位置。( J& `: A' m) y8 g3 b; m2 L
安装 iSCSI(启动器)服务& b2 t/ l/ N6 K2 M" T3 u3 F
对于 Oracle Enterprise Linux 5.4,默认情况下不会安装 Open-iSCSI iSCSI 软件启动器。该软件包含在 iscsi-initiator-utils 软件包中,可从 CD #1 中找到该软件包。要确定是否安装了此软件包(大多数情况下未安装),请在两个 Oracle RAC 节点上执行以下操作:
" D6 g. I3 t( c$ N: f( Y- ], i. ~复制
( w% G+ Q# O  s6 p: b+ a( aCopied to ClipboardError: Could not Copy  a2 M: w* Y9 s$ c6 @+ R
[root@racnode1 ~]# 9 o# w8 x/ }1 G' p: t8 T7 t3 H
rpm -qa --queryformat "%{NAME}-%{VERSION}-%{RELEASE} (%{ARCH})\n"| grep iscsi-initiator-utils9 j3 e: S: Z% c6 u  i; N. w
[root@racnode1 ~]# 8 C5 B7 N' y  r. L9 A
rpm -qa --queryformat "%{NAME}-%{VERSION}-%{RELEASE} (%{ARCH})\n"| grep iscsi-initiator-utils
1 t/ x  O$ C4 ^& I) S7 ^- n如果未安装 iscsi-initiator-utils 软件包,则将 CD #1 加载到每一个 Oracle RAC 节点中,然后执行以下操作:& y0 Y2 `6 Q' ^; m- l
复制1 [8 B) @1 E) L8 \' Y$ `% K5 m
Copied to ClipboardError: Could not Copy
0 j' p; \$ T0 K1 H[root@racnode1 ~]#
% g, O0 ?+ v, S  v! Y mount -r /dev/cdrom /media/cdrom+ n2 T  ?0 d* R$ J7 `, {9 @
[root@racnode1 ~]# , x2 a& O$ v' r4 c8 h2 y- D
cd /media/cdrom/Server
  w, u  S+ r1 T* t, h& \: X+ s [root@racnode1 ~]# 0 R6 T3 N5 R9 c% N1 c& Z, p8 c
rpm -Uvh iscsi-initiator-utils-*  n1 y/ o! |7 f* t0 b3 l
[root@racnode1 ~]# # v1 ^# x; e7 |: T/ f+ `: l  N) T
cd /, F! w1 Y3 Y" T8 i1 q# {' C0 P
[root@racnode1 ~]# 5 @4 [9 h  B; [; z0 x/ i. B2 T
eject" P# S, ]6 {( o
[root@racnode1 ~]#
" {- w6 \3 S1 X% b$ D6 K) I mount -r /dev/cdrom /media/cdrom
4 L: s9 r7 Q/ f [root@racnode1 ~]# . {1 \; J& O1 g0 N4 R) z# X4 h+ y
cd /media/cdrom/Server- ^2 M* ~$ o+ f2 T
[root@racnode1 ~]# * k6 C  \1 s! ~1 `
rpm -Uvh iscsi-initiator-utils-*" p$ N$ r9 \/ J, ~
[root@racnode1 ~]#
# K5 k; R/ i/ n: ]3 U/ W cd /
  G& F- I$ N* c4 y# ], V  C [root@racnode1 ~]#
( Y( T, q0 L* l4 U2 ` eject5 v5 g$ u0 R" A; s/ m3 e( A5 M
验证现已安装 iscsi-initiator-utils 软件包:2 A2 {$ D7 \6 B" {" k! P) u
复制
$ X$ o( H5 ~5 Y5 H5 `Copied to ClipboardError: Could not Copy
% M  _5 K; I$ }# [+ u  x[root@racnode1 ~]# 2 r) ]+ L8 A9 H. [" `' s
rpm -qa --queryformat "%{NAME}-%{VERSION}-%{RELEASE} (%{ARCH})\n"| grep iscsi-initiator-utils- O; Z# H) z' E' J
iscsi-initiator-utils-6.2.0.871-0.10.el5 (x86_64)' o4 d0 A) k* _; [* x1 h
[root@racnode1 ~]#
$ U8 U2 X4 M. K) l- W  k rpm -qa --queryformat "%{NAME}-%{VERSION}-%{RELEASE} (%{ARCH})\n"| grep iscsi-initiator-utils
/ S3 y/ g$ u1 ]( ~ iscsi-initiator-utils-6.2.0.871-0.10.el5 (x86_64)) }1 O$ N/ m6 \
配置 iSCSI(启动器)服务' W, O. L% n/ \# ~9 ]1 Y
验证两个 Oracle RAC 节点上均安装了 iscsi-initiator-utils 软件包之后,启动 iscsid 服务并设置其在系统启动时自动启动。我们还将配置 iSCSI 服务自动启动,以便于在系统启动时登录到所需 iSCSI 目标。
) H( }6 @  I" ]0 `% q$ j* ~复制
/ l. n$ }( x& ]: L8 H1 f* ?% n0 sCopied to ClipboardError: Could not Copy
6 M  T( \; h3 ?% `+ p" ^* Q[root@racnode1 ~]#
* j; u% G0 E; I9 z service iscsid start
3 C( A  ^  j' W6 G Turning off network shutdown. Starting iSCSI daemon: 2 B% O. |7 q, D6 I+ r" I% N3 S
5 c( }9 d0 C* l1 I
OK ]
/ K9 ~; Q9 U0 ^5 r/ e 5 V4 ~* k  o  K6 h3 T
% M* f$ G- W# T5 ]/ z/ ^
OK ]5 D1 z# g* g( G0 }  e6 n
! x* H0 S2 g% g9 _. u: h
[root@racnode1 ~]# - `$ l) N9 c% D, e4 C, [( D" Q
chkconfig iscsid on
% q% B. y6 [5 I5 K [root@racnode1 ~]#
5 p, R- u8 u- X* q. D chkconfig iscsi on, l$ Q& x; i9 x: m+ ^2 Z9 j9 X
[root@racnode1 ~]#
1 u' U8 S7 Q7 R, n4 G* D service iscsid start0 |4 B% _9 p+ M/ e
Turning off network shutdown. Starting iSCSI daemon:
' x  ]1 b! P7 t/ s
4 ?, ^0 E+ e' X% s5 K2 Q+ A OK ]
4 _5 J7 H+ S2 c
5 F1 p: L6 f5 Y' b4 A ! C6 B/ D" b& a) f3 `/ z/ E
OK ]2 Q+ G# r) e$ s& d$ c0 ]9 }" ]( \

: s* l- L( B7 f+ V  b [root@racnode1 ~]# , Y  R2 l4 H: r$ R/ f
chkconfig iscsid on
% `9 `" a. c' V  g. E [root@racnode1 ~]#
" K0 A! S7 K. t% H0 q) J, t& C chkconfig iscsi on
% a6 G5 [! c% A6 f: J2 ^" U% {现在 iSCSI 服务已启动,请使用 iscsiadm 命令行界面来发现网络存储服务器上的所有可用目标。这应当在两个 Oracle RAC 节点上执行,以验证配置是否正常运行:
7 p: E3 N' |3 G2 K: w' L9 z: o( W复制# x' N8 ^' V; O' q; N  }& J0 L
Copied to ClipboardError: Could not Copy" I$ |6 H) S3 R* t) r$ _
[root@racnode1 ~]# 1 t* N6 q' X: g9 C" M* Y7 u
iscsiadm -m discovery -t sendtargets -p openfiler1-priv
* a5 G( O! |6 o 192.168.2.195:3260,1 iqn.2006-01.com.openfiler:racdb.crs1$ G& Z  ^) M! ?
192.168.2.195:3260,1 iqn.2006-01.com.openfiler:racdb.fra1+ I; t* @7 _# p5 _
192.168.2.195:3260,1 iqn.2006-01.com.openfiler:racdb.data13 f1 l) S3 ]+ Q7 |' F& o
[root@racnode1 ~]# , r$ M7 r& o$ @4 m$ z
iscsiadm -m discovery -t sendtargets -p openfiler1-priv
/ L; P, O. }# t% H1 X 192.168.2.195:3260,1 iqn.2006-01.com.openfiler:racdb.crs1
! c! P) [5 I+ h- x$ w) A, X 192.168.2.195:3260,1 iqn.2006-01.com.openfiler:racdb.fra1
, q, @9 n' r0 c" _. ? 192.168.2.195:3260,1 iqn.2006-01.com.openfiler:racdb.data1
0 f. x( J( w! L手动登录至 iSCSI 目标
) d. S! v& x9 j8 N* x1 s* i7 b至此,iSCSI 启动器服务已启动,每一个 Oracle RAC 节点都可以从网络存储服务器中发现可用目标。下一步是手动登录至每一个可用目标,可以使用 iscsiadm 命令行界面来执行此操作。两个 Oracle RAC 节点上都需要运行此任务。请注意,我需要指定 IP 地址,而不是网络存储服务器的主机名 (openfiler1-priv) - 我认为这是必需的,因为(上述)发现显示了使用 IP 地址的目标。
2 F5 s3 Y; N; ?- a3 S# j4 c/ f复制2 Z! D# q1 }. s
Copied to ClipboardError: Could not Copy( v( l* \6 ^( m1 F$ g' P
[root@racnode1 ~]#
7 g' C5 i: z! e7 c7 @ iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.crs1 -p 192.168.2.195 -l  K; G/ I: q" ]- V
[root@racnode1 ~]# ' `- z9 q# o* ]3 Y  ~+ L! z) w! v
iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.data1 -p 192.168.2.195 -l; ?7 ^* |% x8 R4 C, a/ M
[root@racnode1 ~]#
! i1 L. d! H# Y7 O5 \* J iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.fra1 -p 192.168.2.195 -l0 A! z6 S% s8 J% w- G# X
[root@racnode1 ~]#
- [8 `( v3 p0 a. A, h# i; U! C/ @ iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.crs1 -p 192.168.2.195 -l
  Q9 K. k! m: I5 b6 c- i" f  ? [root@racnode1 ~]#
- ]5 Q7 T2 f1 k5 \. ?! c iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.data1 -p 192.168.2.195 -l  h& N3 R# _( E9 I3 X
[root@racnode1 ~]#
' C$ K, {1 F- g1 M: z1 K; x iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.fra1 -p 192.168.2.195 -l
. U% a4 D' H4 ~# U1 m, q配置自动登录- ]7 J% Q1 _' v6 w/ c
下一步是确保客户端将在机器启动时(或 iSCSI 启动器服务启动/重新启动时)自动登录到上述每一个目标。与上述手动登录过程一样,在两个 Oracle RAC 节点上执行以下操作:6 E8 K' l! }  o) u( W' W
复制9 G/ A  N# B; W' R9 z
Copied to ClipboardError: Could not Copy
& l1 ^4 I. e) p0 W- e; L2 i" B[root@racnode1 ~]#
" y, x6 @5 Y. {( q" y iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.crs1 -p 192.168.2.195 --op update -n node.startup -v automatic$ x: P5 j- y5 \$ ]& \
[root@racnode1 ~]#
! E$ H/ G' m4 V% n# n. [ iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.data1 -p 192.168.2.195 --op update -n node.startup -v automatic; L* s) `. {5 x2 \! A
[root@racnode1 ~]#
4 k! M# G  o# q  w6 J, x iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.fra1 -p 192.168.2.195 --op update -n node.startup -v automatic
9 `0 r2 B- I! O* b[root@racnode1 ~]# ; y& {+ c" Q& e
iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.crs1 -p 192.168.2.195 --op update -n node.startup -v automatic+ z; {' ], ~, b0 Z
[root@racnode1 ~]# / h1 D) _& i# ?  v% ^; N
iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.data1 -p 192.168.2.195 --op update -n node.startup -v automatic
" K2 Q+ B7 U/ d0 ?' e2 _8 H [root@racnode1 ~]# ) u  F2 Y( M5 G% @. E
iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.fra1 -p 192.168.2.195 --op update -n node.startup -v automatic
  p0 L. h  {/ a创建持久本地 SCSI 设备名称
$ X# B. {$ H1 h# X8 ^9 k: P在本节中,我们将为每一个 iSCSI 目标名称创建持久本地 SCSI 设备名称。这将使用 udev 来完成。拥有一致的本地 SCSI 设备名称和所映射到的 iSCSI 目标,有助于在配置 ASM 时区分三个不同的卷。这并不是一项严格的需求,因为我们将为所有卷使用 ASMLib 2.0,而这提供了一种自我归档方法来快速识别每一个 iSCSI 卷的名称和位置。1 I4 L$ W' i& m) K1 H
当任何一个 Oracle RAC 节点启动以及 iSCSI 启动器服务启动时,它将自动登录到以随机方式配置的每一个目标,并将其映射至下一个可用的本地 SCSI 设备名称。例如,目标 iqn.2006-01.com.openfiler:racdb.crs1 可能会映射到 /dev/sdb。我实际上可以通过查看 /dev/disk/by-path 目录来确定所有目标的当前映射:' Q) u! I. G: W+ h% x
复制
% F4 }. |. J) ~5 m3 CCopied to ClipboardError: Could not Copy
0 S. ]" s% E! e9 r. O$ m[root@racnode1 ~]#
+ }8 r- y" Z, S; ^5 ?( \ (cd /dev/disk/by-path; ls -l *openfiler* | awk '{FS=" "; print $9 " " $10 " " $11}')
7 [& F2 L; Z. P) J3 i ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.crs1-lun-0 -> ../../sdb
" b' h. ^! a, b ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.data1-lun-0 -> ../../sdd! e* H$ j% |( V
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.fra1-lun-0 -> ../../sdc
. S$ x7 A6 ?6 q6 X, ~1 H6 q[root@racnode1 ~]#
& p9 Z4 }# b+ z6 M5 M! d (cd /dev/disk/by-path; ls -l *openfiler* | awk '{FS=" "; print $9 " " $10 " " $11}')' M) C! M3 O' r6 R! A0 Q9 ~
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.crs1-lun-0 -> ../../sdb0 G# i* N7 Q, t: ]1 i
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.data1-lun-0 -> ../../sdd# Q. y: d/ |& G7 G+ Y; {8 B
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.fra1-lun-0 -> ../../sdc
# z, W8 v8 A9 X2 f; E4 ~* J- J, Y我们可以使用上述输出建立以下当前映射:
% @) f( E) z* j; o当前 iSCSI 目标名称到本地 SCSI 设备名称映射: t1 u: z3 x+ e
iSCSI 目标名称 SCSI 设备名称  q; p$ Q& [; _
iqn.2006-01.com.openfiler:racdb.crs1 /dev/sdb
  \( A' ?1 R+ w/ [7 g7 r  g' giqn.2006-01.com.openfiler:racdb.data1 /dev/sdd
0 W2 g5 `$ U0 w  oiqn.2006-01.com.openfiler:racdb.fra1 /dev/sdc
$ `- T3 X) ^( _  O3 p9 i但是,每次重新启动 Oracle RAC 节点时,此映射可能会发生更改。例如,在重新启动后,可能会确定 iSCSI 目标 iqn.2006-01.com.openfiler:racdb.crs1 映射到本地 SCSI 设备 /dev/sdc。因此,依赖于使用本地 SCSI 设备名称是不切实际的,因为在重新启动后无法预测 iSCSI 目标映射。2 N7 A) H: D5 ~$ _+ k2 W
我们需要的是一个可供引用的一致设备名称(即 /dev/iscsi/crs1),它在重启后始终指向适当的 iSCSI 目标。这就是名为 udev 的动态设备管理工具的用武之地。udev 使用符号链接提供动态设备目录,这些链接使用一系列可配置规则指向实际设备。当 udev 接收到设备事件(例如,客户端登录到 iSCSI 目标)时,它会将其配置的规则与 sysfs 中提供的可用设备属性进行匹配以识别设备。匹配规则可能会提供额外的设备信息或指定设备节点名称和多个符号链接名称,并指示 udev 运行其他程序(例如 SHELL 脚本)作为设备事件处理过程的一部分。$ i7 C9 p, u' S+ \* e
下一步是创建一个新的规则文件。该文件将被命名为 /etc/udev/rules.d/55-openiscsi.rules 且仅包含一行 name=value 对,用于接收我们感兴趣的事件。它还将定义一个调用 SHELL 脚本 (/etc/udev/scripts/iscsidev.sh) 来处理事件。
; P% f2 b% F( w在两个 Oracle RAC 节点上创建以下规则文件 /etc/udev/rules.d/55-openiscsi.rules:
: Q0 |/ f  c8 ?; k. n7 e% K# q复制
& w9 A4 [; }: Z* W) HCopied to ClipboardError: Could not Copy3 p" M) x2 U) Y9 V: Z
............................................../ P  p* Y- E  V7 m/ B" x5 B
# /etc/udev/rules.d/55-openiscsi.rules
9 _* {! X" `1 m3 `( s& M KERNEL=="sd*", BUS=="scsi", PROGRAM="/etc/udev/scripts/iscsidev.sh %b",SYMLINK+="iscsi/%c/part%n") c- ~6 ]* q1 @4 g" E$ e$ ?' x! s
..............................................
5 T/ O& i& R1 Y. D% x9 l0 P.............................................., t" P$ C+ r& A) o6 N5 ?: D
# /etc/udev/rules.d/55-openiscsi.rules; s5 H% t8 e( d- l" x& N* e
KERNEL=="sd*", BUS=="scsi", PROGRAM="/etc/udev/scripts/iscsidev.sh %b",SYMLINK+="iscsi/%c/part%n"* `& M; A& L4 l
..............................................* ~0 K, v7 p) B# c7 t& n! q3 q) E( g
我们现在需要创建 UNIX SHELL 脚本。当收到此事件时将调用该脚本。让我们首先在两个 Oracle RAC 节点上创建一个单独的目录来存储 udev 脚本:
3 S8 O3 e0 q% \  s$ D复制; \, o2 U' ^8 {7 j7 W
Copied to ClipboardError: Could not Copy
6 C  s0 F' P8 i5 g% ?[root@racnode1 ~]# $ W( }# {3 D6 q1 }; p
mkdir -p /etc/udev/scripts- S* {9 h+ J8 L, Y
[root@racnode1 ~]# ) c9 b+ \( t  R& B
mkdir -p /etc/udev/scripts. C2 r+ N  r+ H9 v8 J9 @! v9 C; X
接下来,在两个 Oracle RAC 节点上创建 UNIX shell 脚本 /etc/udev/scripts/iscsidev.sh:+ T: O$ L: W" ~* W" ?5 ]2 S7 }7 y
复制
6 Z2 U# S3 R$ [; O8 nCopied to ClipboardError: Could not Copy
, k+ i. z4 J/ K, w..............................................
' e, K1 J1 \2 i7 P! w: Z #!/bin/sh
+ E8 t  E+ Y# q
+ O: w. |& j' J! B2 } # FILE: /etc/udev/scripts/iscsidev.sh: J- S# F9 D: V( a

( K' ^0 O7 v1 y& @5 x' L BUS=${1}
% \; e$ T, N7 G5 I$ ~' {* h; y HOST=${BUS%%:*}! Q" b- H. z* T+ f9 J4 P+ t# d
4 _  W* i: F5 S: ]
-e /sys/class/iscsi_host ] || exit 1" H6 x# m9 ?7 {% K# m5 q$ ?- B0 ]
1 Q- V" E, r" X- x8 h7 O: ^0 K- g% o8 ~
file="/sys/class/iscsi_host/host${HOST}/device/session*/iscsi_session*/targetname"
- J; a3 ^+ P/ }0 i2 [6 |
  r0 x+ v8 f" n, K' p target_name=$(cat ${file}): o; u. P  R1 n7 R+ [
0 m- t$ @6 ~: {: p% I. u/ l
# This is not an open-scsi drive
+ m- s2 y5 T: l, q# p% h0 Q if -z "${target_name}" ]; then' X$ R4 Z+ E' e% Q
exit 16 T7 b9 ~9 ~: o
fi
" x) F- f) K& W* A # t$ i# u" r% {4 P3 u
# Check if QNAP drive. C0 V1 y# V( @0 ^) `+ J
check_qnap_target_name=${target_name%%:*}* b' l# t, y- Q( q
if $check_qnap_target_name = "iqn.2004-04.com.qnap" ]; then
. F% s2 m3 P# c# F2 a. I6 Q target_name=`echo "${target_name%.*}"`
' \. \! Y* ]& F  N& L0 N fi
  ]; b2 Z) g2 ?! Z " ^/ R; L4 ~6 F( A; L# v
echo "${target_name##*.}"  ?* v$ z# W/ o3 d2 _' F0 {
..............................................( Z" ]' t; R7 j0 B' K
..............................................- ]- M1 P. a5 R! c" c
#!/bin/sh
/ ?3 B# ?3 ^* L+ p9 R
& ?% }- U: H+ H: T& R # FILE: /etc/udev/scripts/iscsidev.sh
0 i5 S- x2 l  {3 J) ] $ G' Z6 r  _! C2 W
BUS=${1}
! j6 s. y0 {! v" x+ h: e HOST=${BUS%%:*}9 x' J8 v1 s1 K5 x4 y7 B7 L) @

, n- B* }, j# X9 ^" R -e /sys/class/iscsi_host ] || exit 1
$ ^  h( G$ S% N& ?* z ) o/ B1 E/ v% H
file="/sys/class/iscsi_host/host${HOST}/device/session*/iscsi_session*/targetname"9 c: `4 i4 q0 M$ Y  C! r) ]* ~; J
  X2 Q5 j5 k8 T
target_name=$(cat ${file})
9 U" U. S% {( K# g1 G" i. E) b
4 `' ?8 h8 Y/ I4 k. A8 Y+ K # This is not an open-scsi drive2 o6 s9 K' e' ]/ e
if -z "${target_name}" ]; then9 a& ?# k0 v; |" R5 L
exit 1
8 I+ l; p" T5 `; s9 o6 s. Z! P fi1 y) Z; {! Y0 E# U" C2 F
5 T* n) f1 H+ O2 |: G" n8 k7 c' b( K0 ]
# Check if QNAP drive
7 ]+ e4 w# u: G8 E4 U2 S+ Y1 u* O check_qnap_target_name=${target_name%%:*}7 o6 R  f+ ^* H
if $check_qnap_target_name = "iqn.2004-04.com.qnap" ]; then5 S7 r# l- X) h  m0 F; ?
target_name=`echo "${target_name%.*}"`
1 g3 u: ^2 ]7 R6 q' A8 s5 p4 C8 E fi
. r+ m7 M$ e+ G7 x# O2 v' Y 0 l6 B" H) T# F$ {. K
echo "${target_name##*.}"
7 l8 ~$ k/ f2 l$ x1 u" x4 Q6 l ..............................................8 Y4 n. |4 Z1 }0 B# k
在创建 UNIX SHELL 脚本之后,将其更改为可执行文件:
( m  Q/ S6 u! Y* V8 ~复制
1 A  J$ S# @5 e- j+ H  OCopied to ClipboardError: Could not Copy
3 q! n4 ]1 _% j6 V2 v- t[root@racnode1 ~]# # c! I, E! Q# }2 b
chmod 755 /etc/udev/scripts/iscsidev.sh
8 h1 m4 F2 ?6 \1 |" v3 n  V[root@racnode1 ~]#   Y- E3 z3 N- S, U8 [1 A
chmod 755 /etc/udev/scripts/iscsidev.sh
1 B" P9 ^9 N7 h8 \1 }( X; K现在已经配置了 udev,接下来在两个 Oracle RAC 节点上重新启动 iSCSI 服务:7 s( w# C* g$ l2 D% E. D# ]0 S
复制
% a! j$ b% L6 N3 ^Copied to ClipboardError: Could not Copy
# V5 U' b% u) G9 y" U$ n' B[root@racnode1 ~]#
7 z8 r$ n+ p( W$ V! C service iscsi stop
6 ?: e  a2 I/ H( Y! N6 F- J9 }$ e Logging out of session [sid: 6, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]$ B! d  Z0 M0 R" H1 o6 Z8 T3 a
Logging out of session [sid: 7, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]2 H' I. @; i& u+ J" F
Logging out of session [sid: 8, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]9 `" C! I: I7 k. |$ {! `* V
Logout of [sid: 6, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]: successful" z% R) ]/ T5 p/ m. A
Logout of [sid: 7, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]: successful
. {5 @# M3 `- R5 E: X Logout of [sid: 8, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]: successful
) _9 v; t9 h0 E; W' \ Stopping iSCSI daemon:
$ R, l  g' M$ z
4 L2 S# `$ l! c4 f3 Y: [) x3 z OK ], X3 h; {; ~7 n5 U

; P: A/ @: @2 w1 }  Y2 a* b( K [root@racnode1 ~]# 5 W( `- x* a. g2 K  m8 s! a9 }9 E
service iscsi start
8 V1 _' a; w, F5 [% n- m iscsid dead but pid file exists
- x6 a8 f0 s  b+ w( e Turning off network shutdown. Starting iSCSI daemon: 9 ^; a+ M7 n7 |+ ?- x, m) R

# m0 c4 Q  ~# W7 D1 ~ OK ]
% t4 E2 X& g9 T8 k+ n! W
. S0 ^3 I( S4 j% _9 T8 { - H/ {6 P, R8 U
OK ]
4 M5 Z* V: a7 l: @ Setting up iSCSI targets: Logging in to [iface: default, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]$ @( z- e3 |; D- d
Logging in to [iface: default, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]
  L) N, r! c6 q6 c Logging in to [iface: default, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]
- S) O1 t9 M2 ~- n; {* B# Y) C- c Login to [iface: default, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]: successful
% C( ?4 Q3 ]6 } Login to [iface: default, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]: successful3 ^2 W8 D# ]9 N3 V/ z$ |1 Q
Login to [iface: default, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]: successful% u7 i: T) f' o, [" L. x

% Z% m1 N. Z, F/ E( T  Y " z) T4 o$ k  o8 V  m
OK ]1 {* p3 r) T/ g- \" w  s" V+ B
[root@racnode1 ~]# ( P/ a% t1 C" e; ]+ p5 R
service iscsi stop
" S- m! N# O8 q8 c Logging out of session [sid: 6, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]
3 h# m) x5 \% V& Q# U Logging out of session [sid: 7, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]) l) D2 J% F, d( |0 C4 c
Logging out of session [sid: 8, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]
( w0 L- A  d8 b( F# n; T Logout of [sid: 6, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]: successful
- y4 |7 l% U' v, C- E' u2 f0 C. m Logout of [sid: 7, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]: successful
$ [% i, V0 ^, Q; z! V+ b! z Logout of [sid: 8, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]: successful& j6 b) u8 Z5 S8 w% [( L
Stopping iSCSI daemon:   z4 u6 t# g3 j) T

$ g/ V8 {+ J$ E OK ]  J. E$ }: ^" ~2 ?% U  ]* T

! g; V( p. o: s4 }& P [root@racnode1 ~]# - C9 P8 t# e0 H- r* N) X" U& O0 V" U
service iscsi start
% Q- b  R  r1 \; U2 I iscsid dead but pid file exists" }+ |/ ^5 _, ?$ q; r) }5 A
Turning off network shutdown. Starting iSCSI daemon:
2 _9 `6 }% A) ]; w6 g$ w$ V: O) P
+ w* g0 S3 ?5 o/ B  ~ OK ]- }8 K1 _( }5 j' E* v- s* B  o0 e
# t- S1 g$ n; ?: |5 D2 E8 @) Y
; A+ E3 c- V+ `
OK ]& p5 V. d: w$ x2 Q
Setting up iSCSI targets: Logging in to [iface: default, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]) U4 Y1 ]/ J* a- X$ y
Logging in to [iface: default, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]
5 X5 X: ~7 H) A/ _' b% l Logging in to [iface: default, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]
! u$ l! W6 K/ L: Y7 ~; s Login to [iface: default, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]: successful3 [; X7 o& |- L& v) F- K5 |# x
Login to [iface: default, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]: successful, `9 J5 Y+ o* p
Login to [iface: default, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]: successful" f2 D5 ]1 U# V  r$ V2 @. V) o
2 C; E  r6 _, t  Y: T
7 v/ G2 V( N" r. a9 f' {& c
OK ]
( L. E% [" {1 {$ H+ a- k: i5 z5 @  }我们来看看最终的结果:; f0 Z2 M; i7 d- b0 {9 g
复制
  Y- i. k/ ]2 QCopied to ClipboardError: Could not Copy
  s$ c( Q9 E+ w. [+ v" g1 z; L[root@racnode1 ~]#
) p! Z, |; [7 v ls -l /dev/iscsi/*
% v3 n# f6 b: j. P! m /dev/iscsi/crs1:) g! C) J0 n- c1 H; X+ l; l
total 0
  T. n; k; h+ d# O8 }+ b/ d# L lrwxrwxrwx 1 root root 9 Nov 3 18:13 part -> ../../sdc  C  k" _& V1 q. k. t

$ B& x' |' N, K2 H  z7 F /dev/iscsi/data1:) Y. F) @* z3 T  P. p" v
total 08 Z6 C: m! B8 E3 A& M% ]; P' @
lrwxrwxrwx 1 root root 9 Nov 3 18:13 part -> ../../sde$ W* k& Z" }$ g+ q9 X
. n" }# A) S! c6 I) j/ Z7 K
/dev/iscsi/fra1:
7 t' A; M0 C( \) W/ h' p4 @2 ~ total 0
+ ?+ s' H) J) Q# n8 B* i lrwxrwxrwx 1 root root 9 Nov 3 18:13 part -> ../../sdd" T+ @$ E& q, O" \+ z  f
[root@racnode1 ~]#
; h; N7 Q. l8 a( d ls -l /dev/iscsi/*7 T' |5 C4 O7 A/ L9 P
/dev/iscsi/crs1:
) R" g& B, J) F+ ?0 d; M5 K) I; B/ ^ total 0
4 B% q& R) Z: _- y% `/ x. N lrwxrwxrwx 1 root root 9 Nov 3 18:13 part -> ../../sdc2 e: Q5 i+ [5 }( U

* }- z, o8 x( q( O4 B' y, {1 }. q /dev/iscsi/data1:
( J$ `) q" [* }  B total 09 ^/ q0 U) m" w) x- s. Z
lrwxrwxrwx 1 root root 9 Nov 3 18:13 part -> ../../sde+ L/ \' C" y  O7 e5 x, I! x9 M! A

) O9 Z& f" G% A0 ^+ K6 q6 | /dev/iscsi/fra1:0 b2 i0 w  K6 s5 z& V- k9 {" i
total 0% q! h. k+ C" M; e% m+ z0 X) z2 x' l# f
lrwxrwxrwx 1 root root 9 Nov 3 18:13 part -> ../../sdd6 {3 r1 a# ]( |* t, e+ m
以上清单显示 udev 完成了其应当完成的工作!我们现在拥有了一组一致的本地设备名称,可用于引用 iSCSI 目标。例如,我们可以安全地假定设备名称 /dev/iscsi/crs1/part 将始终引用 iSCSI 目标 iqn.2006-01.com.openfiler:racdb.crs1。我们现在通过一致的 iSCSI 目标名称与本地设备名称相映射,如下表所述:* d: i5 V0 [0 z# E2 `
iSCSI 目标名称到本地设备名称映射9 m1 @. `+ J# @* x# y! ~( I
iSCSI 目标名称 本地设备名称
/ Z+ J# x2 F9 W- s* X- B$ Wiqn.2006-01.com.openfiler:racdb.crs1 /dev/iscsi/crs1/part) b/ R- k1 J6 p0 W) W
iqn.2006-01.com.openfiler:racdb.data1 /dev/iscsi/data1/part
, T, K/ |+ {- n) i, i1 h6 kiqn.2006-01.com.openfiler:racdb.fra1 /dev/iscsi/fra1/part
2 t+ h. V& b% R在 iSCSI 卷上创建分区( n3 E& Z2 @! k& s/ {0 F, p
我们现在需要在跨整个卷大小的各个 iSCSI 卷上创建一个主分区。如前所述,我将使用自动存储管理 (ASM) 来存储 Oracle Clusterware 所需的共享文件、物理数据库文件(数据/索引文件、联机重做日志文件和控制文件)以及集群数据库的快速恢复区 (FRA)。
& }0 e! \& q/ V" `% N& o0 L; UOracle Clusterware 共享文件(OCR 和表决磁盘)将存储在名为 +CRS 的 ASM 磁盘组中,该磁盘组将配置为外部冗余。集群数据库的物理数据库文件将存储在名为 +RACDB_DATA 的 ASM 磁盘组中,该磁盘组也将配置为外部冗余。最后,快速恢复区(RMAN 备份和归档重做日志文件)将存储在名为 +FRA 的第三个 ASM 磁盘组中,该磁盘组也将配置为外部冗余。
+ P4 p0 z0 x+ E$ n下表列出了将创建的三个 ASM 磁盘组以及它们将包含哪些 iSCSI 卷:! e3 {7 ?6 f* L7 e
Oracle 共享驱动器配置5 @5 Y" O; i. I
文件类型 ASM 磁盘组名称 iSCSI 目标(短)名称 ASM 冗余 大小 ASMLib 卷名
6 N+ @; Q2 |5 h' @/ @OCR 和表决磁盘 +CRS crs1 外部 2GB ORCL:CRSVOL1
: Q7 I, @9 q4 J- ]Oracle 数据库文件 +RACDB_DATA data1 外部 32 GB ORCL:DATAVOL1
: i. i4 V, j' k1 @3 M4 B' \6 Z! q" COracle 快速恢复区 +FRA fra1 外部 32 GB ORCL:FRAVOL1$ m- [& j" ?  A" A! ], Q) C1 A
如上表所示,我们需要在每一个 iSCSI 卷上都创建一个 Linux 主分区。fdisk 命令在 Linux 中用于创建(和删除)分区。对于每一个 iSCSI 卷,您都可以在创建主分区时使用默认值,因为默认操作是使用整个磁盘。您可以安全地忽略任何可能表明设备不包含有效 DOS 分区(或 Sun、SGI 或 OSF 磁盘标签)的警告。4 \+ W! D+ w: g; z  D
在本例中,我将从 racnode1 中运行 fdisk 命令,并使用 udev 在上一节中创建的本地设备名称在每一个 iSCSI 目标上创建单一主分区:! q$ ]4 g+ [0 e% x
/dev/iscsi/crs1/part& J* H2 Z: o. @
/dev/iscsi/data1/part; ~/ {0 t; t; W2 H, B% f4 h3 V
/dev/iscsi/fra1/part
# `% z# {4 P  n8 t5 v% W注意:在每一个 iSCSI 卷上创建单一分区时,只能从 Oracle RAC 集群中的一个节点运行!(即 racnode1)
3 ^7 D& L3 }  L9 r) x( L3 {复制
& i: b3 e& j+ N- oCopied to ClipboardError: Could not Copy. c% v: ^5 l" ~. k1 w# C) A, l( H
# ---------------------------------------
5 v* k( w+ d2 o8 ~# j2 g: v
  I3 ]: f4 t$ U: f [root@racnode1 ~]#
* M, R! c. R  Z; _  b4 A/ v* `* J fdisk /dev/iscsi/crs1/part2 L4 ^1 P8 A1 }" {
Command (m for help): 6 A* n( d1 Z6 m& n8 Z4 w2 N
n
& G$ R) d1 q+ y- J& s7 @. }- o Command action
! P, M4 p+ _, R" P0 I4 h e extended
+ {- j4 g$ |# I) c3 [: B0 p. c p primary partition (1-4)
" u: u" u2 K7 M9 O9 V) j7 p: z p
6 I/ S8 _: f! g4 x* a4 M Partition number (1-4):
) q# C" ~% i6 m: Q 1' P$ h. I: D) e( }% M1 V$ F/ W
First cylinder (1-1012, default 1): / B5 ?$ J+ ^$ p# R
1
' T) p6 n. B9 s* p* A/ Y. u% f/ q Last cylinder or +size or +sizeM or +sizeK (1-1012, default 1012):
9 Q- v9 R% V" I 1012
3 q* q  ^& c; T: b
. O: k/ }" b$ W8 d: m+ l Command (m for help): & `' h$ \0 v" r" _* h( V7 O
p6 K; u6 l  F  b6 P3 [  R! B% J( p! B
5 k7 w' u; x; Y# @! H& T1 ?+ f1 r
Disk /dev/iscsi/crs1/part: 2315 MB, 2315255808 bytes0 w7 W4 f8 B  \" E. B
72 heads, 62 sectors/track, 1012 cylinders
9 u2 G0 k. h# l) o( w: ?' P Units = cylinders of 4464 * 512 = 2285568 bytes( x- J" y7 i) ]9 X
- L8 y0 y/ m4 I& C. z0 V
Device Boot Start End Blocks Id System
+ }3 O( f+ z: [9 Q/ _# |, |$ } /dev/iscsi/crs1/part1 1 1012 2258753 83 Linux
! G* k4 w* v* G8 _6 {
' l) I5 e5 j" Y% x9 f# ~5 @ Command (m for help): ! `: j4 [2 D" K" h3 p  r' D
w
" z. A1 `! y  r6 M6 t: ^' k The partition table has been altered!
( q+ S8 L, x' X# }7 A- t! B, g, w3 H9 J 7 ^( J# d" k" g. L6 Y1 A
Calling ioctl() to re-read partition table.1 _, F/ Z, @: I8 _. E% f
Syncing disks.
" i5 L# p- ]: G- e2 q
; p- Q4 }! B3 m/ l # ---------------------------------------
0 i: c7 f0 j/ O) m9 C; [" S
3 ~& W* \/ b0 V$ J2 _% @5 i/ v [root@racnode1 ~]#   \  |3 S8 I1 n# N* G
fdisk /dev/iscsi/data1/part
8 X, l6 w% B4 |( v5 M# Z( n Command (m for help): 6 X6 h9 \6 A3 u" Q( \7 B# h
n1 G% k/ x' {; ^; y8 S5 a5 j
Command action4 D# B% I: N4 T8 n% N: }3 _
e extended, m( a' Z! f% F; |
p primary partition (1-4)
  ?2 }; O' r! z  `$ P$ @8 T p2 \  L! v3 U. n% y8 D- U& |6 N% T
Partition number (1-4): 5 N: o9 v7 @7 d9 L. h1 T
1
, j6 ^4 ?" n1 S+ V9 Q First cylinder (1-33888, default 1):
* L2 t( h7 O$ _! e2 C 16 w# B6 J$ \2 E2 s
Last cylinder or +size or +sizeM or +sizeK (1-33888, default 33888):
+ }: D1 o+ x% |5 [ 33888
; d( B" F' {* Y3 Y1 K4 Y 7 \: ]6 C, E6 T: e/ }1 A  r
Command (m for help):
, l' h3 u- f5 `% w7 ? p& h; U: x# M% \, [# Y. f3 Q
2 ^6 b5 J: V$ f: W
Disk /dev/iscsi/data1/part: 35.5 GB, 35534143488 bytes* |1 V! h2 S! G
64 heads, 32 sectors/track, 33888 cylinders
& U# g: d& y- ?  t+ ~3 L Units = cylinders of 2048 * 512 = 1048576 bytes* @3 ^+ d! \5 N1 ?% t, ~1 `$ E) G
6 d. M% c' p, P9 X6 \% ~
Device Boot Start End Blocks Id System: p0 O: J1 \; {7 z# C7 K: |
/dev/iscsi/data1/part1 1 33888 34701296 83 Linux# ]* S: `% T1 e+ |; d' Z' r* P

% `9 Q  P$ Z: D% b6 Z$ n0 b Command (m for help): ) r  E' t- H7 @; D5 O
w# ~+ ^' O6 \% ^9 ~  G# E
The partition table has been altered!
+ ^- S8 o6 G2 o8 a * ]  N" I3 y/ _) _5 d$ Q2 N
Calling ioctl() to re-read partition table.
6 Y9 U# N# {8 e9 Y" t Syncing disks.9 ~  W1 T$ A. l* E0 M, E8 E; f# D: v
- m1 S7 j7 c$ y& A- q( d- d3 R. z4 ^

) i8 u; O. L  Q4 N5 p # ---------------------------------------
5 u0 N3 i  r5 _4 q+ x 8 r* r+ t! S4 ~2 S
[root@racnode1 ~]# + r! K# y* M. s1 R
fdisk /dev/iscsi/fra1/part" I3 [4 d$ R& X0 h8 W; [
Command (m for help): % ?! w) B( e2 h- H
n1 K) N1 g6 ^3 H7 a2 X9 k4 K
Command action  i& k% N& v/ }# N
e extended
& e" _) R) n% y: G4 L- }; ` p primary partition (1-4)5 G9 s. Q( ^& U$ K- p! t" r$ @
p2 e; }4 H5 m$ M" ^9 \
Partition number (1-4): : w9 r) e% i% I& B2 A
1
8 d, b2 q3 D! H First cylinder (1-33888, default 1):
0 L& y7 O. Y# r 1
* k' i6 O. G& Q! X# T; e/ V" [ Last cylinder or +size or +sizeM or +sizeK (1-33888, default 33888): , M3 ^, J2 K6 h$ n
33888
2 X( x+ y0 M% g' E; Z; Q" K& z8 J* [
% T4 t0 A1 n6 C, U6 {, v5 N Command (m for help): 4 Z- R% _6 \4 g: R1 @  w" L
p% @! {7 D+ ^9 u" t9 O
/ i' @+ A0 o, c0 T8 f; @
Disk /dev/iscsi/fra1/part: 35.5 GB, 35534143488 bytes
2 q( I  D' r6 G! r 64 heads, 32 sectors/track, 33888 cylinders# z; v$ K( c9 s
Units = cylinders of 2048 * 512 = 1048576 bytes
; q' h4 d$ }$ _
% s: n& F3 K2 ~ Device Boot Start End Blocks Id System
* K% R9 d7 b! |# }% Q+ L4 E. I /dev/iscsi/fra1/part1 1 33888 34701296 83 Linux& t, T3 H7 |) e. o5 F% J  z, K" l
7 |( x! z% E/ d% ~0 b4 ^
Command (m for help):
- W6 A  a2 x' n; r% \ w& T( p& A$ E8 h
The partition table has been altered!; t& M5 b6 m0 O, M
( y4 i6 `" J, Z9 {; l
Calling ioctl() to re-read partition table.
* c) K* n7 i: L1 ` Syncing disks.4 P$ x1 X( w' `3 l/ x) m# e* |
# ---------------------------------------; {) t5 U- _8 {# _! |, H
) }5 W- C' e! m& Q6 K
[root@racnode1 ~]#
6 _- g, ]* e/ u, ` fdisk /dev/iscsi/crs1/part
9 t5 _9 p3 u5 X' ` Command (m for help): & V. n) K$ O# f, f  L3 G: V
n
* |$ V: b. T$ l: H Command action
1 h# {! M- p7 K( L e extended; H  `- @9 G) i6 o" Y; o7 l
p primary partition (1-4)
" R" u+ `3 c7 M p
. P3 O/ W% I, m* B) H6 v1 b Partition number (1-4): 5 k/ E- Z- }; E8 y  |& V
1- \) c0 ~& y! _0 c" A$ @1 d8 K
First cylinder (1-1012, default 1):
$ f+ p6 l, f9 {( \/ k( ^ 1
( W# W  j" Q3 U6 A Last cylinder or +size or +sizeM or +sizeK (1-1012, default 1012):
' p& d7 G2 W) Y/ q  {  \ 1012
0 J6 G# m/ r- o , M: m8 p/ I7 [0 r
Command (m for help): ) m% E4 }+ a( i$ P, O/ T" ^3 M
p
' p4 _8 U4 i/ j' O! ]+ B
( K& {0 y" X/ z5 F" h% w! e Disk /dev/iscsi/crs1/part: 2315 MB, 2315255808 bytes
1 {8 Z7 D+ C5 e, A9 [ 72 heads, 62 sectors/track, 1012 cylinders
% ?) `& r- z& j- t Units = cylinders of 4464 * 512 = 2285568 bytes
# V; s3 t6 p- @4 V0 w* h
2 y: E' ~' Y, o1 m: G/ c( W Device Boot Start End Blocks Id System* [1 x# P3 P+ e& v5 U! ^7 R# }. z# I
/dev/iscsi/crs1/part1 1 1012 2258753 83 Linux
' {' t: r5 g% Y- z
/ x4 u5 a) C/ C+ p/ N Command (m for help):
: q) t: C+ V9 C- C, m w! O3 X+ g9 Y4 s2 A+ e- K, l9 V! J
The partition table has been altered!
0 H) K; B! j0 c$ Z5 o/ U
9 h+ l% X' K8 F! Y& g Calling ioctl() to re-read partition table.! T/ T5 O7 Y* C2 l1 q1 T
Syncing disks.
1 d% r4 p, f* ^2 n- L$ s
9 K( j/ j+ h9 e8 k # ---------------------------------------1 Q8 t$ k1 S- x) a1 ?5 j

. n: q# |  i3 x! [2 h7 F  j' ?/ {) Z [root@racnode1 ~]#
6 G! l7 f: r1 B. B$ G fdisk /dev/iscsi/data1/part
. p. T' S: H9 E" h- i/ r  d Command (m for help):
/ y' l2 s8 ]7 }% R1 j n4 _. ?5 r" n8 I. s+ n7 S2 G
Command action
) m6 v& k2 _! ^' E" i" V e extended9 B2 w- u$ N7 s2 X* E: i0 j& D
p primary partition (1-4)& N( M" c3 V" H4 u$ c" O
p# A5 J1 Z- ]  `" r% X# Q! ^- l9 h
Partition number (1-4): 6 ]8 u8 @2 u* }1 j$ E9 O" Q
1
) D% @! S* n9 L% e0 r5 J' s First cylinder (1-33888, default 1):
9 S: X4 ~6 l% v  ]' l+ m6 J5 E 13 h6 [2 m0 d$ T+ E( S
Last cylinder or +size or +sizeM or +sizeK (1-33888, default 33888): 1 ^8 h9 l/ W3 m/ W8 b' _" \0 b- n+ V; g, B
33888- C2 k/ }8 _: V$ ?0 q* k$ |0 u0 [# j
$ A1 |! c: o9 ~' E
Command (m for help):
+ x8 S: `% _4 {" w p
- z8 B" h3 B3 G" Q0 Q$ W
# u% D, T7 L! T) D- Y& A) K Disk /dev/iscsi/data1/part: 35.5 GB, 35534143488 bytes1 y, Q' I$ H; E# s& \  \% ^7 Z9 y
64 heads, 32 sectors/track, 33888 cylinders0 ^9 k5 p# T- s* `
Units = cylinders of 2048 * 512 = 1048576 bytes
" _1 E; d+ L2 O1 k, G
6 @4 |1 a: l9 Q Device Boot Start End Blocks Id System
0 {7 F. D' E) K5 {: G /dev/iscsi/data1/part1 1 33888 34701296 83 Linux
9 o! ~& p2 W6 }% K) ] 8 J! w2 E3 {7 B  d" t6 B# S
Command (m for help):
$ o/ e6 z% z4 s% S4 v) S  W. y' @ w
7 I9 l% ^# ~( N3 D The partition table has been altered!- ?2 E+ p1 U9 |' I2 R  D4 m
" N/ G6 W/ L  z
Calling ioctl() to re-read partition table.
; L# A+ r9 n* A; I( D. R& O$ M Syncing disks.6 j' L& i0 K* n2 s5 J6 M
2 `  S! q1 |4 _! {) Q1 d7 T; ]

! R2 B) D5 Y5 _& k3 q # ---------------------------------------
0 s# u0 k% D; m" _ # Q# G: \( u& \9 B* u
[root@racnode1 ~]#
/ o  F/ o3 w4 b8 u1 |6 _# n fdisk /dev/iscsi/fra1/part" B8 G2 F) a( k1 b% B" ^' t
Command (m for help):
& B9 y7 b0 B  p! [. h n: {8 E& c# a7 ~9 Y: Y. b: M
Command action- w/ [3 p7 g6 d/ t0 P
e extended
& |3 H1 G- q! z0 d/ f& \ p primary partition (1-4)& \7 P1 ]  e. n; s
p
2 |( `* e0 [& D, x: g& S) r4 B Partition number (1-4):
. Q: `. T* s9 y& z; ~+ x+ @ 1( f" c, k8 ^3 K4 t& [
First cylinder (1-33888, default 1): : [3 Q& z' t8 U! m0 N
1
* z! b( a* B' c( R' g9 _' a2 ? Last cylinder or +size or +sizeM or +sizeK (1-33888, default 33888): . T, I7 F6 A. V( m, A# w
33888
; x1 k( ?4 `% e5 W0 |7 d
5 w* G9 |9 R3 O& d5 o Command (m for help):
- e% a% Y9 H/ G' E2 ? p, C* z2 J5 s8 ?4 m

5 c9 Y( `1 D, J9 Y9 Y" V Disk /dev/iscsi/fra1/part: 35.5 GB, 35534143488 bytes
2 w0 b1 v6 I3 M( ?; p) X 64 heads, 32 sectors/track, 33888 cylinders: ]9 |# E% G* b$ I
Units = cylinders of 2048 * 512 = 1048576 bytes2 b- o; I5 y  Y- _

6 P: x1 M, N5 ]: l$ E- O+ v Device Boot Start End Blocks Id System0 c5 N. K3 O5 }; Q3 o: L
/dev/iscsi/fra1/part1 1 33888 34701296 83 Linux) W) {2 N4 c* N+ r" l( b

; S: d* k- d, w0 W; W3 \ Command (m for help):
" G, k/ A% z# }, @7 q w
+ M2 j/ L- l# Q: \ The partition table has been altered!
) E/ s4 }' Z+ d) W2 ^. k( a; q+ E
/ X  R, `2 i. ]" d. B7 l3 \! k6 ` Calling ioctl() to re-read partition table.0 i7 F2 L$ N& M+ e# Q
Syncing disks.9 o" d7 }6 Y# `2 K
验证新分区
0 T% I8 Z. d$ \- [从 racnode1 创建所有必需的分区后,您现在应当使用以下命令作为 Oracle RAC 集群 (racnode2) 中所有其余节点的“root”用户帐户,以便于向内核通知分区更改。请注意,从 Openfiler 发现的 iSCSI 目标名称与本地 SCSI 设备名称的映射在两个 Oracle RAC 节点上将有所不同。这不是问题,也不会造成任何问题,因为我们不会使用本地 SCSI 设备名称,而是使用 udev 在上一节中创建的本地设备名称。, T* ~$ o/ v. e. O
从 racnode2 中,运行以下命令:: a! _9 S  q8 ?, t
复制/ `9 }/ N0 q; H) O3 k/ ^2 D
Copied to ClipboardError: Could not Copy" m: g3 T. ^4 _" \
[root@racnode2 ~]#
8 y$ o  ~$ |2 k' ]# U partprobe4 n9 {1 R$ U$ ~

" |! {  L) R9 z+ F [root@racnode2 ~]# , K3 \  O+ K5 P# h
fdisk -l
! Q0 y/ E* p$ F% g   @' A$ U  W' @7 ~1 C# `. D/ y
Disk /dev/sda: 160.0 GB, 160000000000 bytes
) c% u8 P4 @3 x7 I0 l 255 heads, 63 sectors/track, 19452 cylinders5 ]. F5 v. j- e; ~
Units = cylinders of 16065 * 512 = 8225280 bytes; Z- Q  U! I0 a3 q2 x
9 y5 `/ R1 H+ ~! G$ Y
Device Boot Start End Blocks Id System
# a/ ~8 a! g; R /dev/sda1 * 1 13 104391 83 Linux
* H& v$ P' B' H1 O /dev/sda2 14 19452 156143767+ 8e Linux LVM
& l+ U+ j+ w0 d' ], D( ]8 Z
4 F1 c2 X4 f4 K( j2 J$ } Disk /dev/sdb: 35.5 GB, 35534143488 bytes
# g7 N6 M) a! I8 K' A* o: r 64 heads, 32 sectors/track, 33888 cylinders
; D, E7 X$ g9 Z; |! h4 m! K Units = cylinders of 2048 * 512 = 1048576 bytes
, }! h$ y/ \& N8 Y8 e+ a ) Y) {7 j4 n# P' a
Device Boot Start End Blocks Id System6 y& z0 A7 a4 @
/dev/sdb1 1 33888 34701296 83 Linux, Q  a6 `2 s' x: T& G4 l

% L, m3 g2 K7 |/ o' f Disk /dev/sdc: 35.5 GB, 35534143488 bytes1 o. _9 G: L. W3 c
64 heads, 32 sectors/track, 33888 cylinders8 g& Y. N2 \- r; Q( q. P# y# t5 V. k1 K
Units = cylinders of 2048 * 512 = 1048576 bytes
7 c' @! Z" ]1 u- ~* n  k+ z
0 _" ^7 P$ K) i Device Boot Start End Blocks Id System& j, U, o; T& q5 k7 `
/dev/sdc1 1 33888 34701296 83 Linux
9 d/ J8 r& j' |+ m9 ?; n( y 0 x+ y4 `* g, z/ V# ^: B
Disk /dev/sdd: 2315 MB, 2315255808 bytes+ m! m9 {: j9 {" D: A8 f8 _/ ^
72 heads, 62 sectors/track, 1012 cylinders
3 M) e3 a* r: P6 J3 ? Units = cylinders of 4464 * 512 = 2285568 bytes& [% g3 R/ o9 {6 @) F

% p. N4 S" q! S5 H- i Device Boot Start End Blocks Id System5 I' U- v/ ]7 P3 q/ {, Q: c  |* }5 v
/dev/sdd1 1 1012 2258753 83 Linux& L1 t9 m4 P0 F. P. Y: q' k; f
[root@racnode2 ~]#
' P0 k% S) L; J+ ^) j7 O2 o partprobe6 Q! ~3 s! m! b
" \& |- j; M! x" J* e0 w2 ?; e
[root@racnode2 ~]#
- ~/ B- N/ X9 X% g. p; E fdisk -l6 M5 [: I4 s4 r) W# H+ J  P

4 z4 D) a9 I# ?5 ?# O8 y Disk /dev/sda: 160.0 GB, 160000000000 bytes( O# c& r( C7 `; u. }9 i
255 heads, 63 sectors/track, 19452 cylinders! U8 [3 s; ~  R. O: @0 G8 S
Units = cylinders of 16065 * 512 = 8225280 bytes
6 f# i* m# [; H# w
: I+ h! p0 d, G$ G  S2 @% d; r: a Device Boot Start End Blocks Id System7 e( K7 v$ A5 ?+ G% ~; ?
/dev/sda1 * 1 13 104391 83 Linux
2 i! J. O( \( a9 ^3 ^ /dev/sda2 14 19452 156143767+ 8e Linux LVM3 _& d+ d9 f2 i) {3 c! w0 ?
5 j  ?0 s7 ^& n2 i
Disk /dev/sdb: 35.5 GB, 35534143488 bytes' x; v! C5 S# Z4 \% _2 K
64 heads, 32 sectors/track, 33888 cylinders$ f# v4 s- \6 Z' }
Units = cylinders of 2048 * 512 = 1048576 bytes
% R" U* S  m, m; \/ |  k
# R2 a7 r" k$ i8 n; C6 b  ] Device Boot Start End Blocks Id System* T, K# m, [2 K2 D- Y6 e% m- c
/dev/sdb1 1 33888 34701296 83 Linux8 t" X5 o8 {% S* E  i. p

# a) ~& d) L" { Disk /dev/sdc: 35.5 GB, 35534143488 bytes
4 m- ?$ a! q* g* k 64 heads, 32 sectors/track, 33888 cylinders" @- K# ?4 N6 I
Units = cylinders of 2048 * 512 = 1048576 bytes
3 K: @9 x. m1 v& V" D
3 K7 i; v8 M( O# W% U" ]4 [ Device Boot Start End Blocks Id System
5 a) ~6 O' {3 Y( u /dev/sdc1 1 33888 34701296 83 Linux
* x" o2 q3 ]. T! g7 \ 5 A1 H- ~) j% V
Disk /dev/sdd: 2315 MB, 2315255808 bytes. }3 t: u* q: f$ n. j; T
72 heads, 62 sectors/track, 1012 cylinders
, E+ x1 N: p/ B2 \/ m0 ~/ z Units = cylinders of 4464 * 512 = 2285568 bytes! c- r& P2 j$ X% B. F
( M# N( {* H' {3 ]! Z4 ]+ p2 e! X
Device Boot Start End Blocks Id System
# l0 }& [/ W: W+ e /dev/sdd1 1 1012 2258753 83 Linux
* j. e, ~9 |- ?最后一步,您应当在两个 Oracle RAC 节点上运行以下命令以验证 udev 是否为每个新分区创建了新的符号链接:
# B" @! l/ ?/ B6 e2 A5 V: i$ R复制
" d3 L+ p) y% v1 lCopied to ClipboardError: Could not Copy
' L4 v% Q/ V, _, V6 z, _# `[root@racnode2 ~]#
: N' K* `3 J: A" X  o0 K8 e# u# g (cd /dev/disk/by-path; ls -l *openfiler* | awk '{FS=" "; print $9 " " $10 " " $11}')3 E! ^" i( N$ |; P' S$ Y1 ?! |
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.crs1-lun-0 -> ../../sdd. q; ]' l! D9 E: R
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.crs1-lun-0-part1 -> ../../sdd1
. N5 R- |6 f1 S ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.data1-lun-0 -> ../../sdc" a* e$ |8 |( u
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.data1-lun-0-part1 -> ../../sdc1
5 |+ F  y& l( G- N2 d9 a( e ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.fra1-lun-0 -> ../../sdb- l# u5 y; f8 X. S
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.fra1-lun-0-part1 -> ../../sdb1' A8 k, t9 n1 _/ B
[root@racnode2 ~]#
1 ?; F1 a1 O0 s/ p% X7 r  T (cd /dev/disk/by-path; ls -l *openfiler* | awk '{FS=" "; print $9 " " $10 " " $11}')
/ B* b/ V' L5 ?- @, K ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.crs1-lun-0 -> ../../sdd
" j0 I  M6 [0 N9 g' D ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.crs1-lun-0-part1 -> ../../sdd11 x2 o3 k, U! l: q
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.data1-lun-0 -> ../../sdc
7 e6 M- q; m9 f" ^, X+ j7 _ ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.data1-lun-0-part1 -> ../../sdc1
! ?% {+ k) r% Y+ [7 w8 ` ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.fra1-lun-0 -> ../../sdb: }' s/ u, [; t4 I3 \/ q
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.fra1-lun-0-part1 -> ../../sdb1( L" C4 n% b) I0 K8 H- X- s& B* {* ?
以上清单显示 udev 确实为每一个新分区创建了新的设备名称。在本指南稍后为 ASMlib 配置卷时,我们将使用这些新设备名称:
' @- w1 B: u/ l4 H( j: g' [# o8 p, l* t# {
/dev/iscsi/crs1/part1) t( Y0 d( U; T" ?6 |+ B
/dev/iscsi/data1/part1( ?0 G3 R, l4 f% }
/dev/iscsi/fra1/part1: v4 f! F# O' V6 s- N5 d2 j
 楼主| 发表于 2021-7-9 17:31:28 | 显示全部楼层
在 Oracle RAC 节点上配置 iSCSI 卷
- L- {0 P7 D; \5 W/ u+ _0 m

在集群中的两个 Oracle RAC 节点上配置 iSCSI 启动器。而创建分区只应在 RAC 集群的一个节点上执行。

iSCSI 客户端可以是提供 iSCSI 支持(驱动程序)的任何系统(Linux、Unix、MS Windows、Apple Mac 等)。在我们的示例中,客户端是两个 Linux 服务器(racnode1 和 racnode2),它们运行的是 Oracle Enterprise Linux 5.4。

在本节中,我们将在两个 Oracle RAC 节点上配置 iSCSI 软件启动器。Oracle Enterprise Linux 5.4 包括 iSCSI 软件启动器,该软件启动器位于 iscsi-initiator-utils RPM 中。这是对早期版本 Oracle Enterprise Linux (4.x) 的一个更改,这些早期版本中包含作为 Linux-iSCSI 项目的一部分而开发的 Linux iscsi-sfnet 软件驱动程序。所有 iSCSI 管理任务(如发现和登录)将使用 Open-iSCSI 中包含的命令行接口 iscsiadm。

iSCSI 软件启动器将配置为自动登录网络存储服务器 (openfiler1),并发现 上一节中创建的 iSCSI 卷。之后,我们将逐步使用 udev 为发现的每个 iSCSI 目标名称创建永久性本地 SCSI 设备名称(即/dev/iscsi/crs1)。拥有一致的本地 SCSI 设备名称及其映射到的 iSCSI 目标,有助于在配置 ASM 时能够区分三个卷。但是,在此之前,我们首先必须安装 iSCSI 启动器软件。

注:本指南使用 ,它是 Oracle Database 的自动存储管理 (ASM) 特性的一个支持库。ASMLib 将用于对本指南中所使用的所有 iSCSI 卷进行标记。默认情况下,ASMLib 已为 ASM 使用的存储设备提供了永久性路径和权限。有了该特性后,无需用存储设备路径和权限更新 udev 或 devlabel文件。就本文来说,实际上我仍然选择使用 udev 为发现的每个 SCSI 目标名称创建永久性本地 SCSI 设备名称。这提供了一种自我文档编制的方法,有助于快速确定每个卷的名称和位置。

安装 iSCSI(启动器)服务

就 Oracle Enterprise Linux 5.4 来说,默认情况下不会安装 Open-iSCSI iSCSI 软件启动器。该软件包含在 1 号 CD 上的 iscsi-initiator-utils 程序包中。要确定该程序包是否已安装(大多数情况下没有安装),在两个 Oracle RAC 节点上执行以下命令:

[root@racnode1 ~]# rpm -qa --queryformat "%{NAME}-%{VERSION}-%{RELEASE} (%{ARCH})\n"| grep iscsi-initiator-utils

如果 iscsi-initiator-utils 程序包未安装,将 1 号 CD 加载到每个 Oracle RAC 节点中并执行以下命令:

[root@racnode1 ~]# mount -r /dev/cdrom /media/cdrom [root@racnode1 ~]# cd /media/cdrom/Server [root@racnode1 ~]# rpm -Uvh iscsi-initiator-utils-* [root@racnode1 ~]# cd / [root@racnode1 ~]# eject

确认 iscsi-initiator-utils 程序包现在已安装:

[root@racnode1 ~]# rpm -qa --queryformat "%{NAME}-%{VERSION}-%{RELEASE} (%{ARCH})\n"| grep iscsi-initiator-utils iscsi-initiator-utils-6.2.0.871-0.10.el5 (x86_64) # d. p" B0 q2 |7 S& K  ~

配置 iSCSI(启动器)服务

验证 iscsi-initiator-utils 程序包已经安装到两个 Oracle RAC 节点之后,启动 iscsid 服务,并使其在系统引导时自动启动。我们还将配置 iscsi 服务在系统启动时自动启动,自动登录到所需的 iSCSI 目标。

[root@racnode1 ~]# service iscsid start Turning off network shutdown. Starting iSCSI daemon: [ OK ]                                                     [ OK ][root@racnode1 ~]# chkconfig iscsid on [root@racnode1 ~]# chkconfig iscsi on

现在 iSCSI 服务已经启动,下面使用 iscsiadm 命令行接口发现网络存储服务器上的所有可用目标。这应该在两个 Oracle RAC 节点上执行,以检验配置是否正常工作:

[root@racnode1 ~]# iscsiadm -m discovery -t sendtargets -p openfiler1-priv 192.168.2.195:3260,1 iqn.2006-01.com.openfiler:racdb.crs1192.168.2.195:3260,1 iqn.2006-01.com.openfiler:racdb.fra1192.168.2.195:3260,1 iqn.2006-01.com.openfiler:racdb.data1

手动登录到 iSCSI 目标

此时,iSCSI 启动器服务已经启动,每个 Oracle RAC 节点都能够从网络存储服务器中发现可用目标。下一步是手动登录每个可用目标,这可以使用 iscsiadm 命令行接口完成。这需要在两个 Oracle RAC 节点上运行。注意,我必须指定网络存储服务器的 IP 地址而非其主机名 (openfiler1-priv) — 我认为必须这么做,因为上述发现使用 IP 地址显示目标。

[root@racnode1 ~]# iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.crs1 -p 192.168.2.195 -l [root@racnode1 ~]# iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.data1 -p 192.168.2.195 -l [root@racnode1 ~]# iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.fra1 -p 192.168.2.195 -l

配置自动登录

下一步是确保在计算机引导(或 iSCSI 启动器服务启动/重启)时,客户端将自动登录到上面列出的每个目标。如同上面描述的手动登录过程,在两个 Oracle RAC 节点上执行以下命令:

[root@racnode1 ~]# iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.crs1 -p 192.168.2.195 --op update -n node.startup -v automatic [root@racnode1 ~]# iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.data1 -p 192.168.2.195 --op update -n node.startup -v automatic [root@racnode1 ~]# iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.fra1 -p 192.168.2.195 --op update -n node.startup -v automatic

创建永久性本地 SCSI 设备名称

在本节中,我们将逐步为每个 iSCSI 目标名称创建永久性本地 SCSI 设备名称。我们将使用 udev 来完成该任务。拥有一致的本地 SCSI 设备名称及其映射到的 iSCSI 目标,有助于在配置 ASM 时能够区分三个卷。尽管并未严格要求这么做(因为我们将对所有卷使用 ),这提供了一种自我文档编制的方法,有助于快速确定每个 iSCSI 卷的名称和位置。

如果任一 Oracle RAC 节点引导并且 iSCSI 启动器服务启动,它会以一种随机的方式自动登录到配置的每个目标,并将这些目标映射到下一个可用的本地 SCSI 设备名称。例如,目标 iqn.2006-01.com.openfiler:racdb.crs1 可能会映射到 /dev/sdb。实际上,我可以通过查看/dev/disk/by-path 目录来确定所有目标的当前映射:

[root@racnode1 ~]# (cd /dev/disk/by-path; ls -l *openfiler* | awk '{FS=" "; print $9 " " $10 " " $11}') ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.crs1-lun-0 -> ../../sdbip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.data1-lun-0 -> ../../sddip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.fra1-lun-0 -> ../../sdc

使用上述 ls 命令的输出结果,我们可以建立以下当前映射:

iSCSI 目标名称到本地 SCSI 设备名称的当前映射
iSCSI 目标名称SCSI 设备名称
iqn.2006-01.com.openfiler:racdb.crs1
/dev/sdb
iqn.2006-01.com.openfiler:racdb.data1
/dev/sdd
iqn.2006-01.com.openfiler:racdb.fra1
/dev/sdc

但是,每次重新引导 Oracle RAC 节点时,该映射都可能有所不同。例如,重新引导之后,可能会决定将 iSCSI 目标 iqn.2006-01.com.openfiler:racdb.crs1 映射到本地 SCSI 设备 /dev/sdc。由于您无法预测重新引导后的 iSCSI 目标映射,依赖于使用本地 SCSI 设备名称是不现实的。

我们需要的是可引用的一致的设备名称(即 /dev/iscsi/crs1),该设备名称在重新引导后将始终指向相应的 iSCSI 目标。这就是引入名为 udev 的动态设备管理 工具的原因。 udev 提供了一个动态设备目录,使用一组可配置的规则通过符号链接指向实际设备。当 udev 收到设备事件(例如,客户端登录到 iSCSI 目标)时,就会根据 sysfs 中提供的可用设备属性匹配其配置好的规则以便识别设备。匹配规则可以提供其他设备信息或指定设备节点名和多个符号链接名,并指示 udev 运行其他程序(例如,一个 SHELL 脚本)作为设备事件处理过程的一部分。

第一步是创建一个新的规则文件。该文件将命名为 /etc/udev/rules.d/55-openiscsi.rules,并且只包含一行用于接收我们感兴趣事件的名称=值对。它还将定义一个调出 SHELL 脚本 (/etc/udev/scripts/iscsidev.sh),用于处理事件。

在两个 Oracle RAC 节点上创建以下规则文件 /etc/udev/rules.d/55-openiscsi.rules:

..............................................# /etc/udev/rules.d/55-openiscsi.rulesKERNEL=="sd*", BUS=="scsi", PROGRAM="/etc/udev/scripts/iscsidev.sh %b",SYMLINK+="iscsi/%c/part%n"..............................................

现在,我们需要创建在接收该事件时将调用的 UNIX SHELL 脚本。我们首先在两个 Oracle RAC 节点上创建一个单独的目录,用于存储 udev 脚本:

[root@racnode1 ~]# mkdir -p /etc/udev/scripts

接下来,在两个 Oracle RAC 节点上创建 UNIX shell 脚本 /etc/udev/scripts/iscsidev.sh:

..............................................#!/bin/sh # FILE: /etc/udev/scripts/iscsidev.shBUS=${1}HOST=${BUS%%:*} [ -e /sys/class/iscsi_host ] || exit 1file="/sys/class/iscsi_host/host${HOST}/device/session*/iscsi_session*/targetname"target_name=$(cat ${file})# This is not an open-scsi driveif [ -z "${target_name}" ]; then   exit 1fi# Check if QNAP drivecheck_qnap_target_name=${target_name%%:*}if [ $check_qnap_target_name = "iqn.2004-04.com.qnap" ]; then    target_name=`echo "${target_name%.*}"`fiecho "${target_name##*.}"..............................................

创建 UNIX SHELL 脚本后,将其更改为可执行文件:

[root@racnode1 ~]# chmod 755 /etc/udev/scripts/iscsidev.sh

既然已经配置了 udev,下面将在两个 Oracle RAC 节点上重新启动 iSCSI 服务:

[root@racnode1 ~]# service iscsi stop Logging out of session [sid: 6, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]Logging out of session [sid: 7, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]Logging out of session [sid: 8, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]Logout of [sid: 6, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]: successfulLogout of [sid: 7, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]: successfulLogout of [sid: 8, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]: successfulStopping iSCSI daemon:                               [ OK ][root@racnode1 ~]# service iscsi start iscsid dead but pid file existsTurning off network shutdown. Starting iSCSI daemon: [ OK ]                                                     [ OK ]Setting up iSCSI targets: Logging in to [iface: default, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]Logging in to [iface: default, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]Logging in to [iface: default, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]Login to [iface: default, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]: successfulLogin to [iface: default, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]: successfulLogin to [iface: default, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]: successful [ OK ]

下面,我们来看一下我们的辛勤工作是否得到了回报:

[root@racnode1 ~]# ls -l /dev/iscsi/* /dev/iscsi/crs1:total 0lrwxrwxrwx 1 root root 9 Nov  3 18:13 part -> ../../sdc/dev/iscsi/data1:total 0lrwxrwxrwx 1 root root 9 Nov  3 18:13 part -> ../../sde/dev/iscsi/fra1:total 0lrwxrwxrwx 1 root root 9 Nov  3 18:13 part -> ../../sdd

上面的清单显示, udev 所做的工作正是我们所期待的!现在,我们拥有了一组一致的本地设备名称,可用于引用 iSCSI 目标。例如,我们可以安全地认为设备名称 /dev/iscsi/crs1/part 将始终引用 iSCSI 目标 iqn.2006-01.com.openfiler:racdb.crs1。现在,我们拥有了一致的 iSCSI 目标名称到本地设备名称的映射,如下表所示:

iSCSI 目标名称到本地设备名称的映射
iSCSI 目标名称本地设备名称
iqn.2006-01.com.openfiler:racdb.crs1
/dev/iscsi/crs1/part
iqn.2006-01.com.openfiler:racdb.data1
/dev/iscsi/data1/part
iqn.2006-01.com.openfiler:racdb.fra1
/dev/iscsi/fra1/part
9 Q4 f! s5 s  B# \5 L

在 iSCSI 卷上创建分区

现在,我们需要在每个 iSCSI 卷上创建一个占用整个卷大小的主分区。正如本文前面提到的,我将使用自动存储管理 (ASM) 存储 Oracle 集群件所需的共享文件、物理数据库文件(数据/索引文件、联机重做日志文件和控制文件),以及集群数据库的快速恢复区 (FRA)。

Oracle Clusterware 共享文件(OCR 和表决磁盘)将存储在一个名为 +CRS 的使用外部冗余 配置的 ASM 磁盘组中。集群数据库的物理数据库文件将存储在一个名为 +RACDB_DATA 的也使用外部冗余配置的 ASM 磁盘组中。最后,快速恢复区(RMAN 备份和存档重做日志文件)将存储于一个名为 +FRA 的使用外部冗余配置的第三个 ASM 磁盘组中。

下表列出了将要创建的三个 ASM 磁盘组及其将包含的 iSCSI 卷:

Oracle 共享驱动器配置
文件类型ASM 磁盘组名称iSCSI 目标(短)名称ASM 冗余
大小
ASMLib 卷名
OCR 和表决磁盘+CRScrs1External
2GB
ORCL:CRSVOL1
Oracle 数据库文件+RACDB_DATAdata1External
32GB
ORCL:DATAVOL1
Oracle 快速恢复区+FRAfra1External
32GB
ORCL:FRAVOL1

如上表所示,我们需要在每个 iSCSI 卷(共三个)上创建一个 Linux 主分区。 fdisk 命令在 Linux 中用于创建(和删除)分区。对于每个 iSCSI 卷(共三个),您都可以在创建主分区时使用默认值,因为默认操作是使用整个磁盘。您可以放心地忽略任何指示设备未包含有效 DOS 分区(或 Sun、SGI 或 OSF 磁盘标签)的警告。

在本例中,我将在 racnode1 上运行 fdisk 命令,使用中通过 udev 创建的本地设备名称在每个 iSCSI 目标上创建一个主分区:


$ m- z2 N4 }7 F
  • /dev/iscsi/data1/part4 P$ ~0 t8 V# |( Z
    /dev/iscsi/fra1/part
' X5 t" ?# F7 i9 C( n) y

注:要在每个 iSCSI 卷上创建单个分区,只能从 Oracle RAC 集群中的一个节点上进行!(如racnode1)

# ---------------------------------------[root@racnode1 ~]# fdisk /dev/iscsi/crs1/part Command (m for help): n Command action   e   extended   p   primary partition (1-4) p Partition number (1-4): 1 First cylinder (1-1012, default 1): 1 Last cylinder or +size or +sizeM or +sizeK (1-1012, default 1012): 1012 Command (m for help): p Disk /dev/iscsi/crs1/part: 2315 MB, 2315255808 bytes72 heads, 62 sectors/track, 1012 cylindersUnits = cylinders of 4464 * 512 = 2285568 bytes               Device Boot      Start         End      Blocks   Id  System/dev/iscsi/crs1/part1               1        1012     2258753   83  LinuxCommand (m for help): w The partition table has been altered!Calling ioctl() to re-read partition table.Syncing disks.# ---------------------------------------[root@racnode1 ~]# fdisk /dev/iscsi/data1/part Command (m for help): n Command action   e   extended   p   primary partition (1-4) p Partition number (1-4): 1 First cylinder (1-33888, default 1): 1 Last cylinder or +size or +sizeM or +sizeK (1-33888, default 33888): 33888 Command (m for help): p Disk /dev/iscsi/data1/part: 35.5 GB, 35534143488 bytes64 heads, 32 sectors/track, 33888 cylindersUnits = cylinders of 2048 * 512 = 1048576 bytes                 Device Boot      Start         End      Blocks   Id  System/dev/iscsi/data1/part1               1       33888    34701296   83  LinuxCommand (m for help): w The partition table has been altered! Calling ioctl() to re-read partition table.Syncing disks.# ---------------------------------------[root@racnode1 ~]# fdisk /dev/iscsi/fra1/part Command (m for help): n Command action   e   extended   p   primary partition (1-4) p Partition number (1-4): 1 First cylinder (1-33888, default 1): 1 Last cylinder or +size or +sizeM or +sizeK (1-33888, default 33888): 33888 Command (m for help): p Disk /dev/iscsi/fra1/part: 35.5 GB, 35534143488 bytes64 heads, 32 sectors/track, 33888 cylindersUnits = cylinders of 2048 * 512 = 1048576 bytes               Device Boot      Start         End      Blocks   Id  System/dev/iscsi/fra1/part1               1       33888    34701296   83  LinuxCommand (m for help): w The partition table has been altered!Calling ioctl() to re-read partition table. Syncing disks.

验证新分区

在 racnode1 上创建所有需要的分区之后,现在应使用以下命令以“root”用户帐户从 Oracle RAC 集群的所有其余节点 (racnode2) 将分区更改通知给内核。注意,Openfiler 发现的 iSCSI 目标名称和本地 SCSI 设备名称的映射在两个 Oracle RAC 节点上将有所不同。不用担心,这不会导致任何问题,因为我们将使用 udev 在中创建的本地设备名称而不是其他的本地 SCSI 设备名称。

0 W. O/ ?# M% d$ i; T0 V

在 racnode2 上运行以下命令:

[root@racnode2 ~]# partprobe [root@racnode2 ~]# fdisk -l Disk /dev/sda: 160.0 GB, 160000000000 bytes255 heads, 63 sectors/track, 19452 cylindersUnits = cylinders of 16065 * 512 = 8225280 bytes   Device Boot      Start         End      Blocks   Id  System/dev/sda1   *           1          13      104391   83  Linux/dev/sda2              14       19452   156143767+  8e  Linux LVMDisk /dev/sdb: 35.5 GB, 35534143488 bytes64 heads, 32 sectors/track, 33888 cylindersUnits = cylinders of 2048 * 512 = 1048576 bytes   Device Boot      Start         End      Blocks   Id  System/dev/sdb1               1       33888    34701296   83  LinuxDisk /dev/sdc: 35.5 GB, 35534143488 bytes64 heads, 32 sectors/track, 33888 cylindersUnits = cylinders of 2048 * 512 = 1048576 bytes   Device Boot      Start         End      Blocks   Id  System/dev/sdc1               1       33888    34701296   83  LinuxDisk /dev/sdd: 2315 MB, 2315255808 bytes72 heads, 62 sectors/track, 1012 cylindersUnits = cylinders of 4464 * 512 = 2285568 bytes   Device Boot      Start         End      Blocks   Id  System/dev/sdd1               1        1012     2258753   83  Linux

最后,您应该在两个 Oracle RAC 节点上运行以下命令,以验证 udev 为每个新分区创建了新的符号链接:

[root@racnode2 ~]# (cd /dev/disk/by-path; ls -l *openfiler* | awk '{FS=" "; print $9 " " $10 " " $11}') ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.crs1-lun-0 -> ../../sddip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.crs1-lun-0-part1 -> ../../sdd1ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.data1-lun-0 -> ../../sdcip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.data1-lun-0-part1 -> ../../sdc1ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.fra1-lun-0 -> ../../sdbip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.fra1-lun-0-part1 -> ../../sdb1

上面的清单显示, udev 确实为每个新分区创建了新的设备名称。在,当我们为 ASMlib 配置卷时,将使用这些新的设备名称。


( C/ p  \; K+ i( v8 z+ U
  • /dev/iscsi/data1/part1
    ! D+ f3 v. k% w& |! U6 q. K/dev/iscsi/fra1/part1
( _! m2 X/ L" w" \
 楼主| 发表于 2021-7-9 17:31:52 | 显示全部楼层
在 Oracle RAC 节点上配置 iSCSI 卷6 m6 G2 L6 p- C" ^8 W, U
在集群中的两个 Oracle RAC 节点上配置 iSCSI 启动器。而创建分区只应在 RAC 集群的一个节点上执行。
+ p2 C3 B. y' R1 }0 M/ e& TiSCSI 客户端可以是提供 iSCSI 支持(驱动程序)的任何系统(Linux、Unix、MS Windows、Apple Mac 等)。在我们的示例中,客户端是两个 Linux 服务器(racnode1 和 racnode2),它们运行的是 Oracle Enterprise Linux 5.4。: |, e/ H9 c2 D/ ^9 y5 V% s/ C
在本节中,我们将在两个 Oracle RAC 节点上配置 iSCSI 软件启动器。Oracle Enterprise Linux 5.4 包括 iSCSI 软件启动器,该软件启动器位于 iscsi-initiator-utils RPM 中。这是对早期版本 Oracle Enterprise Linux (4.x) 的一个更改,这些早期版本中包含作为 Linux-iSCSI 项目的一部分而开发的 Linux iscsi-sfnet 软件驱动程序。所有 iSCSI 管理任务(如发现和登录)将使用 Open-iSCSI 中包含的命令行接口 iscsiadm。& B- ^% g' m0 b; {' |  _3 |6 }9 E
iSCSI 软件启动器将配置为自动登录网络存储服务器 (openfiler1),并发现 上一节中创建的 iSCSI 卷。之后,我们将逐步使用 udev 为发现的每个 iSCSI 目标名称创建永久性本地 SCSI 设备名称(即/dev/iscsi/crs1)。拥有一致的本地 SCSI 设备名称及其映射到的 iSCSI 目标,有助于在配置 ASM 时能够区分三个卷。但是,在此之前,我们首先必须安装 iSCSI 启动器软件。
  y7 m' u6 A3 i! T$ V7 w7 G注:本指南使用 ,它是 Oracle Database 的自动存储管理 (ASM) 特性的一个支持库。ASMLib 将用于对本指南中所使用的所有 iSCSI 卷进行标记。默认情况下,ASMLib 已为 ASM 使用的存储设备提供了永久性路径和权限。有了该特性后,无需用存储设备路径和权限更新 udev 或 devlabel文件。就本文来说,实际上我仍然选择使用 udev 为发现的每个 SCSI 目标名称创建永久性本地 SCSI 设备名称。这提供了一种自我文档编制的方法,有助于快速确定每个卷的名称和位置。" X- q4 Y$ B" c1 g# h2 x  u2 X& V
安装 iSCSI(启动器)服务
& f" _5 \3 e+ A) s( R就 Oracle Enterprise Linux 5.4 来说,默认情况下不会安装 Open-iSCSI iSCSI 软件启动器。该软件包含在 1 号 CD 上的 iscsi-initiator-utils 程序包中。要确定该程序包是否已安装(大多数情况下没有安装),在两个 Oracle RAC 节点上执行以下命令:2 r/ K' [  N9 V
[root@racnode1 ~]# rpm -qa --queryformat "%{NAME}-%{VERSION}-%{RELEASE} (%{ARCH})\n"| grep iscsi-initiator-utils 8 N7 E+ n; e3 N# D, P+ @
如果 iscsi-initiator-utils 程序包未安装,将 1 号 CD 加载到每个 Oracle RAC 节点中并执行以下命令:
6 r" ?, Q, v; a2 r5 _[root@racnode1 ~]# mount -r /dev/cdrom /media/cdrom [root@racnode1 ~]# cd /media/cdrom/Server [root@racnode1 ~]# rpm -Uvh iscsi-initiator-utils-* [root@racnode1 ~]# cd / [root@racnode1 ~]# eject 1 Z8 d' n- ?/ C
确认 iscsi-initiator-utils 程序包现在已安装:; X) k, X7 W' }+ e9 Q# F  G
[root@racnode1 ~]# rpm -qa --queryformat "%{NAME}-%{VERSION}-%{RELEASE} (%{ARCH})\n"| grep iscsi-initiator-utils iscsi-initiator-utils-6.2.0.871-0.10.el5 (x86_64)
0 X- I( v' F' N- _: D4 w1 c, t
. ]1 {$ a  `& o: H; |3 y7 F配置 iSCSI(启动器)服务
/ L- J4 Y3 ?: b; G$ Q6 ]* g' S验证 iscsi-initiator-utils 程序包已经安装到两个 Oracle RAC 节点之后,启动 iscsid 服务,并使其在系统引导时自动启动。我们还将配置 iscsi 服务在系统启动时自动启动,自动登录到所需的 iSCSI 目标。
8 F3 K4 n% x$ r. s; P5 s( U  m' Y1 m[root@racnode1 ~]# service iscsid start Turning off network shutdown. Starting iSCSI daemon: [ OK ]
; W  c* R( \8 Z                                                     [ OK ]: |3 R* M5 N& U- ?$ @
[root@racnode1 ~]# chkconfig iscsid on [root@racnode1 ~]# chkconfig iscsi on $ x( |$ ~- J7 t8 q% `- O4 ]
现在 iSCSI 服务已经启动,下面使用 iscsiadm 命令行接口发现网络存储服务器上的所有可用目标。这应该在两个 Oracle RAC 节点上执行,以检验配置是否正常工作:
1 S# A& C6 V0 K' m[root@racnode1 ~]# iscsiadm -m discovery -t sendtargets -p openfiler1-priv 192.168.2.195:3260,1 iqn.2006-01.com.openfiler:racdb.crs1
* r+ E2 n# {/ i! W. B192.168.2.195:3260,1 iqn.2006-01.com.openfiler:racdb.fra1: N1 O$ M" F& k! V
192.168.2.195:3260,1 iqn.2006-01.com.openfiler:racdb.data1
4 V( W3 q$ K; O3 i' c! u$ E* `手动登录到 iSCSI 目标9 ^# D1 x: u0 ]
此时,iSCSI 启动器服务已经启动,每个 Oracle RAC 节点都能够从网络存储服务器中发现可用目标。下一步是手动登录每个可用目标,这可以使用 iscsiadm 命令行接口完成。这需要在两个 Oracle RAC 节点上运行。注意,我必须指定网络存储服务器的 IP 地址而非其主机名 (openfiler1-priv) — 我认为必须这么做,因为上述发现使用 IP 地址显示目标。+ ~1 X+ X  _/ _1 f9 v4 J3 z! b
[root@racnode1 ~]# iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.crs1 & Y- }5 u2 r4 r2 a' m3 |0 g
-p 192.168.2.195 -l [root@racnode1 ~]# iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.data1 6 H! u8 P/ ?- k* _: _
-p 192.168.2.195 -l [root@racnode1 ~]# iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.fra1 4 o' Z$ p$ ^. ?6 y3 F5 b. Y
-p 192.168.2.195 -l
, z8 \# s- [  F8 P配置自动登录% s( v& p, N+ O" G! ]
下一步是确保在计算机引导(或 iSCSI 启动器服务启动/重启)时,客户端将自动登录到上面列出的每个目标。如同上面描述的手动登录过程,在两个 Oracle RAC 节点上执行以下命令:
5 z( w! {, n' d( X, O[root@racnode1 ~]# iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.crs1
+ d) J6 q* l3 v-p 192.168.2.195 --op update -n node.startup -v automatic [root@racnode1 ~]# iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.data1 3 r9 T+ P1 i% Q& \
-p 192.168.2.195 --op update -n node.startup -v automatic [root@racnode1 ~]# iscsiadm -m node -T iqn.2006-01.com.openfiler:racdb.fra1 7 b* d/ z* M5 I: ^
-p 192.168.2.195 --op update -n node.startup -v automatic
( B2 B( |" j: `4 q$ w创建永久性本地 SCSI 设备名称  L% S8 }1 z. i6 B
在本节中,我们将逐步为每个 iSCSI 目标名称创建永久性本地 SCSI 设备名称。我们将使用 udev 来完成该任务。拥有一致的本地 SCSI 设备名称及其映射到的 iSCSI 目标,有助于在配置 ASM 时能够区分三个卷。尽管并未严格要求这么做(因为我们将对所有卷使用 ),这提供了一种自我文档编制的方法,有助于快速确定每个 iSCSI 卷的名称和位置。
+ h4 [+ V  G0 A( f7 C. W8 A, w如果任一 Oracle RAC 节点引导并且 iSCSI 启动器服务启动,它会以一种随机的方式自动登录到配置的每个目标,并将这些目标映射到下一个可用的本地 SCSI 设备名称。例如,目标 iqn.2006-01.com.openfiler:racdb.crs1 可能会映射到 /dev/sdb。实际上,我可以通过查看/dev/disk/by-path 目录来确定所有目标的当前映射:
& K2 q9 b0 u' e  Y7 G[root@racnode1 ~]# (cd /dev/disk/by-path; ls -l *openfiler* | awk '{FS=" "; 9 O% l. f/ Z- K8 @" n
print $9 " " $10 " " $11}') ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.crs1-lun-0 -> ../../sdb8 y( e# X( [1 P- Z! E
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.data1-lun-0 -> ../../sdd! a, I. o8 i' `+ F: a2 n* M0 \
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.fra1-lun-0 -> ../../sdc : y" W. m4 n0 W# j- z2 R3 w1 v- K
使用上述 ls 命令的输出结果,我们可以建立以下当前映射:  c, T9 z' [# q0 Q& ^( x* Q& D
iSCSI 目标名称到本地 SCSI 设备名称的当前映射( o2 U3 `2 p( f7 b8 w
iSCSI 目标名称 SCSI 设备名称
! [, |: q; N% U! Eiqn.2006-01.com.openfiler:racdb.crs1 /dev/sdb* p+ M5 h  c- g# k% w' Y0 K
iqn.2006-01.com.openfiler:racdb.data1 /dev/sdd+ a% n) Y- f2 X# v: L3 ^3 |" N
iqn.2006-01.com.openfiler:racdb.fra1 /dev/sdc
) o3 }  X- \* e' b但是,每次重新引导 Oracle RAC 节点时,该映射都可能有所不同。例如,重新引导之后,可能会决定将 iSCSI 目标 iqn.2006-01.com.openfiler:racdb.crs1 映射到本地 SCSI 设备 /dev/sdc。由于您无法预测重新引导后的 iSCSI 目标映射,依赖于使用本地 SCSI 设备名称是不现实的。7 |5 r" I6 t9 l# ~  {" T# ]
我们需要的是可引用的一致的设备名称(即 /dev/iscsi/crs1),该设备名称在重新引导后将始终指向相应的 iSCSI 目标。这就是引入名为 udev 的动态设备管理 工具的原因。 udev 提供了一个动态设备目录,使用一组可配置的规则通过符号链接指向实际设备。当 udev 收到设备事件(例如,客户端登录到 iSCSI 目标)时,就会根据 sysfs 中提供的可用设备属性匹配其配置好的规则以便识别设备。匹配规则可以提供其他设备信息或指定设备节点名和多个符号链接名,并指示 udev 运行其他程序(例如,一个 SHELL 脚本)作为设备事件处理过程的一部分。# }* T( F. r* G% s
第一步是创建一个新的规则文件。该文件将命名为 /etc/udev/rules.d/55-openiscsi.rules,并且只包含一行用于接收我们感兴趣事件的名称=值对。它还将定义一个调出 SHELL 脚本 (/etc/udev/scripts/iscsidev.sh),用于处理事件。
8 G( X3 @4 J1 I$ M在两个 Oracle RAC 节点上创建以下规则文件 /etc/udev/rules.d/55-openiscsi.rules:
4 W% q) `; f& q3 r ..............................................
# d% `/ Q5 B* M1 N% M. w, c" D# /etc/udev/rules.d/55-openiscsi.rules! I/ F$ D/ P4 @) S/ R! v
KERNEL=="sd*", BUS=="scsi", PROGRAM="/etc/udev/scripts/iscsidev.sh %b",
/ H' b5 A1 K) U% _3 O3 c% ?% f2 hSYMLINK+="iscsi/%c/part%n"0 h: j9 e9 k# T2 ], m( E) ]
..............................................
) F  ^! f, I6 F. Z, l) o现在,我们需要创建在接收该事件时将调用的 UNIX SHELL 脚本。我们首先在两个 Oracle RAC 节点上创建一个单独的目录,用于存储 udev 脚本:
. i( e5 J2 u# P' P* w& M$ b$ n[root@racnode1 ~]# mkdir -p /etc/udev/scripts
8 T% G  l+ M7 {) k# u接下来,在两个 Oracle RAC 节点上创建 UNIX shell 脚本 /etc/udev/scripts/iscsidev.sh:, r8 E3 z5 {8 N! S1 I. u
..............................................& |- ^) V+ z% R0 l/ j& G
#!/bin/sh
2 b6 U; t, H/ ?# z # FILE: /etc/udev/scripts/iscsidev.sh; D4 ?3 e/ \( k4 P7 u6 [6 ]
BUS=${1}
1 {8 ?$ v9 K9 G" {HOST=${BUS%%:*}
5 v# A( h- m8 y: D [ -e /sys/class/iscsi_host ] || exit 1
/ m6 v. H* ]% i" ^% Vfile="/sys/class/iscsi_host/host${HOST}/device/session*/iscsi_session*/$ c5 `- Y1 U1 {. i# f" G. f) ]
targetname", g8 X1 Z* h" w+ C! E& x3 `
target_name=$(cat ${file})! }/ u. |1 p7 n( q/ C
# This is not an open-scsi drive
8 f3 y) Q( W! @+ E' p: b: wif [ -z "${target_name}" ]; then1 V; Y- R0 o, U
   exit 1: H; u+ G2 R/ z7 y4 w; C
fi- w& `1 K9 x! K3 H. O% |, E
# Check if QNAP drive
) a- R  Y  c7 C% {$ d) b  Ocheck_qnap_target_name=${target_name%%:*}
( Z5 u* s  F+ w) K$ pif [ $check_qnap_target_name = "iqn.2004-04.com.qnap" ]; then1 ]+ e' b# J$ r, z; a# O
    target_name=`echo "${target_name%.*}"`
) R8 L; g& K  d) N, kfi
7 p+ @7 e. x. g" w0 @/ jecho "${target_name##*.}"
( q! m$ {" @( h6 `8 q2 Y/ S% e.............................................. 6 I) P: r6 l7 k9 I
创建 UNIX SHELL 脚本后,将其更改为可执行文件:
% v  `  m# H" I" ^# _ [root@racnode1 ~]# chmod 755 /etc/udev/scripts/iscsidev.sh
8 s$ W5 x: Z, m8 D" x* d0 E' C既然已经配置了 udev,下面将在两个 Oracle RAC 节点上重新启动 iSCSI 服务:- B) p6 |6 F& q0 c0 h8 v  P! r
[root@racnode1 ~]# service iscsi stop Logging out of session [sid: 6, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]/ B$ N. V( |. ~" G8 |
Logging out of session [sid: 7, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]7 Y! C2 k1 _9 X8 t" n- g
Logging out of session [sid: 8, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]  W- R6 F/ f7 `& ]6 k9 q
Logout of [sid: 6, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]: successful: U/ _$ D3 @* c8 J7 l/ _" |: N5 O
Logout of [sid: 7, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]: successful% g& Y1 |8 l# s$ U
Logout of [sid: 8, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]: successful. B& U5 [% i: O6 D
Stopping iSCSI daemon:                               [ OK ]3 N' S, N8 e" N) Z, s/ C
[root@racnode1 ~]# service iscsi start iscsid dead but pid file exists
% @& N( O9 P- R% t3 Q( C2 c) ]Turning off network shutdown. Starting iSCSI daemon: [ OK ]5 L' s4 V) U( C) w5 ^
                                                     [ OK ]( `$ v! M9 Y& B/ }: O
Setting up iSCSI targets: Logging in to [iface: default, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]3 X: m* v/ I/ `; a' |
Logging in to [iface: default, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]
, C2 w( T1 v( ~1 ^Logging in to [iface: default, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]- u  S4 Z" {7 i# j, k- G4 _0 m' B
Login to [iface: default, target: iqn.2006-01.com.openfiler:racdb.crs1, portal: 192.168.2.195,3260]: successful% V& |6 w) V" ]8 [" C2 ]
Login to [iface: default, target: iqn.2006-01.com.openfiler:racdb.fra1, portal: 192.168.2.195,3260]: successful
0 z9 B& p# b( J8 B* S/ kLogin to [iface: default, target: iqn.2006-01.com.openfiler:racdb.data1, portal: 192.168.2.195,3260]: successful [ OK ] 2 d! R7 `& X9 G/ {7 W
下面,我们来看一下我们的辛勤工作是否得到了回报:+ Q7 c6 |# o7 H8 `+ e2 K
[root@racnode1 ~]# ls -l /dev/iscsi/* /dev/iscsi/crs1:
7 t8 b& e/ S/ t4 f2 wtotal 0
* I& |( y; T6 `1 j% _$ zlrwxrwxrwx 1 root root 9 Nov  3 18:13 part -> ../../sdc
1 q9 ^; C' k2 a' x+ U( }  Y* a/dev/iscsi/data1:
* A5 N7 q- F0 p( |4 M7 m% o7 a4 _! B2 Ktotal 0
, k: X9 w; u2 d  E+ ]lrwxrwxrwx 1 root root 9 Nov  3 18:13 part -> ../../sde: B: d* K- `, p
/dev/iscsi/fra1:: [0 q4 f+ s. C
total 07 y: w0 A: q/ W9 m
lrwxrwxrwx 1 root root 9 Nov  3 18:13 part -> ../../sdd
" c( o" @$ o1 K; G+ t) W4 [# P& I上面的清单显示, udev 所做的工作正是我们所期待的!现在,我们拥有了一组一致的本地设备名称,可用于引用 iSCSI 目标。例如,我们可以安全地认为设备名称 /dev/iscsi/crs1/part 将始终引用 iSCSI 目标 iqn.2006-01.com.openfiler:racdb.crs1。现在,我们拥有了一致的 iSCSI 目标名称到本地设备名称的映射,如下表所示:
# b+ `  k+ s; i& tiSCSI 目标名称到本地设备名称的映射
/ a8 V& a! l2 z) siSCSI 目标名称 本地设备名称' O% X0 J; t( b$ d
iqn.2006-01.com.openfiler:racdb.crs1 /dev/iscsi/crs1/part
) N2 ?7 I+ K; X0 x7 V" Giqn.2006-01.com.openfiler:racdb.data1 /dev/iscsi/data1/part
9 {5 a* f) h3 _% @& Q- m. tiqn.2006-01.com.openfiler:racdb.fra1 /dev/iscsi/fra1/part
3 z' x$ I! r- q. W: Z
# i4 z; p( ?! H8 q( R: }在 iSCSI 卷上创建分区
, U, A7 ^% @! z! g$ `" A现在,我们需要在每个 iSCSI 卷上创建一个占用整个卷大小的主分区。正如本文前面提到的,我将使用自动存储管理 (ASM) 存储 Oracle 集群件所需的共享文件、物理数据库文件(数据/索引文件、联机重做日志文件和控制文件),以及集群数据库的快速恢复区 (FRA)。
7 e. L) g( C: t5 o5 H5 pOracle Clusterware 共享文件(OCR 和表决磁盘)将存储在一个名为 +CRS 的使用外部冗余 配置的 ASM 磁盘组中。集群数据库的物理数据库文件将存储在一个名为 +RACDB_DATA 的也使用外部冗余配置的 ASM 磁盘组中。最后,快速恢复区(RMAN 备份和存档重做日志文件)将存储于一个名为 +FRA 的使用外部冗余配置的第三个 ASM 磁盘组中。6 L# H% Z# n8 C; r# Q6 `' i/ n, X. d
下表列出了将要创建的三个 ASM 磁盘组及其将包含的 iSCSI 卷:) [8 ^3 ]$ M  U* I2 Z1 B
Oracle 共享驱动器配置
% m9 k, C. j) L8 K文件类型 ASM 磁盘组名称 iSCSI 目标(短)名称 ASM 冗余 大小 ASMLib 卷名
. j. b0 b" W1 _/ D2 dOCR 和表决磁盘 +CRS crs1 External 2GB ORCL:CRSVOL1! C- q. b- a! S0 x5 F
Oracle 数据库文件 +RACDB_DATA data1 External 32GB ORCL:DATAVOL1' N/ X( P  m8 E4 L
Oracle 快速恢复区 +FRA fra1 External 32GB ORCL:FRAVOL11 ~7 H* F5 m+ p; t5 e
如上表所示,我们需要在每个 iSCSI 卷(共三个)上创建一个 Linux 主分区。 fdisk 命令在 Linux 中用于创建(和删除)分区。对于每个 iSCSI 卷(共三个),您都可以在创建主分区时使用默认值,因为默认操作是使用整个磁盘。您可以放心地忽略任何指示设备未包含有效 DOS 分区(或 Sun、SGI 或 OSF 磁盘标签)的警告。8 \4 ?4 E5 m6 N2 a0 R" t# X, J
在本例中,我将在 racnode1 上运行 fdisk 命令,使用中通过 udev 创建的本地设备名称在每个 iSCSI 目标上创建一个主分区:: [8 ~. i5 ~8 Z+ F: z: b
' Z. _+ K( \# C. i% M3 ]% s( _' v
/dev/iscsi/crs1/part
* b. ]  d* T5 S' c/dev/iscsi/data1/part) ^6 j& F' n- z, S6 D- }
/dev/iscsi/fra1/part$ R+ W' k, ]3 s+ s

( x. X: P3 T: B3 X  Q' r6 u$ E注:要在每个 iSCSI 卷上创建单个分区,只能从 Oracle RAC 集群中的一个节点上进行!(如racnode1)
; a  R6 y: C% P3 g8 D5 q # ---------------------------------------- h7 V& J9 q: {- I; r# B
[root@racnode1 ~]# fdisk /dev/iscsi/crs1/part Command (m for help): n Command action9 Z- v, t' H% B
   e   extended3 u4 e7 B4 c0 N, d' q
   p   primary partition (1-4)  p Partition number (1-4): 1 First cylinder (1-1012, default 1): 1 Last cylinder or +size or +sizeM or +sizeK (1-1012, default 1012): 1012 Command (m for help): p Disk /dev/iscsi/crs1/part: 2315 MB, 2315255808 bytes7 s2 \5 [6 [$ s3 z4 e& e
72 heads, 62 sectors/track, 1012 cylinders
/ y% d3 z- C; a: ]) e- `/ {Units = cylinders of 4464 * 512 = 2285568 bytes
, I, t' G: H0 ?, v               Device Boot      Start         End      Blocks   Id  System1 z1 M) s6 b1 B
/dev/iscsi/crs1/part1               1        1012     2258753   83  Linux4 Q' Y( g( @) I; c1 d% B
Command (m for help): w The partition table has been altered!
+ \  f) }$ W( x8 @3 K- @$ _Calling ioctl() to re-read partition table.& `0 @* u5 W/ s6 h2 y1 K- _, v
Syncing disks.* L  g: j; r) [
# ---------------------------------------! v, B: q! y6 O, W
[root@racnode1 ~]# fdisk /dev/iscsi/data1/part Command (m for help): n Command action
3 M% \$ h: q( i   e   extended
1 [) U7 A+ U3 _8 q; ]9 Q' O# `1 ~' _8 |6 ?   p   primary partition (1-4)  p Partition number (1-4): 1 First cylinder (1-33888, default 1): 1 Last cylinder or +size or +sizeM or +sizeK (1-33888, default 33888): 33888 Command (m for help): p Disk /dev/iscsi/data1/part: 35.5 GB, 35534143488 bytes
- M) R- e$ U$ B' C$ [/ H+ ?  H64 heads, 32 sectors/track, 33888 cylinders
# g; ?+ }/ D0 U, fUnits = cylinders of 2048 * 512 = 1048576 bytes. `$ j* S( v0 V. C9 X
                 Device Boot      Start         End      Blocks   Id  System
0 Q+ P: C" @# Z) _. |! F' z/dev/iscsi/data1/part1               1       33888    34701296   83  Linux" y5 f) L0 r0 v6 |4 c
Command (m for help): w The partition table has been altered!
: ]3 i. k. x0 j" W* l7 |  L3 G Calling ioctl() to re-read partition table.6 N$ K8 V- j; p. R" `+ u
Syncing disks.& |4 q& k9 B+ [" t1 U  Q" A  a: `$ z
# ---------------------------------------! n9 V% N% k  H$ |9 S, Y
[root@racnode1 ~]# fdisk /dev/iscsi/fra1/part Command (m for help): n Command action
# h/ f7 F1 I0 T3 |" r( `   e   extended
& |# b' U2 f0 c) D' H3 A   p   primary partition (1-4)  p Partition number (1-4): 1 First cylinder (1-33888, default 1): 1 Last cylinder or +size or +sizeM or +sizeK (1-33888, default 33888): 33888 Command (m for help): p Disk /dev/iscsi/fra1/part: 35.5 GB, 35534143488 bytes4 R4 G% {2 p7 L7 {$ V9 L
64 heads, 32 sectors/track, 33888 cylinders
% u7 o3 S1 R; PUnits = cylinders of 2048 * 512 = 1048576 bytes, D8 H* M- Y! J4 d, w9 B
               Device Boot      Start         End      Blocks   Id  System
* k( \+ A2 i' m, G/dev/iscsi/fra1/part1               1       33888    34701296   83  Linux" u! M( q! t6 Q9 t0 O3 i
Command (m for help): w The partition table has been altered!
0 |% K. `* K- B  B6 h' T3 a' BCalling ioctl() to re-read partition table.8 \5 j( `- y. e8 J  ~  j
Syncing disks.
: K8 }1 V( O" v; V' |1 r验证新分区$ y% u/ f. L( `/ b
在 racnode1 上创建所有需要的分区之后,现在应使用以下命令以“root”用户帐户从 Oracle RAC 集群的所有其余节点 (racnode2) 将分区更改通知给内核。注意,Openfiler 发现的 iSCSI 目标名称和本地 SCSI 设备名称的映射在两个 Oracle RAC 节点上将有所不同。不用担心,这不会导致任何问题,因为我们将使用 udev 在中创建的本地设备名称而不是其他的本地 SCSI 设备名称。
8 X! K0 j+ ^+ C* h7 T! E* l0 |+ B" A: s) Z# M3 r
在 racnode2 上运行以下命令:1 w; D* \" n' C' P. m) z4 f
[root@racnode2 ~]# partprobe [root@racnode2 ~]# fdisk -l Disk /dev/sda: 160.0 GB, 160000000000 bytes
: B5 m) I# X, b% n4 T255 heads, 63 sectors/track, 19452 cylinders9 y" U' Z' C2 Z' l1 q) V, N& U
Units = cylinders of 16065 * 512 = 8225280 bytes( S8 a- z! Y- A  g1 J9 O
   Device Boot      Start         End      Blocks   Id  System
' S7 X- S; @. H) X8 h  D/dev/sda1   *           1          13      104391   83  Linux9 X/ T# L- O" C
/dev/sda2              14       19452   156143767+  8e  Linux LVM
0 ?- Y# T0 e5 Q1 z3 q* J0 dDisk /dev/sdb: 35.5 GB, 35534143488 bytes! P+ d/ t! k  n+ S* s$ u8 S' G
64 heads, 32 sectors/track, 33888 cylinders& f+ M' U3 a3 e1 h: i
Units = cylinders of 2048 * 512 = 1048576 bytes# M% }3 d( y( `" m
   Device Boot      Start         End      Blocks   Id  System+ M  _5 S. C3 G- W0 G
/dev/sdb1               1       33888    34701296   83  Linux
7 e( y0 z; ~+ ?) ODisk /dev/sdc: 35.5 GB, 35534143488 bytes; [1 K4 w" j, a1 `6 J
64 heads, 32 sectors/track, 33888 cylinders
) r6 `7 Q  I- ?* IUnits = cylinders of 2048 * 512 = 1048576 bytes
( Y" a0 S0 E0 g3 l+ B. U   Device Boot      Start         End      Blocks   Id  System
# f4 r, t/ [9 w+ i$ |4 i, f/dev/sdc1               1       33888    34701296   83  Linux7 h+ t& J2 P. D- S
Disk /dev/sdd: 2315 MB, 2315255808 bytes, C9 D9 l, I9 h: Z
72 heads, 62 sectors/track, 1012 cylinders
* A  {$ h7 h! Z0 ]$ {Units = cylinders of 4464 * 512 = 2285568 bytes
0 Y; @. d6 G- Q) Y: t   Device Boot      Start         End      Blocks   Id  System
" P. ?- ?' u7 h3 P/dev/sdd1               1        1012     2258753   83  Linux , V0 a' O- Q( ~5 h  T
最后,您应该在两个 Oracle RAC 节点上运行以下命令,以验证 udev 为每个新分区创建了新的符号链接:- Z) w4 `$ o# ^0 u
[root@racnode2 ~]# (cd /dev/disk/by-path; ls -l *openfiler* | awk '{FS=" "; print $9 " " $10 " " $11}') ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.crs1-lun-0 -> ../../sdd* i! [+ I0 c6 t' {% v0 t4 y# M" i
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.crs1-lun-0-part1 -> ../../sdd15 t7 w9 ~8 G# Y8 Q) R% k- `4 C
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.data1-lun-0 -> ../../sdc1 V$ f: F8 d) j3 H
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.data1-lun-0-part1 -> ../../sdc1$ g8 V6 f2 z$ n
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.fra1-lun-0 -> ../../sdb9 G4 b% O% B4 ^; s: @& X
ip-192.168.2.195:3260-iscsi-iqn.2006-01.com.openfiler:racdb.fra1-lun-0-part1 -> ../../sdb1
( Y; y  K) y: }上面的清单显示, udev 确实为每个新分区创建了新的设备名称。在,当我们为 ASMlib 配置卷时,将使用这些新的设备名称。
0 Y1 t  H* N& h. w+ Z! k' O" |6 p8 Q$ v
/dev/iscsi/crs1/part1
1 e" I* t8 E& }$ q1 j" }6 }. z* K% M/dev/iscsi/data1/part1: K0 A. ?1 n9 ^$ b. C
/dev/iscsi/fra1/part1
; |0 p; s0 C8 U4 |
6 q( M. ^) }* t. a4 @: W
您需要登录后才可以回帖 登录 | 开始注册

本版积分规则

关闭

站长推荐上一条 /4 下一条

如有购买积分卡请联系497906712

QQ|返回首页|Archiver|手机版|小黑屋|易陆发现 点击这里给我发消息

GMT+8, 2022-5-23 22:15 , Processed in 0.067047 second(s), 23 queries .

Powered by LR.LINUX.cloud bbs168x X3.2 Licensed

© 2012-2022 Comsenz Inc.

快速回复 返回顶部 返回列表