メインコンテンツまでスキップ

統合ストレージコンピュートクラスターを手動でデプロイする

環境チェック、クラスタ計画、オペレーティングシステム検査などの事前チェックと計画が完了したら、クラスタのデプロイを開始できます。

統合ストレージ・コンピュートアーキテクチャは以下に示すとおりで、統合ストレージ・コンピュートクラスタのデプロイには4つのステップが含まれます。

integrated-storage-compute-architecture

  1. FE Masterノードのデプロイ: 最初のFEノードをMasterノードとしてデプロイします。

  2. FEクラスタのデプロイ: FollowerまたはObserver FEノードを追加してFEクラスタをデプロイします。

  3. BEノードのデプロイ: BEノードをFEクラスタに登録します。

  4. クラスタの正常性検証: デプロイ後、クラスタに接続してその正常性を検証します。

ステップ1: FE Masterノードのデプロイ

  1. メタデータパスの作成

    FEをデプロイする際は、BEノードのデータストレージとは異なるハードドライブにメタデータを保存することを推奨します。

    インストールパッケージを展開する際、デフォルトでdoris-metaディレクトリが含まれています。別のメタデータディレクトリを作成し、doris-metaディレクトリにリンクすることを推奨します。本番環境では、Dorisインストールフォルダ外の別のディレクトリ、できればSSD上に配置することを強く推奨します。テスト環境や開発環境では、デフォルト設定を使用できます。

    ## Use a separate disk for FE metadata
    mkdir -p <doris_meta_created>

    ## Create FE metadata directory symlink
    ln -s <doris_meta_created> <doris_meta_original>
  2. FE設定ファイルの変更

    FE設定ファイルはFE配置パス下のconfディレクトリに配置されています。FEノードを起動する前に、conf/fe.confファイルを変更してください。

    FEノードを配置する前に、以下の設定を変更することを推奨します:

    ## modify Java Heap
    JAVA_OPTS="-Xmx16384m -XX:+UseMembar -XX:SurvivorRatio=8 -XX:MaxTenuringThreshold=7 -XX:+PrintGCDateStamps -XX:+PrintGCDetails -XX:+UseConcMarkSweepGC -XX:+UseParNewGC -XX:+CMSClassUnloadingEnabled -XX:-CMSParallelRemarkEnabled -XX:CMSInitiatingOccupancyFraction=80 -XX:SoftRefLRUPolicyMSPerMB=0 -Xloggc:$DORIS_HOME/log/fe.gc.log.$DATE"

    ## modify case sensitivity
    lower_case_table_names = 1

    ## modify network CIDR
    priority_networks = 10.1.3.0/24

    ## modify Java Home
    JAVA_HOME = <your-java-home-path>

パラメータ説明: 詳細については、FE Configurationを参照してください:

パラメータ推奨事項
JAVA_OPTS-Xmxパラメータを指定してJava Heapを調整します。本番環境では16G以上に設定することを推奨します。
lower_case_table_names 大文字小文字の区別を設定します。1に調整することを推奨します(大文字小文字を区別しない)。
priority_networks ネットワークIPアドレスに基づいてNetwork CIDRを指定します。FQDN環境では無視できます。
JAVA_HOMEDorisではOSから独立したJDK環境を使用することを推奨します。
  1. FEプロセスの開始

    以下のコマンドを使用してFEプロセスを開始できます:

    bin/start_fe.sh --daemon

FEプロセスが開始され、バックグラウンドで実行されます。デフォルトでは、ログはlog/ディレクトリに保存されます。起動に失敗した場合は、log/fe.logまたはlog/fe.outファイルでエラーの詳細を確認できます。

  1. FE起動状態の確認

    MySQL Clientを使用してDorisクラスターに接続できます。デフォルトユーザーはrootで、パスワードは空です。

    mysql -uroot -P<fe_query_port> -h<fe_ip_address>

Dorisクラスターに接続した後、show frontendsコマンドを使用してFEノードのステータスを確認できます。通常、以下の項目を確認する必要があります:

  • Alive: trueの場合、ノードが生きていることを示します。

  • Join: trueの場合、ノードがクラスターに参加していることを示しますが、必ずしもノードがクラスター内でアクティブであることを意味するわけではありません(接続が失われている可能性があります)。

  • IsMaster: trueの場合、現在のノードがMasterノードであることを示します。

ステップ2: FEクラスターのデプロイ(オプション)

本番環境では、少なくとも3つのノードをデプロイすることを推奨します。FE Masterノードをデプロイした後、追加で2つのFE Followerノードをデプロイする必要があります。

  1. メタデータディレクトリの作成

    FE Masterノードのデプロイと同じ手順に従って、doris-metaディレクトリを作成します。

  2. FE Followerノード設定の変更

    FE Masterノードと同じ手順に従って、FollowerノードのFE設定ファイルを変更します。通常、FE Masterノードから設定ファイルを単純にコピーできます。

  3. DorisクラスターでのFE Followerノードの登録

    新しいFEノードを起動する前に、FEクラスターで新しいFEノードを登録する必要があります。

    ## connect a alive FE node
    mysql -uroot -P<fe_query_port> -h<fe_ip_address>

    ## register a new FE follower node
    ALTER SYSTEM ADD FOLLOWER "<fe_ip_address>:<fe_edit_log_port>"

オブザーバーノードを追加するには、ADD OBSERVERコマンドを使用します:

## register a new FE observer node
ALTER SYSTEM ADD OBSERVER "<fe_ip_address>:<fe_edit_log_port>"
Note
  • FE Followerノード(Masterを含む)の数は奇数である必要があります。高可用性のために3ノードをデプロイすることを推奨します。

  • FEが高可用性モード(1 Master、2 Followers)でデプロイされている場合、Observer FEノードを追加してFE読み取りサービス容量を拡張することを推奨します。

  1. FE Followerノードの開始

    FE Followerノードは以下のコマンドで開始できます。これによりメタデータが自動的に同期されます。

    bin/start_fe.sh --helper <helper_fe_ip>:<fe_edit_log_port> --daemon

ここで、helper_fe_ipはFEクラスタ内の任意の稼働中のノードを指します。--helperパラメータはFEの初回起動時にメタデータを同期するためにのみ使用され、その後の再起動ではこのパラメータは不要です。

  1. Followerノードのステータス確認

    FE Followerノードのステータス確認方法は、FE Masterノードのステータス確認と同じです。Followerノードを追加した後、show frontendsコマンドを使用してFEノードのステータスを確認します。Masterとは異なり、IsMasterの状態はfalseである必要があります。

ステップ3: BEノードのデプロイ

  1. データディレクトリの作成

    BEプロセスはデータの計算と保存を担当します。データディレクトリはデフォルトでbe/storageの下に配置されます。本番環境では、BEデータを別のディスクに保存し、BEデータとデプロイファイルを異なるディスクに配置するのが一般的です。BEは複数のディスクにデータを分散して、複数のハードドライブのI/O能力をより良く活用することをサポートしています。

    ## Create a BE data storage directory on each data disk
    mkdir -p <be_storage_root_path>
  2. BE設定ファイルの変更

    BE設定ファイルはBEデプロイメントパス下のconfディレクトリに配置されています。BEノードを開始する前に、conf/be.confファイルを変更する必要があります。

    ## modify storage path for BE node
    storage_root_path=/home/disk1/doris,medium:HDD;/home/disk2/doris,medium:SSD

    ## modify network CIDR
    priority_networks = 10.1.3.0/24

    ## modify Java Home in be/conf/be.conf
    JAVA_HOME = <your-java-home-path>

パラメータの説明は以下の通りです:

パラメータ提案
priority_networksネットワークCIDR、ネットワークIPアドレスで指定します。FQDN環境では無視できます。
JAVA_OPTS-Xmxパラメータを設定してJavaヒープサイズを調整します。本番環境では2GB以上に設定することを推奨します。
JAVA_HOMEDorisにはオペレーティングシステムから独立したJDK環境を使用することを推奨します。
  1. DorisでBEノードを登録

    BEノードを開始する前に、FEクラスタに登録してください:

    ## connect a alive FE node
    mysql -uroot -P<fe_query_port> -h<fe_ip_address>

    ## Register BE node
    ALTER SYSTEM ADD BACKEND "<be_ip_address>:<be_heartbeat_service_port>"
  2. BEプロセスの開始

    BEプロセスは以下のコマンドで開始できます:

    bin/start_be.sh --daemon

BEプロセスが開始され、バックグラウンドで実行されます。ログはデフォルトでlog/ディレクトリに保存されます。起動が失敗した場合は、log/be.logまたはlog/be.outファイルでエラー情報を確認してください。

  1. BE起動ステータスの確認

    Dorisクラスターに接続した後、show backendsコマンドを使用してBEノードのステータスを確認します。

    ## connect a alive FE node
    mysql -uroot -P<fe_query_port> -h<fe_ip_address>

    ## check BE node status
    show backends;

通常、以下の状態に注意してください:

  • Aliveがtrueの場合、ノードが生きていることを示します。

  • TabletNumはノード上のシャード数を表します。新しく追加されたノードはデータバランシングが行われ、TabletNumは徐々により均等に分散されます。

ステップ4:クラスター整合性の検証

  1. データベースへのログイン

    MySQL Clientを使用してDorisクラスターにログインします。

    ## connect a alive fe node
    mysql -uroot -P<fe_query_port> -h<fe_ip_address>
  2. Dorisインストール情報の確認

    show frontendsshow backendsを使用して、各データベースインスタンスのステータスを確認します。

    -- check fe status
    show frontends \G

    -- check be status
    show backends \G
  3. Doris クラスターパスワードの変更

    Doris クラスターが作成されると、root という名前のユーザーが自動的に作成され、そのパスワードはデフォルトで空に設定されます。セキュリティ上の理由から、クラスターの作成直後に root ユーザーの新しいパスワードを設定することを推奨します。

    -- check the current user
    select user();
    +------------------------+
    | user() |
    +------------------------+
    | 'root'@'192.168.88.30' |
    +------------------------+

    -- modify the password for current user
    SET PASSWORD = PASSWORD('doris_new_passwd');
  4. テストテーブルを作成してデータを挿入する

    クラスタの整合性を検証するために、新しく作成されたクラスタにテストテーブルを作成し、いくつかのデータを挿入することができます。

    -- create a test database
    create database testdb;

    -- create a test table
    CREATE TABLE testdb.table_hash
    (
    k1 TINYINT,
    k2 DECIMAL(10, 2) DEFAULT "10.5",
    k3 VARCHAR(10) COMMENT "string column",
    k4 INT NOT NULL DEFAULT "1" COMMENT "int column"
    )
    COMMENT "my first table"
    DISTRIBUTED BY HASH(k1) BUCKETS 32;

DorisはMySQLプロトコルと互換性があり、INSERT文を使用してデータを挿入できます。

-- insert data
INSERT INTO testdb.table_hash VALUES
(1, 10.1, 'AAA', 10),
(2, 10.2, 'BBB', 20),
(3, 10.3, 'CCC', 30),
(4, 10.4, 'DDD', 40),
(5, 10.5, 'EEE', 50);

-- check the data
SELECT * from testdb.table_hash;
+------+-------+------+------+
| k1 | k2 | k3 | k4 |
+------+-------+------+------+
| 3 | 10.30 | CCC | 30 |
| 4 | 10.40 | DDD | 40 |
| 5 | 10.50 | EEE | 50 |
| 1 | 10.10 | AAA | 10 |
| 2 | 10.20 | BBB | 20 |
+------+-------+------+------+