php+nodeJs+thrift協定,實現zookeeper節點資料自動發現

2020-07-16 10:05:47
php是當下最流行的web伺服器端語言,zookeeper是大型分散式協同工具,本文在這裡介紹一種架構實現php伺服器對於zookeeper資料變化的自動監聽。

一.問題背景

php可以CLI模式模式連線zookeeper(下面簡稱zk),並實現zk節點資料的自動發現,這裡不做過多敘述。但web伺服器中,php只能主動連線zk以獲得節點資料,做不到zk資料的自動發現。其次,php web服務,也難以和php CLI模式下的服務共用資料變數(cli模式下zk資料做成共用變數)。這就導致如果並行量大的話,每一個http請求php都會去連線zk,zk叢集的壓力會很大,其次,每一個請求都會連線zk,請求結束又釋放zk連線,zk的連線與釋放過於頻繁。

二.解決思路

nodeJs多進程間可以通訊,可以解決php服務難以實現共用變數的問題。nodeJs可以在主進程中丟擲一個子進程,子進程中實現zk的自動發現,子進程偵察到zk節點資料變化時,主動通知主進程。node主進程寫一個服務,像外界提供zk的資料。php web服務需要zk節點資料時,通過RPC協定(這裡使用thrift協定),存取本地node主進程服務,來獲取zk節點資料。

這樣做有三點好處:

1.實現zk節點變化的自動發現;

2.php和node通訊在同一台伺服器上,不走網管,速度快,穩定性可靠

3.thrift協定直接操作通訊端傳輸資料,比http服務要快,可以近似看作php呼叫自己的方法

三.具體實現

1.搭建zookeeper服務,這裡我搭了一個5台zk服務的偽叢集(zk服務的搭建這裡不做過多介紹),測試zk服務是否能正常寫入與讀取節點資料

分別啟動五台zk伺服器

./server001/bin/zkServer.sh start
./server002/bin/zkServer.sh start
./server003/bin/zkServer.sh start
./server004/bin/zkServer.sh start
./server005/bin/zkServer.sh start
![zookeeper叢集啟動][1]

啟動成功後,測試節點是否能夠正常寫入讀取(這裡提前建立了一個/zk_test節點)

啟動zk用戶端

./bin/zkCli.sh
/zk_test測試寫入123:set /zk_test 123 發現可以正常寫入與讀取
![zk寫入與讀取][2]

2.建立node服務

定義thrift提供的服務,新建thrift檔案,定義返回zk資料的服務:zkDataService,服務中有一個方法zkData返回節點資料

namespace php tutorial
service zkDataService {
     string zkData()
}

根據thrift協定生成伺服器端可用戶端的中間程式碼(生成中間程式碼我放在windows上完成),

C:Users77388AppDatathrift-0.10.0.exe -r --gen js:node zkData.thrift

此時會在資料夾中生成中間程式碼,在gen-nodejs資料夾中

![生成node端中間程式碼][3]

node安裝zookeeper模組:cnpm install node-zookeeper-client,編寫子進程support.js,自動發現zk節點資料變更

console.log('pid in worker:', process.pid);
process.on('message', function(msg) {
  console.log('3:', msg);
});
var i=0;
var zookeeper = require('node-zookeeper-client');
var client = zookeeper.createClient('localhost:2181');
var path = '/zk_test';//節點名稱
 
function getData(client, path) {
    client.getData(
        path,
        function (event) {
            console.log('Got event: %s', event);
            getData(client, path);
        },
        function (error, data, stat) {
            if (error) {
                console.log('Error occurred when getting data: %s.', error);
                return;
            }
            process.send('zookeeper節點資料'+data.toString('utf8'));//通知主進程zk節點資料
        }
    );
}
 
client.once('connected', function () {
    console.log('Connected to ZooKeeper.');
    getData(client, path);
});
 
client.connect();
process.emit('message', '======');

編寫主進程server.js,實現thrift定義的服務,並在主進程中啟動子進程

var childprocess = require('child_process');
var worker = childprocess.fork('./support.js');
console.log('pid in master:', process.pid);
var childMessage="";
//監聽子進程事件
worker.on('message', function(msg) {
  childMessage=msg;
  console.log('1:', msg);//監聽子進程zk資料,並將zk節點資料列印
})
process.on('message', function(msg) {
  console.log('2:', msg);
})

worker.send('主進程給子進程傳遞的資料');

//觸發事件 message
process.emit('message', '------');
var thrift = require("thrift");
var zkDataService = require("./gen-nodejs/zkDataService");
var ttypes = require("./gen-nodejs/tutorial_types");
var data = {};
var server = thrift.createServer(zkDataService, {
  zkData: function(result) {
    result(null, childMessage);//將zk節點資料返回
  }
});
server.listen(9090);

啟動nodeJs主進程:node server.js

d1c71706429224613b3eea6a8918c45.png

3.建立php服務,在php服務中也要生成thrift中介軟體程式,與node端類似,php端呼叫node主進程server.js的zkData方法,獲取zk節點資料

<?php
namespace tutorialphp;
error_reporting(E_ALL);
require_once __DIR__.'/lib/Thrift/ClassLoader/ThriftClassLoader.php';
require_once __DIR__.'/gen-php/tutorial/zkDataService.php';
use ThriftClassLoaderThriftClassLoader;
$GEN_DIR = realpath(dirname(__FILE__).'/..').'/gen-php';
$loader = new ThriftClassLoader();
$loader->registerNamespace('Thrift', __DIR__ . '/lib');
$loader->registerDefinition('shared', $GEN_DIR);
$loader->registerDefinition('tutorial', $GEN_DIR);
$loader->register();
/*
 * Licensed to the Apache Software Foundation (ASF) under one
 * or more contributor license agreements. See the NOTICE file
 * distributed with this work for additional information
 * regarding copyright ownership. The ASF licenses this file
 * to you under the Apache License, Version 2.0 (the
 * "License"); you may not use this file except in compliance
 * with the License. You may obtain a copy of the License at
 *
 *   http://www.apache.org/licenses/LICENSE-2.0
 *
 * Unless required by applicable law or agreed to in writing,
 * software distributed under the License is distributed on an
 * "AS IS" BASIS, WITHOUT WARRANTIES OR CONDITIONS OF ANY
 * KIND, either express or implied. See the License for the
 * specific language governing permissions and limitations
 * under the License.
 */
use ThriftProtocolTBinaryProtocol;
use ThriftTransportTSocket;
use ThriftTransportTHttpClient;
use ThriftTransportTBufferedTransport;
use ThriftExceptionTException;
try {
  if (array_search('--http', $argv)) {
    $socket = new THttpClient('localhost', 8080, '/php/PhpServer.php');
  } else {
    $socket = new TSocket('192.168.0.105', 9090);
  }
  $transport = new TBufferedTransport($socket, 1024, 1024);
  $protocol = new TBinaryProtocol($transport);
  $client = new tutorialzkDataServiceClient($protocol);
  $transport->open();
  $result= $client->zkData();
  print "$result";//列印zk節點資料
  $transport->close();
} catch (TException $tx) {
  print 'TException: '.$tx->getMessage()."n";
}
?>

啟動php服務,發現正常獲取zk資料

1c6f99be20b06bd896b021b181a860c.png

修改zookeeper資料,在啟動php服務,發現可以自動發現

4ed29e62ed40ac26bbb2014fe0c380b.png

總結:

自此,php和nodeJS相共同作業,完成php服務對zk資料的自動發現就完成了。架構的整體思路是node子進程實現zk的自動發現,node主進程維護一個zk節點資料的共用變數,其他服務要想使用zk節點資料時,從node主進程中獲取。

以上就是php+nodeJs+thrift協定,實現zookeeper節點資料自動發現的詳細內容,更多請關注TW511.COM其它相關文章!