Jump to content
日本-日本語

HP ProLiant MPサーバー

 お問い合わせ
期間延長!SSD Appliance半額以下セール実施中!
Content starts here

スペシャルコンテンツ 1台のマシン上で昼の時間はOTLP処理、夜の時間はバッチ処理を行う、高速かつ効率的なシステム構成 ── レッドハットと日本HPは、このようなバッチ処理の理想的な環境で1億レコードの最速バッチ処理に挑戦してみました。 インテル® Xeon® E7 プロセッサー E7ファミリー

スペシャルコンテンツ その5 1億レコードの最速バッチ処理に挑戦レッドハット、日本HPの共同性能検証レポート

レッドハットと日本HPが推奨するバッチ処理の理想的な環境
図1:レッドハットと日本HPが推奨するバッチ処理の理想的な環境

1台のマシン上で昼の時間はOTLP処理、夜の時間はバッチ処理を行う

今日、企業間取引の履歴から個人がソーシャルメディアを通じて受発信するメッセージや画像に至るまで、ネットワークを行き交うあらゆるデータが次のビジネスチャンスを生み出すキーになると考えられており、結果として企業のデータベースに蓄積されるデータ量は爆発的に増加する傾向にあります。そして、データベースの効率的なバッチ処理は大きな課題となっており、データのより迅速なビジネス活用のためには、バッチ処理性能の高速化が大きな鍵となっています。バッチ処理が想定時間内に終わらず、ビジネスに影響を及ぼす事態を避けるためにも、将来想定されるデータ容量を含めたバッチ処理要件を満たすシステム設計の事前検証は、非常に重要です。

また、分散技術の「Hadoop」を利用したバッチ処理にも向き/不向きがあります。複数台のサーバーを連携させての処理のため、ネットワークI/Oがボトルネックとなり、1ノードの環境の方が速い場合もあります。「Hadoop」はアプリケーションの描き直しや分散処理特有の「処理量の偏り」を最適化するノウハウも必要となります。

一方、近年では、システムの効率化のための様々な技術が登場しています。ストレージI/Oのボトルネックを解消し、処理を高速化する10TBの半導体ストレージであるHP VMAシリーズ。シングルシステムで8ソケット80コアの環境を構築できる、インテル® Xeon® プロセッサー E7ファミリーを搭載するHP ProLiant DL980 G7。Linuxカーネルに仮想化ソフトウェアの機能を統合したLinux KVM(Kernel-based Virtual Machine)。こうした最新技術は、バッチ処理にとって理想的な環境の構築を可能にします。

1台のマシン上で昼の時間はOTLP処理、夜の時間はバッチ処理を行う、高速かつ効率的なシステム構成 ──

レッドハットと日本HPは、このようなバッチ処理の理想的な環境で1億レコードの最速バッチ処理に挑戦してみました。
レッドハット株式会社 グローバルサービス本部 プラットフォームソリューション統括部 ソリューションアーキテクト 平 初 氏
レッドハット株式会社 グローバルサービス本部
プラットフォームソリューション統括部
ソリューションアーキテクト 平 初 氏

1仮想マシンあたり800万〜870万件/時間の最速バッチ処理

この検証では、日本の総人口分のレコードを扱うデータベースを想定し、1億レコードのデータベースを用意しました。データ量は約25GBになります。

バッチ処理を想定し、SQLの処理の中でもIOバウンドな処理となっているUPDATE文を大量に発行するという処理を行いました。ロードジェネレーターにはsysbenchを使っています。発行したSQLのUPDATE文は1種類で、一般的な更新処理です。1億件のレコードからランダムに抽出した1レコードの1列を更新します。

まず、1筐体で80コアと4TBのメモリというモンスターマシンと10TBの半導体ストレージという環境を、KVMのコア単位でアフィニティを設定できる機能で1仮想マシンあたり1ソケット内に割り当てるように仮想プロセッサーを8コアに設定。その結果、1仮想マシンあたり800万〜870万件/時間の高速処理となりました。
8VMの更新処理件数
図2:8VMの更新処理件数

IOHUBに近いソケットの仮想マシンでは1,150万件/時間

すべてのソケットでの検証結果を踏まえ、次にもっとも負荷がかかっていたIOHUBに近い2つを除くソケットで1つずつ、合計6つの仮想マシンを動かす検証を行いました。さらに、もっとも負荷がかかっていたIOHUBに近いソケットと、遠いソケットでそれぞれ1つずつ、計2つの仮想マシンを動かす検証を行いました。

この結果、IOHUBに近いソケットの仮想マシンでは、1,150万件/時間という圧倒的な処理能力が確認でき、IOHUBに近いソケットを利用することで、さらに高速な処理が期待できることがわかりました。

この詳細は、ホワイトペーパーにて、ご確認ください。
仮想マシンを動かす検証
写真1:仮想マシンを動かす検証
このページで紹介されている半導体メモリアレイ、仮想化環境バッチ処理性能検証結果はホワイトペーパーに詳しく掲載されております。より詳しい内容を知りたい方は、「ダウンロードする」ボタンをクリックしてください。アンケートにお答え頂くと、ホワイトペーパーをダウンロードすることができます。ぜひご活用ください。

ダウンロード

アンケートにお答え頂いた方はホワイトペーパーやパーフェクトガイドをダウンロードすることができます、ぜひご活用ください。

■ホワイトペーパー
半導体メモリアレイ、仮想化環境バッチ処理性能検証
Red Hat Enterprise Linux 6 KVMによる効率的なバッチ処理環境の構築

■パーフェクトガイド
HP ProLiantサーバー G7 マルチプロセッサー(MP)サーバー パーフェクトガイド
HP ProLiantサーバー G7のMPサーバーがITインフラの革新に向けた新しい選択肢を提供します。
ダウンロードする


お問い合わせ

ご購入前のお問い合わせ


ご購入後のお問い合わせ

オンラインサポート
製品の標準保証でご利用いただける無償のサービスです。

ショールーム

ショールーム 導入をご検討のお客様へ
業務アプリケーションの継続・標準化・開発性とシステム担当者様、システム開発者様が抱える悩み・疑問に対する解決策実体験して頂けます。

Intel、インテル、Intelロゴ、Itanium、Xeon、Xeon Insideは、アメリカ合衆国および他の国におけるインテル コーポレーションまたはその子会社の商標または登録商標です。