• 日本語
    • English (英語)
Avinton JapanAvinton JapanAvinton JapanAvinton Japan
  • サービス
    • Avinton Data Platform
    • エッジAIカメラ
      • 自動車ナンバープレート自動認識システム
    • プライベートクラウド
    • AIサービス開発
    • AIカメラ/画像解析無料体験版
  • 最新情報
    • ニュースリリース&イベント情報
    • 技術ブログ&インタビュー
  • アカデミー
    • Avintonアカデミー
    • Academy on Campus
    • Academy with Platform
  • 採用情報
    • Avintonジャパン 採用ページ
    • 求人一覧
    • よくある質問
    • 新卒採用
  • 企業情報
    • 会社概要
    • 代表からご挨拶
    • SDGsへの貢献
  • お問い合わせ

PostgreSQL – パーティショニングを利用したパフォーマンス改善方法

  • ルーティング
  • データベースの命名規則
  • 三目並べ – 2.〇×を交互にゲーム盤に入るようにしよう
  • 三目並べ – 3.勝敗がつくようにしよう
  • クリーンコード(Clean Code)
  • 三目並べ – 4.「スタート」「リセット」ボタンをつけよう
  • 三目並べ – 5.先攻後攻を決めて、コンピュータ対戦にしよう(前編)
  • インフラストラクチャー(サーバー、コンポーネント、RAID)
  • 機械学習入門者向け Support Vector Machine (SVM) に触れてみる
  • YOLOv8を用いた物体検出
  • 正規表現とパイプ
  • 機械学習エンジニアに必要なスキル
  • 軽量版Kubernetesディストリビューション – k0s クラスターの構築
  • ファイル操作コマンド
  • グループとユーザー
  • 困った時に使うコマンド
  • 一般グループのユーザーとグループ
  • プライバシーポリシー
  • 三目並べ – 6.先攻後攻を決めて、コンピュータ対戦にしよう(後編)
  • フロントエンド開発のための環境構築
  • ファイル検索コマンド
  • 質問
  • 仮想化環境のディスク容量を拡張する
  • ユーザー権限とアクセス権
  • データ分析基礎 – Part1
  • 三目並べ – 0.導入
  • テキスト処理
  • データベースへのデータロード
  • 機械学習概要1
  • 機械学習入門者向け Naive Bayes(単純ベイズ)アルゴリズムに触れてみる
  • ファイル管理
  • SSHを使用してホストOSからゲストOSに接続する
  • 機械学習入門者向け ChainerRLでブロック崩しの学習
  • 機械学習入門者向け ランダムフォレストによる Kaggle Titanic生存者予測
  • 機械学習概要2
  • データ分析基礎 – Part 2
  • 機械学習入門者向け 分類と回帰の違いをプログラムを書いて学ぼう
  • フロントエンドのWeb開発について
  • ダイナミックルーティング
  • 三目並べ – 1.ゲーム盤を作ろう
  • 【Python入門】Python Numpy チュートリアル
  • Amazon EC2 インスタンスの初期設定をしよう
  • AmazonEC2とVPCでネットワークとサーバーを構築しよう
  • Apache NiFi Exercise
  • Apache NiFi データパイプライン基礎
  • Apache NiFiの環境設定
  • Apache Spark 基礎
  • Apache SparkとApache Zeppelinの概要と環境構築
  • Apache Superset maptoolの使い方
  • Apache Superset 基礎
  • Apache Superset 概要と環境構築
  • Apache Zeppelin 基本機能
  • APIのデモンストレーション
  • Avinton Academy コンテンツガイド
  • AWS CLIをインストールしてコマンド操作しよう
  • AWS CLIを使ってEC2のファイルをS3へアップロードしよう
  • AWS Route 53を使って独自ドメインのWebページを表示させてみよう
  • AWSアカウントの作成と必ずやるべきセキュリティ対策
  • AWSのEC2インスタンスでWordPressブログを公開してみよう
  • AWS入門者向け 初心者が最初に理解すべきEC2とVPCの基本的な用語解説
  • CCNA
  • Certbotを使ってSSL証明書を発行し、HTTP通信を暗号化しよう
  • CISCO 1800ルータセットアップ
  • CSV import & export – Node.js, mySQL – 1
  • CSV import & export – Node.js, mySQL – 2
  • Docker Compose(Nginx + Flask + MySQL)演習
  • Docker Engineのubuntu上へのinstall
  • Docker 概要とセットアップ
  • Docker, Kubernetesの学び方について
  • Dockerコンテナイメージの最適化/ベストプラクティス
  • DockerとApacheを使ってWebサーバーを構築しよう
  • EC2からS3へ自動でぽいぽいアップロードするスクリプトの作成
  • ESP32-CAMのサンプルアプリケーションを実行する
  • 01 – Sparkfun Inventor’s Kit の準備
  • 02 – Sparkfun Inventor’s KitでLチカ
  • 03 ポテンショメータでLEDの点滅間隔をアナログ入力する
  • 04 フォトレジスタで明るさに反応するシステムをつくる
  • 05 LCDに文字列を表示する
  • 06 – BME280とLCDを組み合わせて温度計をつくる
  • ESP32とArduino IDE/PlatfromIOでHello Worldアプリケーションの実行
  • ESP32と超音波センサー HC-SR04 で物体の距離を計測する
  • ESXi – Switchの追加とVLAN
  • ESXi – VyOS
  • ESXi – 小規模ネットワーク 構築
  • Gitとは
  • VS CodeでGitHub Copilotを設定する
  • VSCode リモート開発環境
  • GNS3のセットアップ
  • Kubernetesクラスター上へのOpenVINOモデルサーバーを使用したサンプルアプリケーションのデプロイ
  • Linuxとは
  • NAT
  • NodeJSでWebアプリケーション開発 – React編
  • NodeJSでWebアプリケーション開発 – React編
  • NodeJSでWebアプリケーション開発 – React編
  • NodeJSでWebアプリケーション開発 – Socket.IO編
  • NVIDIA Cumulus VX + GNS3でBGPネットワークのシミュレーション
  • OpenCVのテストプログラム
  • PacketTracerのセットアップ
  • Pandasによる構造化データ分析
  • PCからルータ、スイッチへのSSH接続設定
  • PostGIS exercise
  • PostgreSQL – Python – Apache – Bootstrap
  • MySQLとMySQL Workbench のセットアップ
  • PostgreSQL Setup
  • PostgreSQL – インデックスを利用したパフォーマンス改善方法
  • PostgreSQL – パーティショニングを利用したパフォーマンス改善方法
  • PostgreSQLによるデータ分析
  • postgreSQLへのshp fileのimport
  • Python2.7とOpenCVのインストール
  • Python3.8 と OpenCV のインストール (Ubuntu20.04LTS)
  • Pythonでデータベースを操作する
  • Pythonで画像を分類するプログラムを作成する
  • Pythonによるマルチスレッドプログラミング実践
  • Raspberry Pi 4B のセットアップ
  • Raspberry PiとBME280を使用して温度と湿度、気圧を読み取る
  • REDIS
  • Redux基礎 – 主要な概念と用語
  • Ruby on Rails を MySQLでセットアップ
  • Ruby on Railsによる簡単なウェブアプリケーション
  • SampleアプリケーションのKubernetes上へのデプロイ
  • Scala 基礎
  • scikit-learnとは
  • Spark SQL エクササイズ
  • SparkMLによるKaggle Titanic生存者予測
  • SparkMLによる住宅価格予測
  • SQL 便利な関数
  • Ubuntuの基本設定
  • uhubctlでUSBデバイスのオンオフをコントロール
  • Terraform入門 2 – Terraformのstate管理
  • Terraform入門 1 – TerraformでAWS上にEC2インスタンスを作成する
  • Virtualisation and Container (仮想化とコンテナ) – Ansible, Docker and Kubernetes
  • viエディタ
  • VLAN
  • VMware ESXi サーバー構築
  • Webアプリ開発に欠かせないGoogle Chrome DevToolsの基本
  • Windows Server 2012 R2 Hyper-V
  • YOLOv5を用いた物体検出
Home Avintonアカデミー PostgreSQL – パーティショニングを利用したパフォーマンス改善方法
postgreSQL logo

PostgreSQL – パーティショニングを利用したパフォーマンス改善方法

本コンテンツはPostgreSQL – インデックスを利用したパフォーマンス改善方法の続きになっています。
インデックスに関する知識がない場合、そちらから始めることを推奨します。

データベースのパフォーマンス最適化において、大量のデータを効率的に管理することは非常に重要です。
パーティショニングを活用することで、大規模なテーブルのパフォーマンスを大幅に向上させることができます。
本記事では、PostgreSQLのパーティショニングについて、その利点や設定方法について解説します。
PostgreSQLのセットアップ

パーティショニング

パーティショニングとは、論理的には一つの大きなテーブルを、物理的に複数の小さなテーブル(パーティション)に分割して管理する手法です。

パーティショニングのメリット

  • インデックスサイズの縮小: 複合インデックスのカラム数が減ることで、インデックスのサイズが抑えられます。
  • クエリ速度の向上:  クエリが一つのパーティションの大部分にアクセスする場合、テーブル全体に分散したランダムアクセスを伴うインデックススキャンより、そのパーティションへの順次アクセスをすることでパフォーマンスを向上させることができます。
  • データ管理の効率化:  パーティションごとにデータを管理できるため、古いデータの削除や新しいデータの追加が容易になります。

パーティショニングによるメリット

スキーマ、テーブルの作成

データベースにスキーマを設定し、基となるテーブルを作成します。
ここでは、地理情報を管理するテーブルを例にします。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
CREATE SCHEMA test;
 
CREATE TABLE test.geographical_data(
  id SERIAL,
  pref CHAR(1),
  city CHAR(1),
  latitude FLOAT,
  longitude FLOAT
);
 
INSERT INTO test.geographical_data(pref, city, latitude, longitude)
SELECT
  CHR(ASCII('A') + FLOOR(random() * 5)::INT) AS pref,
  CHR(ASCII('a') + FLOOR(random() * 26)::INT) AS city,
  ROUND(CAST(random() AS NUMERIC), 3) AS latitude,
  ROUND(CAST(random() AS NUMERIC), 3) AS longitude
FROM generate_series(1, 10000000);

以下のようなテーブルデータが作成されます。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
postgres=# SELECT * FROM test.geographical_data LIMIT 10;
id | pref | city | latitude | longitude
----+------+------+----------+-----------
  1 | E    | r    |    0.248 |     0.722
  2 | D    | p    |    0.614 |     0.874
  3 | B    | d    |    0.908 |     0.002
  4 | E    | f    |    0.746 |     0.219
  5 | D    | b    |    0.875 |     0.204
  6 | D    | x    |    0.182 |      0.12
  7 | D    | h    |    0.235 |     0.152
  8 | A    | z    |    0.269 |     0.981
  9 | D    | b    |    0.947 |     0.659
10 | E    | z    |    0.533 |     0.426
(10 rows)

作成されるデータのサイズ約500MB
行数1000万行

親テーブルの作成

次に、パーティショニングを適用する親テーブルを作成します。
ここでは、pref列をパーティションキーに、リストパーティショニングを使用します。
パーティショニングの3つの形式

1
2
3
4
5
6
7
CREATE TABLE test.geographical_data_partition(
  id SERIAL,
  pref CHAR(1),
  city CHAR(1),
  latitude FLOAT,
  longitude FLOAT
) PARTITION BY LIST (pref);

パーティショニングテーブルの作成

上記の親テーブルに対する、パーティショニングテーブルを作成します。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
CREATE TABLE test.geographical_data_partition_A
PARTITION OF test.geographical_data_partition
FOR VALUES IN ('A');
 
CREATE TABLE test.geographical_data_partition_B
PARTITION OF test.geographical_data_partition
FOR VALUES IN ('B');
 
CREATE TABLE test.geographical_data_partition_C
PARTITION OF test.geographical_data_partition
FOR VALUES IN ('C');
 
CREATE TABLE test.geographical_data_partition_D
PARTITION OF test.geographical_data_partition
FOR VALUES IN ('D');
 
CREATE TABLE test.geographical_data_partition_E
PARTITION OF test.geographical_data_partition
FOR VALUES IN ('E');

親テーブルにデータを挿入

パーティショニングの作成が完了したら、基となるテーブルtest.geographical_dataのデータを親テーブルに挿入します。
これにより、パーティションキーに対応するデータが、自動的に適切なパーティションに振り分けられます。

1
2
3
4
5
6
7
INSERT INTO test.geographical_data_partition(pref, city, latitude, longitude)
SELECT
  pref,
  city,
  latitude,
  longitude
FROM test.geographical_data;

演習

 

  1. 以下の2つのクエリを実行し、合計コストや実行時間の改善率を表にまとめましょう。

 

クエリ1 : パーティションなし

1
2
3
4
5
6
7
EXPLAIN ANALYZE
SELECT
  *
FROM
  test.geographical_data
WHERE
  pref = 'A';

 

クエリ2 : パーティションあり

1
2
3
4
5
6
7
EXPLAIN ANALYZE
SELECT
  *
FROM
  test.geographical_data_partition
WHERE
  pref = 'A';

 

  1. test.geographical_dataテーブルのpref列にインデックスを使用し、クエリ1を実行した場合の合計コストや実行時間の改善率と比較しましょう。
  2. どの様なテーブルを設計する際にパーティショニングを使用すべきか理由とともに考えましょう。

CHALLENGE

  • test.geographical_data_partition
  • pref列にインデックスを使用したtest.geographical_data

これら2つのテーブルに下記クエリを実行した際の実行時間を確認しましょう。

1
2
3
4
5
6
7
EXPLAIN ANALYZE
SELECT
  pref
FROM
  test.targert_table_name
WHERE
  pref = 'A';

2の結果と違いが生まれる理由はなぜでしょうか。

ヒント

インデックスのスキャン方法:インデックスオンリースキャン

あなたも、Avintonでこのような最先端技術を習得し活用してみませんか?

社員の成長を導きながら、AIやビッグデータなどの最先端技術をプロジェクトに活用していくことが私たちのビジョンです。Avintonの充実した技術研修でスキルアップを図り、あなたのキャリア目標を一緒に達成しませんか?

採用情報

採用情報

採用情報

Categories

  • 相互学習
  • 採用
  • 社員インタビュー
  • 学習&資格取得
  • 技術解説
  • イベント告知
  • 学内説明会&講義
  • 産学連携
  • 就職活動
  • イベントレポート
  • その他
  • 技術ブログ&インタビュー
  • mainpage
  • New Graduates Interviews
  • 中途エンジニア
  • カテゴリーなし
  • ニュースリリース&イベント

Avinton SDGs

SDGsへの貢献

Search

タグ

AIエンジニア AI導入 Apatch AvintonAcademy CKA DevOps KiX Kubernetes Notion PM&PMO PyTorch SDGs Innnovation Hub UI YOLOv5 アカウントマネージャー インタビュー インフラエンジニア エッジAIカメラ セキュリティエンジニア ソフトスキル ツール開発 データサイエンティスト ネットワークエンジニア フルスタックエンジニア フロントエンド ベテランエンジニア ボランティア マイクロサービス モーフィング ローカルイベント 中瀬幸子、サーバークラスター 中途採用 人材育成 協働パートナー 国際自動制御連盟 地域創生 基本情報技術者 強化学習 技術 新卒、キャリア 新卒採用 田中研之輔 社会貢献 経団連 顔認証
© 2023 Avinton | All Rights Reserved | プライバシーポリシー
  • サービス
    • Avinton Data Platform
    • エッジAIカメラ
      • 自動車ナンバープレート自動認識システム
    • プライベートクラウド
    • AIサービス開発
    • AIカメラ/画像解析無料体験版
  • 最新情報
    • ニュースリリース&イベント情報
    • 技術ブログ&インタビュー
  • アカデミー
    • Avintonアカデミー
    • Academy on Campus
    • Academy with Platform
  • 採用情報
    • Avintonジャパン 採用ページ
    • 求人一覧
    • よくある質問
    • 新卒採用
  • 企業情報
    • 会社概要
    • 代表からご挨拶
    • SDGsへの貢献
  • お問い合わせ
  • 日本語
    • English (英語)
Avinton Japan