• 日本語
    • English (英語)
Avintonジャパン株式会社Avintonジャパン株式会社Avintonジャパン株式会社Avintonジャパン株式会社
  • サービス
    • Avinton Data Platform
    • エッジAIカメラ
    • プライベートクラウド
    • AIサービス開発
    • AI画像解析 – 無償PoC
  • 最新情報
    • ニュースリリース&イベント情報
    • 技術ブログ&インタビュー
  • アカデミー
    • Avintonアカデミー
    • Academy on Campus
  • 採用情報
    • Avintonで働く魅力
    • 新卒採用
    • プロジェクトコーディネーター職紹介
    • 求人
    • よくある質問
  • 企業情報
    • 会社概要
    • 代表からご挨拶
    • SDGsへの貢献
  • お問い合わせ

Kubernetesクラスター上へのOpenVINOモデルサーバーを使用したサンプルアプリケーションのデプロイ

  • Python3.8 と OpenCV のインストール (Ubuntu20.04LTS)
  • ルーティング
  • postgreSQLへのshp fileのimport
  • NAT
  • PostGIS exercise
  • 三目並べ – 2.〇×を交互にゲーム盤に入るようにしよう
  • Docker 概要とセットアップ
  • 三目並べ – 3.勝敗がつくようにしよう
  • Docker Engineのubuntu上へのinstall
  • EC2からS3へ自動でぽいぽいアップロードするスクリプトの作成
  • 三目並べ – 4.「スタート」「リセット」ボタンをつけよう
  • 三目並べ – 5.先攻後攻を決めて、コンピュータ対戦にしよう(前編)
  • Apache Zeppelin 基本機能
  • Ruby on Rails を MySQLでセットアップ
  • 機械学習入門者向け Support Vector Machine (SVM) に触れてみる
  • AWSアカウントの作成と必ずやるべきセキュリティ対策
  • Scala 基礎
  • VLAN
  • Apache Spark 基礎
  • 機械学習を用いた画像分類
  • Ruby on Railsによる簡単なウェブアプリケーション
  • 正規表現とパイプ
  • 機械学習エンジニアに必要なスキル
  • Docker, Kubernetesの学び方について
  • Ubuntuの基本設定
  • PostgreSQL Setup
  • REDIS
  • Amazon EC2 インスタンスの初期設定をしよう
  • 軽量版Kubernetesディストリビューション – k0s クラスターの構築
  • Pythonの設定
  • GNS3のセットアップ
  • viエディタ
  • AWSのEC2インスタンスでWordPressブログを公開してみよう
  • Pythonでデータベースを操作する
  • Python2.7とOpenCVのインストール
  • ファイル操作コマンド
  • OpenCVのテストプログラム
  • グループとユーザー
  • Pythonで画像を分類するプログラムを作成する
  • AWS CLIをインストールしてコマンド操作しよう
  • Virtualisation and Container (仮想化とコンテナ) – Ansible, Docker and Kubernetes
  • Windows Server 2012 R2 Hyper-V
  • 困った時に使うコマンド
  • SparkMLによるKaggle Titanic生存者予測
  • PacketTracerのセットアップ
  • 一般グループのユーザーとグループ
  • AWS Route 53を使って独自ドメインのWebページを表示させてみよう
  • Kubernetesクラスター上へのOpenVINOモデルサーバーを使用したサンプルアプリケーションのデプロイ
  • プライバシーポリシー
  • VMware ESXi サーバー構築
  • 三目並べ – 6.先攻後攻を決めて、コンピュータ対戦にしよう(後編)
  • フロントエンド開発のための環境構築
  • フロントエンドのデモンストレーション
  • APIのデモンストレーション
  • CISCO 1800ルータセットアップ
  • ファイル検索コマンド
  • ESXi – Switchの追加とVLAN
  • 質問
  • 仮想化環境のディスク容量を拡張する
  • ユーザー権限とアクセス権
  • 三目並べ – 0.導入
  • テキスト処理
  • ESXi – VyOS
  • データベースへのデータロード
  • 機械学習入門者向け Naive Bayes(単純ベイズ)アルゴリズムに触れてみる
  • CCNA
  • ESXi – 小規模ネットワーク 構築
  • ファイル管理
  • 機械学習入門者向け ChainerRLでブロック崩しの学習
  • AWS CLIを使ってEC2のファイルをS3へアップロードしよう
  • Apache NiFiの環境設定
  • CSV import & export – Node.js, mySQL – 1
  • 機械学習入門者向け ランダムフォレストによる Kaggle Titanic生存者予測
  • NodeJSでWebアプリケーション開発 – Socket.IO編
  • CSV import & export – Node.js, mySQL – 2
  • Apache NiFi データパイプライン基礎
  • PCからルータ、スイッチへのSSH接続設定
  • 【Python入門】Python Numpy チュートリアル
  • SQL 便利な関数
  • PostgreSQLによるデータ分析
  • Apache NiFi Exercise
  • 機械学習入門者向け 分類と回帰の違いをプログラムを書いて学ぼう
  • NodeJSでWebアプリケーション開発 – React編
  • Pythonによるマルチスレッドプログラミング実践
  • Apache SparkとApache Zeppelinの概要と環境構築
  • Certbotを使ってSSL証明書を発行し、HTTP通信を暗号化しよう
  • DockerとApacheを使ってWebサーバーを構築しよう
  • NodeJSでWebアプリケーション開発 – React編
  • Redux基礎 – 主要な概念と用語
  • AmazonEC2とVPCでネットワークとサーバーを構築しよう
  • AWS入門者向け 初心者が最初に理解すべきEC2とVPCの基本的な用語解説
  • Linuxとは
  • Pandasによる構造化データ分析
  • ダイナミックルーティング
  • PostgreSQL – Python – Apache – Bootstrap
  • 三目並べ – 1.ゲーム盤を作ろう
Home Avintonアカデミー Kubernetesクラスター上へのOpenVINOモデルサーバーを使用したサンプルアプリケーションのデプロイ
Kubernetes logo
OpenVino Logo

こちらのk0sクラスターの構築チュートリアルの続きとして、Kubernetesクラスター上にサンプルアプリケーションをデプロイしましょう。このチュートリアルはk0s以外の任意のKubernetesクラスター上でも実行できます。

本チュートリアルの対象者は、以下のような学習者です。作業自体の所要時間は1.5時間程度です。

  • DockerやKubernetesについての基礎知識がある
  • Kubernetesクラスターの構築経験がある(CRI, CNI, CSIなどをある程度理解している)
  • Dockerでアプリケーションのビルドをしたことがある

必要なもの:

  • インターネット接続のあるKubernetesクラスターノード
    • スタンドアロンクラスターの場合は、4GB memory + 4 CPU以上
  • Dockerコマンドを利用できるビルド環境

タスク概要

以下のサンプルアプリケーションのデプロイを行ってください。

  • https://github.com/valentincanonical/colouriser-demo

完成品:
以下のようなページにアクセスし、モノクロ画像を色付きの画像に変更できれば成功です。

Kubernetesクラスター上へのOpenVINOモデルサーバーを使用したサンプルアプリケーションのデプロイ

アプリケーションの詳細については、こちらのブログシリーズで説明されています。

  • How to colourise black & white pictures: OpenVINO™ on Ubuntu containers demo (Part 1)
  • How to colourise black & white pictures with OpenVINO™ on Ubuntu containers (Part 2)

以下の順に進めてください。

1. PV/PVC(Persistent Volume/Persistent Volume Claim)を利用できるようにセットアップする
2. Docker registryをデプロイする
3. Kubernetes clusterが2で構築したDocker registryからイメージをプルできるように設定する
4. colouriser-demoアプリケーションをビルドし、Docker registryにpushする
5. colouriser-demoをkubernetesクラスター上にデプロイする
6. Web UIからアクセスしてモノクロ画像の変換をテストする

1. PV/PVCを利用できるようにセットアップする

Kubernetesクラスターでは、DBなどのステートフルなアプリケーションのデータの保存先として、PV/PVC(Persistent Volume/ Persistent Volume Claim)を利用します。Docker Registryにpushしたイメージが外部のボリュームに保存されるように、PV/PVCを利用できるようにクラスターを設定します。

任意のVolumeストレージを利用できるように設定してください。k0sクラスターでは、こちらのページにしたがってOpenEBSを有効化し、hostpathでPVCを作成できるようにします。

設定完了後、以下のコマンドでdefaultのストレージクラスが表示されれば成功です。

1
kubectl get storageclass

2. Docker registryをデプロイする

colouriser-demoアプリケーションでは、アプリケーションのバックエンド、フロントエンド、モデルサーバーのコンテナイメージをビルドします。ビルドしたイメージの保存先として、Private Docker RegistryをKubernetesクラスター上に構築してください。

次のHelmチャートが利用可能です。

  • https://github.com/twuni/docker-registry.helm

HelmはKubernetesクラスターにおけるパッケージマネージャです。アプリケーションに必要なリソースをパッケージ化し、設定やデプロイなどを自動化するためのツールです。チャートと呼ばれるパッケージと設定を定義したYAMLファイルを利用して、Kubernetesクラスター上に簡単にアプリケーションをデプロイすることができます。

このページからHelmコマンドをインストールしてください。

なお、構築したDocker RegistryのPodがリスタート後もデータを保持できるように、PVCをマウントしていることを確認してください。

3. Kubernetes clusterがDocker registryからイメージをプルできるように設定する

使用しているCRIにあわせて、以前の手順で構築したPrivate Docker registryからイメージをpullできるように設定してください。

  • containerd: https://github.com/containerd/containerd/blob/main/docs/cri/registry.md

4. colouriser-demoアプリケーションをビルドし、Docker registryにpushする

colouriser-demoのGithubレポジトリのこちらの説明を参考にして、イメージをビルドしてください。 なお、pushするdocker registryにあわせて、タグを変更してください。

5. colouriser-demoをkubernetesクラスター上にデプロイする

colouriser-demoのGithubレポジトリのこちらのページを参考にデプロイを行ってください。

6. Web UIからアクセスしてモノクロ画像の変換をテストする

デフォルトでは、Node Portを使用して、port 30000番でアプリケーションが公開されます。別のポートを使用したい場合は、デプロイしたServiceを編集してください。

ブラウザでhttp://<host-ip-address>:30000にアクセスします。

Kubernetesクラスター上へのOpenVINOモデルサーバーを使用したサンプルアプリケーションのデプロイ

モノクロのイメージをアップロードし、推論の結果を待ちます。 以下のように色付きの画像が出力されたら成功です。

Kubernetesクラスター上へのOpenVINOモデルサーバーを使用したサンプルアプリケーションのデプロイ注意点: backendはタイムアウトでエラーを出す場合があります。(デフォルトで10秒)Podのログとbackendのpythonスクリプトを調べて、タイムアウト時間を延長しましょう。

以下、ovmsclientに関するドキュメントです。

  • ovmsclient python library
    • https://docs.openvino.ai/latest/ovms_client_python_lib_readme.html
  • predictメゾットについて
    • https://github.com/openvinotoolkit/model_server/blob/releases/2022/1/client/python/ovmsclient/lib/docs/grpc_client.md#method-predict

あなたも、Avintonでこのような最先端技術を習得し活用してみませんか?

社員の成長を導きながら、AIやビッグデータなどの最先端技術をプロジェクトに活用していくことが私たちのビジョンです。Avintonの充実した技術研修でスキルアップを図り、あなたのキャリア目標を一緒に達成しませんか?

採用情報

採用情報

採用情報

Avinton SDGs

SDGsへの貢献

Search

タグ

AI AI Big Data Big Data ccna Digital Transformation DX IoT IoT LPIC Python Ruby SDGs Webエンジニア イベント インタビュー インフラエンジニア エンジニア オンラインセミナー キャリアチェンジ コンテナ技術 サーバーエンジニア システム開発 データサイエンス データベース データ分析 データ解析 ネットワークエンジニア ビックデータ 人工知能 仮想化 勉強会 営業 就職活動 技術インターン 採用 新卒 新卒採用 新規事業 機械学習 派遣 深層学習 社員インタビュー 経営者交流会 転職
© 2022 Avinton | All Rights Reserved | プライバシーポリシー
  • サービス
    • Avinton Data Platform
    • エッジAIカメラ
    • プライベートクラウド
    • AIサービス開発
    • AI画像解析 – 無償PoC
  • 最新情報
    • ニュースリリース&イベント情報
    • 技術ブログ&インタビュー
  • アカデミー
    • Avintonアカデミー
    • Academy on Campus
  • 採用情報
    • Avintonで働く魅力
    • 新卒採用
    • プロジェクトコーディネーター職紹介
    • 求人
    • よくある質問
  • 企業情報
    • 会社概要
    • 代表からご挨拶
    • SDGsへの貢献
  • お問い合わせ
  • 日本語
    • English (英語)
Avintonジャパン株式会社