• 日本語
    • English (英語)
Avinton JapanAvinton JapanAvinton JapanAvinton Japan
  • サービス
    • Avinton Data Platform
    • エッジAIカメラ
      • 自動車ナンバープレート自動認識システム
    • プライベートクラウド
    • AIサービス開発
    • AIカメラ/画像解析無料体験版
  • 最新情報
    • ニュースリリース&イベント情報
    • 技術ブログ&インタビュー
  • アカデミー
    • Avintonアカデミー
    • Academy on Campus
    • Academy with Platform
  • 採用情報
    • Avintonジャパン 採用ページ
    • 求人一覧
    • よくある質問
    • 新卒採用
  • 企業情報
    • 会社概要
    • 代表からご挨拶
    • SDGsへの貢献
  • お問い合わせ

Kubernetesクラスター上へのOpenVINOモデルサーバーを使用したサンプルアプリケーションのデプロイ

  • ルーティング
  • データベースの命名規則
  • 三目並べ – 2.〇×を交互にゲーム盤に入るようにしよう
  • 三目並べ – 3.勝敗がつくようにしよう
  • クリーンコード(Clean Code)
  • 三目並べ – 4.「スタート」「リセット」ボタンをつけよう
  • 三目並べ – 5.先攻後攻を決めて、コンピュータ対戦にしよう(前編)
  • インフラストラクチャー(サーバー、コンポーネント、RAID)
  • 機械学習入門者向け Support Vector Machine (SVM) に触れてみる
  • YOLOv8を用いた物体検出
  • 正規表現とパイプ
  • 機械学習エンジニアに必要なスキル
  • 軽量版Kubernetesディストリビューション – k0s クラスターの構築
  • ファイル操作コマンド
  • グループとユーザー
  • 困った時に使うコマンド
  • 一般グループのユーザーとグループ
  • プライバシーポリシー
  • 三目並べ – 6.先攻後攻を決めて、コンピュータ対戦にしよう(後編)
  • フロントエンド開発のための環境構築
  • ファイル検索コマンド
  • 質問
  • 仮想化環境のディスク容量を拡張する
  • ユーザー権限とアクセス権
  • データ分析基礎 – Part1
  • 三目並べ – 0.導入
  • テキスト処理
  • データベースへのデータロード
  • 機械学習概要1
  • 機械学習入門者向け Naive Bayes(単純ベイズ)アルゴリズムに触れてみる
  • ファイル管理
  • SSHを使用してホストOSからゲストOSに接続する
  • 機械学習入門者向け ChainerRLでブロック崩しの学習
  • 機械学習入門者向け ランダムフォレストによる Kaggle Titanic生存者予測
  • 機械学習概要2
  • データ分析基礎 – Part 2
  • 機械学習入門者向け 分類と回帰の違いをプログラムを書いて学ぼう
  • フロントエンドのWeb開発について
  • ダイナミックルーティング
  • 三目並べ – 1.ゲーム盤を作ろう
  • 【Python入門】Python Numpy チュートリアル
  • Amazon EC2 インスタンスの初期設定をしよう
  • AmazonEC2とVPCでネットワークとサーバーを構築しよう
  • Apache NiFi Exercise
  • Apache NiFi データパイプライン基礎
  • Apache NiFiの環境設定
  • Apache Spark 基礎
  • Apache SparkとApache Zeppelinの概要と環境構築
  • Apache Superset maptoolの使い方
  • Apache Superset 基礎
  • Apache Superset 概要と環境構築
  • Apache Zeppelin 基本機能
  • APIのデモンストレーション
  • Avinton Academy コンテンツガイド
  • AWS CLIをインストールしてコマンド操作しよう
  • AWS CLIを使ってEC2のファイルをS3へアップロードしよう
  • AWS Route 53を使って独自ドメインのWebページを表示させてみよう
  • AWSアカウントの作成と必ずやるべきセキュリティ対策
  • AWSのEC2インスタンスでWordPressブログを公開してみよう
  • AWS入門者向け 初心者が最初に理解すべきEC2とVPCの基本的な用語解説
  • CCNA
  • Certbotを使ってSSL証明書を発行し、HTTP通信を暗号化しよう
  • CISCO 1800ルータセットアップ
  • CSV import & export – Node.js, mySQL – 1
  • CSV import & export – Node.js, mySQL – 2
  • Docker Compose(Nginx + Flask + MySQL)演習
  • Docker Engineのubuntu上へのinstall
  • Docker 概要とセットアップ
  • Docker, Kubernetesの学び方について
  • Dockerコンテナイメージの最適化/ベストプラクティス
  • DockerとApacheを使ってWebサーバーを構築しよう
  • EC2からS3へ自動でぽいぽいアップロードするスクリプトの作成
  • ESP32-CAMのサンプルアプリケーションを実行する
  • 01 – Sparkfun Inventor’s Kit の準備
  • 02 – Sparkfun Inventor’s KitでLチカ
  • 03 ポテンショメータでLEDの点滅間隔をアナログ入力する
  • 04 フォトレジスタで明るさに反応するシステムをつくる
  • 05 LCDに文字列を表示する
  • 06 – BME280とLCDを組み合わせて温度計をつくる
  • ESP32とArduino IDE/PlatfromIOでHello Worldアプリケーションの実行
  • ESP32と超音波センサー HC-SR04 で物体の距離を計測する
  • ESXi – Switchの追加とVLAN
  • ESXi – VyOS
  • ESXi – 小規模ネットワーク 構築
  • Gitとは
  • VS CodeでGitHub Copilotを設定する
  • VSCode リモート開発環境
  • GNS3のセットアップ
  • Kubernetesクラスター上へのOpenVINOモデルサーバーを使用したサンプルアプリケーションのデプロイ
  • Linuxとは
  • NAT
  • NodeJSでWebアプリケーション開発 – React編
  • NodeJSでWebアプリケーション開発 – React編
  • NodeJSでWebアプリケーション開発 – React編
  • NodeJSでWebアプリケーション開発 – Socket.IO編
  • NVIDIA Cumulus VX + GNS3でBGPネットワークのシミュレーション
  • OpenCVのテストプログラム
  • PacketTracerのセットアップ
  • Pandasによる構造化データ分析
  • PCからルータ、スイッチへのSSH接続設定
  • PostGIS exercise
  • PostgreSQL – Python – Apache – Bootstrap
  • MySQLとMySQL Workbench のセットアップ
  • PostgreSQL Setup
  • PostgreSQL – インデックスを利用したパフォーマンス改善方法
  • PostgreSQL – パーティショニングを利用したパフォーマンス改善方法
  • PostgreSQLによるデータ分析
  • postgreSQLへのshp fileのimport
  • Python2.7とOpenCVのインストール
  • Python3.8 と OpenCV のインストール (Ubuntu20.04LTS)
  • Pythonでデータベースを操作する
  • Pythonで画像を分類するプログラムを作成する
  • Pythonによるマルチスレッドプログラミング実践
  • Raspberry Pi 4B のセットアップ
  • Raspberry PiとBME280を使用して温度と湿度、気圧を読み取る
  • REDIS
  • Redux基礎 – 主要な概念と用語
  • Ruby on Rails を MySQLでセットアップ
  • Ruby on Railsによる簡単なウェブアプリケーション
  • SampleアプリケーションのKubernetes上へのデプロイ
  • Scala 基礎
  • scikit-learnとは
  • Spark SQL エクササイズ
  • SparkMLによるKaggle Titanic生存者予測
  • SparkMLによる住宅価格予測
  • SQL 便利な関数
  • Ubuntuの基本設定
  • uhubctlでUSBデバイスのオンオフをコントロール
  • Terraform入門 2 – Terraformのstate管理
  • Terraform入門 1 – TerraformでAWS上にEC2インスタンスを作成する
  • Virtualisation and Container (仮想化とコンテナ) – Ansible, Docker and Kubernetes
  • viエディタ
  • VLAN
  • VMware ESXi サーバー構築
  • Webアプリ開発に欠かせないGoogle Chrome DevToolsの基本
  • Windows Server 2012 R2 Hyper-V
  • YOLOv5を用いた物体検出
Home Avintonアカデミー Kubernetesクラスター上へのOpenVINOモデルサーバーを使用したサンプルアプリケーションのデプロイ
Kubernetes logo
OpenVino Logo

こちらのk0sクラスターの構築チュートリアルの続きとして、Kubernetesクラスター上にサンプルアプリケーションをデプロイしましょう。このチュートリアルはk0s以外の任意のKubernetesクラスター上でも実行できます。

本チュートリアルの対象者は、以下のような学習者です。作業自体の所要時間は1.5時間程度です。

  • DockerやKubernetesについての基礎知識がある
  • Kubernetesクラスターの構築経験がある(CRI, CNI, CSIなどをある程度理解している)
  • Dockerでアプリケーションのビルドをしたことがある

必要なもの:

  • インターネット接続のあるKubernetesクラスターノード
    • スタンドアロンクラスターの場合は、4GB memory + 4 CPU以上
  • Dockerコマンドを利用できるビルド環境

タスク概要

以下のサンプルアプリケーションのデプロイを行ってください。

  • https://github.com/valentincanonical/colouriser-demo

完成品:
以下のようなページにアクセスし、モノクロ画像を色付きの画像に変更できれば成功です。

Kubernetesクラスター上へのOpenVINOモデルサーバーを使用したサンプルアプリケーションのデプロイ

アプリケーションの詳細については、こちらのブログシリーズで説明されています。

  • How to colourise black & white pictures: OpenVINO™ on Ubuntu containers demo (Part 1)
  • How to colourise black & white pictures with OpenVINO™ on Ubuntu containers (Part 2)

以下の順に進めてください。

1. PV/PVC(Persistent Volume/Persistent Volume Claim)を利用できるようにセットアップする
2. Docker registryをデプロイする
3. Kubernetes clusterが2で構築したDocker registryからイメージをプルできるように設定する
4. colouriser-demoアプリケーションをビルドし、Docker registryにpushする
5. colouriser-demoをkubernetesクラスター上にデプロイする
6. Web UIからアクセスしてモノクロ画像の変換をテストする

1. PV/PVCを利用できるようにセットアップする

Kubernetesクラスターでは、DBなどのステートフルなアプリケーションのデータの保存先として、PV/PVC(Persistent Volume/ Persistent Volume Claim)を利用します。Docker Registryにpushしたイメージが外部のボリュームに保存されるように、PV/PVCを利用できるようにクラスターを設定します。

任意のVolumeストレージを利用できるように設定してください。k0sクラスターでは、こちらのページにしたがってOpenEBSを有効化し、hostpathでPVCを作成できるようにします。

設定完了後、以下のコマンドでdefaultのストレージクラスが表示されれば成功です。

1
kubectl get storageclass

2. Docker registryをデプロイする

colouriser-demoアプリケーションでは、アプリケーションのバックエンド、フロントエンド、モデルサーバーのコンテナイメージをビルドします。ビルドしたイメージの保存先として、Private Docker RegistryをKubernetesクラスター上に構築してください。

次のHelmチャートが利用可能です。

  • https://github.com/twuni/docker-registry.helm

HelmはKubernetesクラスターにおけるパッケージマネージャです。アプリケーションに必要なリソースをパッケージ化し、設定やデプロイなどを自動化するためのツールです。チャートと呼ばれるパッケージと設定を定義したYAMLファイルを利用して、Kubernetesクラスター上に簡単にアプリケーションをデプロイすることができます。

このページからHelmコマンドをインストールしてください。

なお、構築したDocker RegistryのPodがリスタート後もデータを保持できるように、PVCをマウントしていることを確認してください。

3. Kubernetes clusterがDocker registryからイメージをプルできるように設定する

使用しているCRIにあわせて、以前の手順で構築したPrivate Docker registryからイメージをpullできるように設定してください。

  • containerd: https://github.com/containerd/containerd/blob/main/docs/cri/registry.md

4. colouriser-demoアプリケーションをビルドし、Docker registryにpushする

colouriser-demoのGithubレポジトリのこちらの説明を参考にして、イメージをビルドしてください。 なお、pushするdocker registryにあわせて、タグを変更してください。

2023年6月現在、元のレポジトリのDockerfileにはいくつかのバグがあり、正しく動作しません。
以下の修正を適用して、Dockerイメージをビルドしてください。

  • Frontend の Dockerfile にて base image のタグを node:18.6 に固定
  • Backend の requirement.txt にて numpy のバージョン指定を削除

5. colouriser-demoをkubernetesクラスター上にデプロイする

colouriser-demoのGithubレポジトリのこちらのページを参考にデプロイを行ってください。

6. Web UIからアクセスしてモノクロ画像の変換をテストする

デフォルトでは、Node Portを使用して、port 30000番でアプリケーションが公開されます。別のポートを使用したい場合は、デプロイしたServiceを編集してください。

ブラウザでhttp://<host-ip-address>:30000にアクセスします。

Kubernetesクラスター上へのOpenVINOモデルサーバーを使用したサンプルアプリケーションのデプロイ

モノクロのイメージをアップロードし、推論の結果を待ちます。 以下のように色付きの画像が出力されたら成功です。

Kubernetesクラスター上へのOpenVINOモデルサーバーを使用したサンプルアプリケーションのデプロイ注意点: backendはタイムアウトでエラーを出す場合があります。(デフォルトで10秒)Podのログとbackendのpythonスクリプトを調べて、タイムアウト時間を延長しましょう。

以下、ovmsclientに関するドキュメントです。

  • ovmsclient python library
    • https://docs.openvino.ai/latest/ovms_client_python_lib_readme.html
  • predictメゾットについて
    • https://github.com/openvinotoolkit/model_server/blob/releases/2022/1/client/python/ovmsclient/lib/docs/grpc_client.md#method-predict

あなたも、Avintonでこのような最先端技術を習得し活用してみませんか?

社員の成長を導きながら、AIやビッグデータなどの最先端技術をプロジェクトに活用していくことが私たちのビジョンです。Avintonの充実した技術研修でスキルアップを図り、あなたのキャリア目標を一緒に達成しませんか?

採用情報

採用情報

採用情報

Categories

  • 相互学習
  • 採用
  • 社員インタビュー
  • 学習&資格取得
  • 技術解説
  • イベント告知
  • 学内説明会&講義
  • 産学連携
  • 就職活動
  • イベントレポート
  • その他
  • 技術ブログ&インタビュー
  • mainpage
  • New Graduates Interviews
  • 中途エンジニア
  • カテゴリーなし
  • ニュースリリース&イベント

Avinton SDGs

SDGsへの貢献

Search

タグ

albumentations Apache AvintonAcademy on Campus DQN FINOLAB Fintech Flutter IoT IoT James Cauchi LPIC LPIC-2 MVI試験 PostgreSQL Predictive Maintenance Raspberry Pi Society 5.0 Sound Analysis SSD インターン インターンシップ インフラ エリクソン クラウトネイティブ サーバークラスター スマート農業 セミナー データ データ生成 データ解析 ファンダフルリレーマラソン モブワーク 中瀬幸子 企業説明会 大学&専門学校 強化学習、機械学習 技術ブログ 採用 未経験 機械学習 環境構築 田中 研之輔 研究開発 第一級陸上特殊無線技士 講義
© 2023 Avinton | All Rights Reserved | プライバシーポリシー
  • サービス
    • Avinton Data Platform
    • エッジAIカメラ
      • 自動車ナンバープレート自動認識システム
    • プライベートクラウド
    • AIサービス開発
    • AIカメラ/画像解析無料体験版
  • 最新情報
    • ニュースリリース&イベント情報
    • 技術ブログ&インタビュー
  • アカデミー
    • Avintonアカデミー
    • Academy on Campus
    • Academy with Platform
  • 採用情報
    • Avintonジャパン 採用ページ
    • 求人一覧
    • よくある質問
    • 新卒採用
  • 企業情報
    • 会社概要
    • 代表からご挨拶
    • SDGsへの貢献
  • お問い合わせ
  • 日本語
    • English (英語)
Avinton Japan