iot@Loft#14-LT4-AI /機械学習に活用できる AWSのエッジソリューションのご紹介

© 2020, Amazon Web Services, Inc. or its Affiliates.
嶺行伸
ソリューションアーキテクト
デジタルトランスフォーメーション本部
アマゾンウェブサービスジャパン株式会社
AI /機械学習に活用できる
AWSのエッジソリューションのご紹介

自己紹介
嶺⾏伸 (みねゆきのぶ)
デジタルトランスフォーメーション本部
IoTソリューションアーキテクト
IoTの導⼊やPoC段階のご⽀援を担当
主に製造系のお客様のご⽀援をメインに活動中
好きなAWSサービス
AWS Lambda / AWS IoT Greengrass

アジェンダ
• IoTにおける機械学習のユースケース
• エッジデバイスでの機械学習が必要なケースと要件
• AWSのエッジソリューションのご紹介
• アーキテクチャ例
• まとめ

IoTシステムの進化のステップ
接続
モニタリング・
可視化
分析・制御
⾃律化・効率化
ROI
成熟度
難易度
1 2 3 4

機械学習による自律化がトレンドに
接続
モニタリング・
可視化
分析・制御
⾃律化・効率化
ROI
成熟度
難易度
1 2 3 4
機械学習の活用
により実現

IoTにおける機械学習のユースケース
外観検査来客分析顔認証
商品検索
行動分析
異常検知コンテキスト
解析
需要予測予知保全

エッジデバイスでの機械学習が必要になるケース
レイテンシの制約通信コストオフライン対応セキュリティ
コンプライアンス
機械学習を導入する際、次の要件がある場合には、
推論をクラウドではなく、エッジで行うことを検討する必要がある

エッジデバイスでの機械学習に必要な要素

AWSの処理機能をデバイスの上に拡張
処理を
クラウドで実⾏
処理を
ローカルで実⾏
Moving to the edge
AWS IoT Greengrass
開発、アップデート
任意のデバイスで
処理を実⾏

工場におけるAWS IoT Greengrassの役割
工場
OPC−UA
サーバ
生産設備
IoT システム
直接クラウドと通信
できない既存設備の
データを収集
AWS IoT
Greengrass
推論や制御を実行
(オフライン時も動作を継続)
データを一次処理し
てクラウドに送信
制御ロジックを遠隔
アップデート、監視
(機械学習のモデル
の配信もサポート)
システム運⽤者

エッジでの既存機器のデータ収集
OPC
サーバ
PLC
Camera
Sensor
AWS IoT
Greengrass
⼯場
OPC-UA
OPC-DA
RTSP
USB
MQTTs
GPIO
Modbus RTU/TCP
SLMP
外付けセンサ
画像、動画
設備データ
集約された
設備データ
様々なプロトコルで既存機器と通信してデータを収集
広く使われているプロトコルはノンコーディングで利用可能

3rd party protocol conversion
B社製PLC
OPC-UA
MQTT
AWS IoT
Greengrass
⼯場
A社製PLC
C社製PLC
3rd Party
Gateway SW
(EdgeCross,
KepServerEX, etc)
Protocol A
Protocol B
Protocol C
各社のPLCのデータを汎用的なプロトコルに変換する
サードパーティーのGW製品との連携も可能

クラウドからプログラムを配信・運用
工場 A
AWS IoT
Greengrass (Core)
工場 B
AWS IoT
Greengrass (Core)
PLC
システム運⽤者
異常検知
処理
AWS IoT
Greengrass (Service)
Logs
Amazon Cloudwatch
PLC
• AWS Lambda で開発したプログラムを配信してエッジで実行
• 現地に行く事なく機能のアップデート・ログ監視等の運用が可能

クラウドと Greengrass の Lambda 実行環境の違い
On Cloud On Greengrass
実⾏環境 Amazon Linux GGC がインストールされているデバ
イスに依存
プログラミング⾔語 Node.js
Java
Python
.NET Core
and more…
Node.js: v6 / v8 / v12
Python: 3.7 / 2.7
Java: 8
C, C++
イベントソース S3, DynamoDB, Kinesis, …(*1) Local MQTT, GGC 起動時に⾃動起動
タイムアウト設定最⼤ 900s 上限なし (常駐を指定可能)
メモリ設定最⼩ 128MB 最⼤ 3008MB 上限なし (デバイスに依存)
ローカルリソースアクセス
(デバイス or ボリューム)
不可可 (ホワイトリスト⽅式)
課⾦実⾏回数と実⾏時間、割り当てたメモリ量
に応じて課⾦
無料(*2)
*1: https://docs.aws.amazon.com/ja_jp/lambda/latest/dg/invoking-lambda-function.html
*2: Greengrass ⾃体の課⾦は発⽣します

クラウドへのデータ送信
AWS IoT Core
Amazon Kinesis
Amazon S3
AWS IoT Analytics
MQTTs
Https
Https
HttpsAWS IoT
Greengrass
AWS クラウド
ニアリアルタイムデータ
ストリームデータ
画像、ファイル
マイクロバッチ
⼯場
• データレイクでの分析やモデルの再学習のため、クラウドにデータを自動送信
• データの種別に応じて適切なサービスを選択可能

オフライン対応
• オフラインになってもエッジでの処理は継続
• クラウドにアップロードすべきデータはキャッシュして、オンラインになっ
たタイミングで順次アップロード
生産設備
Local
Lambda
アラート
データ
工場
AWS IoT Core
Amazon Kinesis
AWS IoT Analytics
AWS クラウド
データ
Greengrass Core
オフライン
キャッシュ

AWS IoT Greengrass ML Inference
クラウドで学習したモデルを
簡単にデプロイし、
エッジで機械学習の推論を⾏う
Actuators
Sensors
AWS IoT
Greengrass Core
Amazon
SageMaker
AWS Lambda
AWS IoT
Greengrass
Service
推論結果
Local
Lambda
ML
Model
推論して
ローカルで
アクション

エッジデバイスでの機械学習に必要な要素
エッジデバイスへのモデルのデプロイ
エッジでのデータ収集
エッジでの推論
エッジでのアクション
クラウドへのデータ転送

Amazon SageMaker
フルマネージドのホ
スティング
＆⾃動スケール
One-click
デプロイメント
よくあるシナ
リオ向けの
ノートブック
の提供
⾼いパフォーマ
ンスのビルトイ
ンアルゴリズム
One-click
トレーニング
ハイパーパラメー
タの最適化
開発学習推論
データサイエンティストや開発者が
容易に機械学習モデルを開発・活⽤するための
マネージドサービス

Amazon SageMaker Neo
• Tensorflow や PyTorch などのモデルを、 EC2 インスタンスや
Greengrass デバイス上で高速に動作するように変換するサービス
• 従来のDeep Learning フレームワークが 500MB-1GB 程度であるのに対
し、Amazon SageMaker Neo Runtime は 1MB 程度

Amazon SageMaker Ground Truth
• データにラベル (Ground Truth) を付与するアノテーションを支援
• 以下の4タスクにはテンプレートが用意されており、自作も可能
• ラベルを付与するワーカーは、Amazon Mechanical Turk、外部ベン
ダ、自社のチームの3種類から選択可能
画像のラベルラベルと位置文章のラベルピクセル単位のラベル

アーキテクチャ例

エッジ推論のアーキテクチャ例
Actuator
Camera
Edge AWS Cloud
Amazon
QuickSight
Amazon SageMaker
Image
Analysis
ML Model
AWS IoT Core
S3
AWS IoT Analytics
AWS Lambda Amazon SageMaker
Ground Truth
Neo
Runtime Labelers
AWS IoT Greengrass

Actuator
Camera
Edge AWS Cloud
Amazon
QuickSight
Amazon SageMaker
Image
Analysis
ML Model
AWS IoT Core
S3
AWS IoT Analytics
Ground Truth
Neo
Runtime Labelers
1. 蓄積したデータと SageMaker
Ground Truth で付与したラベル
から学習してモデルを⽣成
AWS IoT Greengrass

Actuator
Camera
Edge AWS Cloud
Amazon
QuickSight
Amazon SageMaker
Image
Analysis
ML Model
AWS IoT Core
S3
AWS IoT Analytics
Ground Truth
Neo
Runtime Labelers
2. 学習したモデルを
SageMaker Neo で
コンパイルして
Greengrass にデプロイ
AWS IoT Greengrass

AWS IoT Greengrass
Actuator
Camera
Edge AWS Cloud
Amazon
QuickSight
Amazon SageMaker
Image
Analysis
ML Model
AWS IoT Core
S3
AWS IoT Analytics
Ground Truth
Neo
Runtime Labelers
3. Camera から
の画像データを
エッジで推論

AWS IoT Greengrass
Actuator
Camera
Edge AWS Cloud
Amazon
QuickSight
Amazon SageMaker
Image
Analysis
ML Model
AWS IoT Core
S3
AWS IoT Analytics
Ground Truth
Neo
Runtime Labelers
4. 推論結果のみアップ
ロードして BI で可視化・
定期チェック
低レイテンシが必要な
アクションを実⾏

AWS IoT Greengrass
Actuator
Camera
Edge AWS Cloud
Amazon
QuickSight
Amazon SageMaker
Image
Analysis
ML Model
AWS IoT Core
S3
AWS IoT Analytics
Ground Truth
Neo
Runtime Labelers
5. エッジで精度が低
かった画像データを再
学習⽤にアップロード、
ラベリングを依頼

AWS IoT Greengrass
Actuator
Camera
Edge AWS Cloud
Amazon
QuickSight
Amazon SageMaker
Image
Analysis
ML Model
AWS IoT Core
S3
AWS IoT Analytics
Ground Truth
Neo
Runtime Labelers
6. 精度が低かった画像と正しい
ラベルを含めたデータセットで再
学習することで精度改善

まとめ
• 外観検査など、現場課題への機械学習ソリューションの導入にはエッ
ジ推論が適している
• エッジ推論では、エッジデバイスでのデータ収集と推論、データや推
論結果のクラウドへの送信、クラウドでの推論モデル開発と精度改
善、エッジへのデプロイ、といったサイクルを構築する事が重要
• AWSでは、サイクルの構築に必要なサービスとエッジソリューション
を全て提供している

iot@Loft#14-LT4-AI /機械学習に活用できる AWSのエッジソリューションのご紹介

Recommended

More Related Content

What's hot (20)

Similar to iot@Loft#14-LT4-AI /機械学習に活用できる AWSのエッジソリューションのご紹介 (20)

More from Amazon Web Services Japan (20)

Recently uploaded (11)

iot@Loft#14-LT4-AI /機械学習に活用できる AWSのエッジソリューションのご紹介