Component

コンポーネント

ToF AR コンポーネント

ToF ARが提供するコンポーネントの概要を紹介します。詳しい説明やデータフォーマットは、
開発ガイドのToF AR reference articlesをご覧ください。

ToF

ToFカメラのDepthデータ、Confidenceデータ、PointCloudデータへのアクセス機能を提供します。

  • [主な機能]
  • データの取得
  • データの表示
  • ToFカメラのコントロール(フレームレート、露出時間の変更など)

Color

RGBカメラデータへのアクセス機能を提供します。

  • [主な機能]
  • データの取得
  • データの表示
  • RGBカメラのコントロール(解像度、オートフォーカス、自動露出、ホワイトバランスの設定など)

Plane

Depthカメラ映像内の指定ポイントを含む平面をリアルタイムに認識する機能を提供します。

  • [主な機能]
  • 平面情報の取得
  • Unityシーン内での動的オブジェクト化

最大8つまでの認識設定を一括して指定/取得できます。 nullまたは要素数0の設定リストを指定すると平面認識は実行されなくなります。

Mesh

Depthカメラ映像から3Dメッシュをリアルタイムに生成する機能を提供します。

  • [主な機能]
  • 頂点やトライアングルデータの取得
  • Unityシーン内での動的Meshオブジェクト化
  • Meshの軽量化制御
  • Segmentationコンポーネントが生成したマスク部分を除外したメッシュの生成

Coordinate

解像度が異なるDepthカメラ映像とRGBカメラ映像、3Dカメラの座標相互変換を行う機能を提供します。 コンポーネントプロパティにアクセスすることにより、変換後の座標データを取得できます。

Hand

ToFカメラ映像から人の手や指の関節の位置をリアルタイムに認識する機能を提供します。

MarkRecog

任意の2値画像内のマークを認識する機能を提供します。

  • [主な機能]
  • 画像内のマーク認識

Modeling

複数フレームに渡るToFカメラのDepthデータを蓄積し、3D Meshデータを生成する機能を提供します。

  • [主な機能]
  • 3Dモデリング処理の開始/終了
  • 3Dモデリングパラメータの設定
  • データの出力
  • Segmentationコンポーネントが生成したマスク部分を除外したメッシュの生成

ARFoundationConnector

Unity Project 上で AR Foundation と ToF AR を共存させることが可能です。この時、ToF AR は下位レイヤのカメラを直接制御せず、AR Foundation から得られる RGB や ToF カメラの出力データフレームを使用し、Hand や Body などの認識処理を動作させます。このため、アプリ開発者は AR Foundation の有無にかかわらず、 ToF AR から同じインタフェースでデータフレームを受け取れます。

Body

Body認識関連の処理を行い、認識結果データを取得する機能を提供します。

  • [主な機能]
  • ToFカメラ映像からBodyを認識
  • Body認識結果の表示
  • Bodyジェスチャーの認識

HumanDetector

Colorカメラ映像から人物部分を推定し、マスクテクスチャを作成する機能を提供します。

AR Foundation Human Stencil / Human Depth

AR FoundationからHuman Stencil データ、Human Depthデータを取得し、マスクテクスチャを作成する機能を提供します。iOSでのみ使用可能です。

Face

Face認識関連の処理を行い、認識結果データを取得する機能を提供します。

  • [主な機能]
  • AR Foundationに準拠したフォーマットのFace認識データ、BlendShapeデータ出力
  • Face認識結果の表示
  • 視線認識結果の表示

Segmentation

Segmentation認識関連の処理を行い、認識結果データを取得する機能を提供します。

  • [主な機能]
  • Colorカメラ映像から空部分を推定し、マスクテクスチャを作成(SkyDetector使用時)
  • Colorカメラ映像から人物部分を推定し、マスクテクスチャを作成(HumanDetector使用時)

SkyDetector

Colorカメラ映像から空部分の推定を行い、マスクテクスチャを作成する機能を提供します。

開発のニーズにあったToF ARを
選択できます

ToF ARは各プラットフォームが提供する機能を拡張し、より高いパフォーマンスの実現をサポートします。
下記の表より各プラットフォームごとのToF ARコンポーネントサポートをご確認いただけます。

SDK ARCore ARKit ToF AR
Developer Google Apple Sony Semiconductor Solutions Group
Platform Android iOS Android, iOS
SLAM
Plane detection
Light estimation
Face tracking
2D image tracking
3D object tracking
Meshing
2D & 3D body tracking
Human segmentation
Human segmentation ✓(Fused)
3D hand joint tracking
Hand pose recognition
Hand gesture detection

✓ = Verified from each developer's publicly accessible information.