AIと低コストのTOFセンサーの組み合わせが、人の検出や転倒検知などに利用できる可能性をPoC（Proof of Concept）の結果が証明しました。さて、次のステップは何でしょうか？それは、システムをPoCから実用製品へと発展させることです。

前回の記事はこちらです。

AIモデルを開発する（AI×IoT トイレ見守り⑤）

POC から製品化へ

このフェーズでは、主に「簡略化によるシステムコスト削減」と「インフラ」の2つの領域に焦点を当てていきます。

簡略化によるシステムコスト削減

①デバイス上での処理

注目したいのは、デバイス上での処理です。実は、AIモデルは32ビットのM4 Cortex MCU上で直接処理することが可能。これにより、コストを抑えつつも性能を高めることができます。 具体的には、STM32ビットM4 Cortex上のAIモデルは約41KBのFlashと約12KBのRAMを使用しています。AIモデルは量子化されており、float32モデルからint8ベースに変換されています。このおかげでAIモデルのサイズが削減されるため、32ビットMCU上での高速処理が実現できるのです。 またAIモデルの推論時間は約4msですが、センサーデータの読み取り、前処理、後処理をすべて含めると、1フレームのToFデータ処理にかかる時間は10～15ms。ToFセンサーのフレームレートが8Hzであることから、最も長くて1秒あたり120msの処理時間になります。処理時間の約88%の時間をMCUはアイドル状態になるため、その間、理論上は低消費電力モードやスリープモードに移行可能です。

②インフラ

一方で、システムの中でもっとも課題となるのが「インフラ」です。これには次のような要素が含まれます：

1. 接続性（Connectivity）
   • システム統合に不可欠なBluetooth、UART、WiFiなど。
2. 筐体
   • センサー保護（防水、防塵 など）
3. 電源（Power）
   • バッテリー駆動または有線電源の選択肢。

システムの改善に向けて

現状のシステムは低コストのTOFセンサーを使用していますが、コストを最小限に抑えながら性能の向上や機能の拡張を目指す必要があります。特に、家具や設備が固定されている環境では、無人時に取得したキャリブレーションデータをAIモデルが活用できます。しかし、患者の移動式ベッドが動いた場合や、大型の物体がセンサー範囲に入って来る場合など、シナリオによっては想定外の事態が生じることがあります。

このような状況への対策として、以下のような解決策が考えられます。

1. 低コストの高解像度ToFセンサーを使用する
2. 複数のセンサーを使用し、データ融合を行う

低コストの高解像度ToFセンサーを使用する

2025年末には、解像度52×42の新しいセンサーが登場予定。このセンサーはスマートフォン向けに開発されるため、低価格での提供が期待できます。これにより、キャリブレーションデータなしでも体の部位を検出できる可能性が広がります。

上の画像は、60×45の高解像度ToFセンサーからダウンサンプリングした画像の一部を示しています。人物は 立位、膝立ち、座位、または倒れた状態 になっています。プライバシーの観点から見ると、顔は判別できず、また体の画像も十分な詳細がないため、プライバシー上の問題は生じにくいと考えられます。

複数のセンサーを用いたデータ融合を行う

サーマルセンサーには検出範囲の制限があり、またToFセンサーよりもコストが高く（3～5倍）別の課題があります。しかし、低解像度のサーマルイメージセンサーと低解像度のTOFセンサーを組み合わせることで、物体の温度情報を活用し、人間と非人間の物体を区別できるようになるかもしれません。これにより、システム全体の精度の向上が期待されます。

さらなるユースケースの探求

顧客が関心を持つユースケースはさまざまです。例えば、

1. 患者ベッドモニタリング
2. 温泉

これらのユースケースは、転倒検知や危険な姿勢の早期発見に焦点を当てています。たとえば、ベッドからの転落や温泉での居眠りなど、安全面を考慮したシステムが求められています。 高解像度センサーやハイブリッドソリューションを活用することで、プライバシーを保護しつつ、より高度な検出システムを構築できる可能性があります。これにより、AIとIoT技術が目指す未来の実現に近づくことができるのです。

こんにちは！今日はAIモデル開発のデータ収集についてお話しします。

前回の記事はこちら

AIモデルを開発する（AI×IoT トイレ見守り④）

AIモデルの学習と評価には、どれだけのデータが集まるかが非常に重要です。成功するプロジェクトには、質の高い、大量かつ多様なデータが必要不可欠です。実際データはAIモデルそのものよりも重要だと言えます。

データ収集とアノテーションの重要性

データ収集やアノテーション（データラベリング）は、多くのリソースを必要とする手間のかかる作業です。そのため、効率的にデータ収集やアノテーションを行うために、使いやすいアプリケーションを活用したり、自動化、半自動化のプロセスを取り入れることが重要です。

データ収集とは？

2024年のTOFセンサー PoCでは、2つのTOFセンサーを使ってデータを収集しました。6週間のプロジェクト期間中に、実質的には2週間分の測距データが収集されたのです。実際のトイレを長期間利用するのは難しかったため、工場内の一室を借りて、実際のトイレのレイアウトに合わせた測距データ収集用のトイレを設置しました。

データ収集においては、多様性が鍵となる要素です。具体的には以下のような点に配慮しました：

部屋のレイアウトやTOFセンサーの設置位置のバリエーション

数種類の台を使ってTOFセンサーの距離を変えたり、トイレの設備のバリエーション（便座の位置、タンクの有無など）を変えたりしてバリエーションを収集しました。

トイレのバリエーション

さらに、様々な人の姿勢や位置を含む測距データの多様性（体格や身長の違い、立っている・歩いている状態、異なる服装による影響など）を担保すべく、人との姿勢や人数のバリエーションを収集しました。

人間の測距データバリエーション

人間以外の測距データバリエーション

アノテーションについて

データ収集とアノテーションは時間と人手を要する作業です。そこで、時間短縮を目指し、データ収集プロセスを設計しました。データの収集と解析を同時に実施できるように工夫しています。

アノテーションの入力方法

Bluetoothキーパッドを利用して、データ収集アプリケーションをリアルタイムで制御しました。これにより、ほとんどのデータ収集作業を一人で行うことが可能になり、2人分のデータ収集でも2人だけで対応できるようになりました。

データラベル設定

データラベルには以下の情報が含まれます。 

1. 人数 
2. 人の状態（転倒または正常） 
3. 人が存在するエリア（ゾーン）

AIモデル評価とは？

学習用データと評価用データを分ける

データは2つの部分に分けられます。1つは学習用、もう1つは評価用です。

データは学習用と評価用に分けられます。学習用データセットは評価データとは独立させる必要があります。この独立性により、さまざまな環境でもAIが正確に状態を認識できるかをテストできます。

AIモデル評価

今回作成したAIモデルは、評価データに対して良好な性能を示しましたが、100%の精度には達していません。

これは、転倒と立っている状態の間に明確な境界がない場合があるためです。また、このセンサーの課題として、人と大きな物体を区別できない点もあります。

PoC評価の実施

AIモデルも完成したので、実際の現場での対応能力をテストしました。実験の様子を撮影した動画もあるので、ぜひご覧ください。

実験のため、動画で私がいろいろな動きを試しています。また２人でトイレに入った想定で、AIモデル評価の実験した時の様子がわかる動画もアップしています。

アプリでは、無人の場合は青、正常な状態は緑、異常な状態は赤で表示しました。

トイレでの人の動きに連動してアプリ画面の色が変わります。無人、１人立っている、２人立っている、などの状態をAIがそれぞれしっかりと検出しました。

さらに、２人で居るときには、うち１人が立っていて１人が転倒している場合は黄色（注意）で示しました。これは、もし看護師と患者が２人同時に居る場合、看護師がサポートできるので即レッド(危険)ではない状態もあると考えたためです。実際のケースではAIだけの判断ではなく、看護師の携帯電話に電話するなど別のサポート手段を取る方法も考えられます。

AIモデル評価では２つの問題を指摘しましたが、実際のPoCにおけるAIの判定結果は有望でした。私の作ったAIモデルはトイレ部屋のレイアウト（建具の配置など）の違いにも対応できていました。
つまり、PoCは成功です！

いかがでしたか？ さあ、次回のブログでは以下の内容について議論します。

1. システムの改善点
2. システムのIoT MCUへの移植
3. その他…

このPoCを実用的な商用製品へと発展させることを目指します。お楽しみに。

AIモデルを開発する（AI×IoTトイレ見守り⑥）

無人のTOFセンサー画像とリアルタイムのTOFセンサー画像を比較することで、人の位置や状態を判断できるのであれば、AIも同様にそれを判断できるはずです。この考えを基に、シンプルなAIモデルを開発しました。

前回の記事はこちら

TOFセンサーとは？その測距の仕組みとIoT活用法を徹底解説（AI×IoT トイレ見守り③）

AIモデルの仕組み

このAIモデルは、以下の3つの状態を検出できるように設計されています。

• 空の個室 – TOFセンサーの測距値から人が存在しないことを検出し、トイレが使用されていないことを示します。
• 使用中の個室 – TOFセンサーの測距値から立っているまたは座っている人を検出し、トイレが使用中であることを把握します。
• 転倒した人 – TOFセンサーの測距値から床に倒れている状態を検出し、緊急事態であることを示します。これは迅速な対応を必要とします。

さらに、より高度なケースとして、トイレに座ったまま体調不良になった場合などには、タイムアウト検出機能を設けました。具体的には、「トイレに座ったまま15分以上動きがない」といった条件でこの異常を検知し、見守りアラートを発することが可能です。

PoCにおけるAIモデルの構成図

今回のAIモデル開発は非常にシンプルなものに徹しました。以下にPoCにおけるAIモデルの構成図を示します。

AIモデルの入力（左端）

このモデルには、以下の2つの入力があります。

1. リアルタイムのTOF画像 ‐ 状態（立っている、座っている）を示す画像。
2. 無人のTOF画像 – トイレが空いている状態を示す画像。

AIモデルの構成（中央）

このAIモデルは、次の2つのパートから成っています。

1. 特徴 抽出パート – 画像から特徴情報を抽出します。
2. 判断 パート – 抽出された特徴情報をもとに状態を判断します。

AIモデルの出力（右端）

また、出力は下記の3つです。

1. 転倒状態の合計人数 – 床に倒れている人の数。
2. 正常な状態の合計人数 – 立っているまたは座っている人の数。
3. 検出された合計人数 – 検出された全ての人の数。

AI モデル学習を実行する

AIモデルは教師あり学習を用いて学習されます。モデルを学習させるためには、入力データと出力データの2種類のデータが必要です。教師あり学習とは、正解を逐次教えることで学習を行う方法です。

1. 入力TOFデータ – TOFセンサーの測距画像データ。
2. ラベル（出力）– 出力データとして、検出された合計人数、正常な状態の合計人数、転倒状態の合計人数を使用します。

AIモデルが学習するステップは？

 AIモデルの学習ステップは以下の通りです。

1. TOFセンサーの測距画像をAIモデルに入力し、AIモデルの判断結果を正解データと比較します。
2. AIモデルを更新し、正解に近い判断ができるように調整します。。

このように、プロセスはシンプルなのですが、賢いAIモデルを生み出すためにはこのプロセスになんと、数万枚の画像「データ」とそれ以上の反復学習が必要になる場合があります！

実用的なAIソリューションを作ることは挑戦ですが、最大の課題はAIモデルそのものではなく、「データ」です。

次回は、私がどのようにしてトイレのためのAI学習用「データ」を収集したのか、その方法についてお聞かせいたします。

AIモデルを開発する（AI×IoT トイレ見守り⑤）

前回記事からの続きです。前回記事は↓からどうぞ。

AI×IoTでトイレ見守りシステムを作る（２）

近年、スマートフォンや自動運転車、産業用ロボットなど、さまざまな分野で使用される技術が急速に進化しています。その中でも「TOFセンサー」という言葉を耳にする機会が増えてきました。

TOFセンサーは、低コストで解像度も粗めなので、安全でプライバシーに配慮したトイレ見守りも可能になっています。本記事では、TOFセンサーとは何か、その基本的な仕組みから具体的な活用方法までをプロフェッショナルな視点で解説するとともに、PoCの製作を通じ、効率的なトイレ見守りシステムを提案します。

TOFセンサーの概要

TOFセンサー（Time of Flight Sensor）は、物体までの距離を正確に測定する無線測距技術です。「Time of Flight」とは「飛行時間」を意味し、光や電波が発信されてから物体に反射して戻ってくるまでの時間を計測することで距離を無線で算出（無線測距）します。この技術は、高精度な測距が可能であり、様々な応用分野で利用されています。

TOFセンサーの無線測距技術

TOFセンサーでは、短い光パルス（通常は赤外線）が物体に向けて発信されます。パルスが物体に反射して戻ってくるまでの時間を高精度で計測し、その時間から無線測距します。高速での測距が可能であり、動く物体の検出にも適しています。

このTOFセンサーはアクティブセンサーであるため、暗所などの環境でも測距できます。 センサーのTX（送信）部はレンズ技術を用いて赤外線をバースト送信（図の緑線)し、８ピクセルの平面グリッド列を形成します。

物体に反射した赤外線はRX（受信）レンズを通過し、赤外線検出器のアレイに導かれます(図の赤線)。検出器は、一定の時間間隔ごとに赤外線の到達時間と数を記録します。 その出力は、時間間隔ごとの赤外線光子数のヒストグラムとなります。このヒストグラムのピーク情報と時間データを用いることで、各検出器ごとの物体までの距離を無線測距できます。赤外線光の速度は光速と同じであるため、センサーは非常に短い時間間隔で無線測距します。

TOFセンサーでトイレ見守りPoCを作る

TOFセンサーをトイレの天井に設置します。通常は高さ2.2メートルから2.8メートルの範囲に配置されます。

下図中央のようなレイアウトだと、左図のように壁やトイレなどの特徴がセンサー画像に映りますが、それらの位置は分かっているため、TOF画像で見ても理解はしやすいです。

ただし画像の解像度が低いため、トイレの曲面などの細かい形状は認識できません。

トイレ内の物体の動きはどう判断されるのか

一番右の図の無人のトイレ個室のTOF画像と、それぞれ人がいる状態の画像をリアルタイムに比較することで、個室内に何かがあることが判断できます。

1. 無人
2. オレンジ色のピクセルは、人が立っているエリアを示します。
3. 黄色のピクセルは、人が座っているエリアを示します。
4. 緑色のピクセルは、人が倒れているエリアを示します。

このように、低解像度のTOFセンサーでも、トイレ内のどこかに何か（または誰か）がいるかを推測できます。また、物体の大きさや高さ（天井に近いのか、床に近いのか）も推測可能です。ただし解像度のため、センサーのみでそのものずばりを人か否かと判別することまではセンサーではできません。この点は予めご理解ください。。

AIモデルの登場

このように無人のトイレのTOFセンサー画像と他のリアルタイムのトイレのTOFセンサー画像を比較するだけで、人間が見て物体(人)の位置や状態を判断できるのであれば、AIを使っても同様に判断できるはずですね。この考えをもとに、私はシンプルなAIモデル を開発しました。次回はそのAIモデルについてお話しします。

AIモデルを開発する（AI×IoT トイレ見守り④）

トイレ見守りシステムの２回目です。今日は見守りを可能にする技術の変遷についてお話します。

前回の記事はこちら↓

AI×IoTでトイレ見守りシステムを作る（１）

技術革新がスマートトイレ見守りを可能にした理由とは？

この20年間で、モバイル産業、IoT、AI の急速な発展により、私たちの生活は大きく変わりました。そして、これらの技術の進歩は スマートトイレ監視システム の実現にも大きく貢献しています。

では、どのようにしてここまで進化してきたのでしょうか？ その鍵の１つは モバイル産業がけん引した、センサー技術、マイコン（MCU）、そしてAIの進化 にあります。

モバイル産業が技術革新を牽引したセンサーとは？

技術革新の大きな原動力となったのが、モバイル産業 です。スマートフォンの進化とともに、メーカーは より小型で低コスト、かつ省電力なセンサー の開発を進めてきました。その結果、以下の技術が大きく発展しました。

• MEMS（Micro-Electro-Mechanical Systems）センサー – MEMSセンサーは、小型化された加速度センサー、ジャイロセンサー、マイクなどの複雑なデバイスを含みます。これらのセンサーは、ミリメートル単位のサイズでありながら、高精度かつ高感度な測定機能を提供します。例えば、加速度センサーは、自動車の安全システム、スマートフォン、スマートウォッチなど、幅広い用途で利用されています。また、ジャイロセンサーは、デバイスの向きや角度を正確に測定できるため、ゲームコントローラーやドローンの操縦システムなどで重要な役割を果たしています。さらに、MEMS マイクは、音声認識や通信機器において高い性能を発揮します。
• パッシブイメージセンサー – 従来のRGBカメラやサーマルカメラは、高価な機器に依存していましたが、技術の進歩によってコストが大幅に下がり、ますます多くの消費者が利用できるようになりました。この変化は、スマートフォンのカメラ機能の向上だけでなく、他の分野でも応用が広がっています。たとえば、パッシブイメージセンサーは、セキュリティシステム、医療用診断機器、さらには農業における作物モニタリングなど、多岐にわたる応用が見込まれています。これにより、ユーザーは手軽に高品質なイメージデータを取得できるようになり、情報の可視化や的確な判断を行うための手助けとなっています。
• レーダー、LiDAR、TOFセンサー – レーダー、LiDAR（Light Detection and Ranging）、そしてTOF（Time of Flight）センサーは、もともとモバイルデバイスや自動車向けに開発された高度なセンサー技術です。特に人の存在を検知する用途において、そのプライバシーを守る機能が注目されています。レーダーは、非接触で対象物の移動を捉えることができ、交通管理や安全装置として広く使われています。また、LiDARは、レーザーを用いて周囲の詳細な3Dマップを生成することができ、これにより自動運転車両の進化に貢献しています。TOFセンサーは、光の飛行時間を測定することで、距離や深さを高精度で計測できるため、拡張現実（AR）やバーチャルリアリティ（VR）といった分野でも重要な役割を果たしています。

このように、携帯電話業界が推進した省電力化、低コスト化、センサーサイズの小型化の３つは、ドローン、XR、VR、ウェアラブルなどの他のビジネスの起爆促進剤となりました。

MCU（マイコン）と組み込みAIの進化

センサーが進化する一方で、それを処理する マイコン（MCU: Microcontroller Unit） も急速に進歩しました。これにより、スマートトイレ見守りシステムのようなエッジAIデバイスの開発が可能になりました。このシステムは、使用者の健康状態や行動をリアルタイムで監視し、データを解析することで、予防医療や健康管理に寄与します。従来のクラウドベースのシステムに依存せず、デバイス自体で直接データ処理を行うことができるため、迅速なフィードバックとプライバシーの保護が実現されます。

• 省電力で高性能な32ビットMCU が、センサーや画像データをリアルタイム処理 できるようになりました。
• 一部の企業では MCUとセンサーを一体化 し、さらなる小型化と効率化を実現しました。ハードウェアの複雑さが軽減され、製造コストも削減されます。これにより、より多くの企業や開発者がエッジAI技術を活用しやすくなり、様々な産業での応用が広がります。
• IoT向けのAI対応チップ の登場により、AIを活用したエンベデッドシステムの開発が容易になりました。データの収集、処理、分析を行うための計算能力を持ちながら、従来のMCUよりもさらに小型・低消費電力を実現します。

7〜8年前までは、32ビットMCUでAIを処理することはその処理能力に限界があり、実用的ではありませんでした。しかし現在ではこうした技術の進歩により、デバイス上でAIアクセラレータを内蔵したMCUがAIモデルを直接実行することが可能になっています。この進化により、リアルタイム分析が可能になり、従来のクラウド依存型のアプローチから脱却することができるようになり、より迅速な意思決定を可能とし、さまざまな業界での応用が期待されます。

AI対応MCUチップの構成イメージ

見守りシステムにおける、AI活用の可能性とは？

なぜスマートトイレ見守りにAIが必要なのか？

「そもそも、なぜトイレ見守りシステムにAIや機械学習が必要なのか？」という疑問を持つ方もいるかもしれません。その答えは、センサーデータの処理が極めて複雑だから です。従来のアルゴリズムでは、転倒検知や動作検知を高精度に実現することが難しい のです。AIを活用することで、以下のようなメリットが得られます。

• 高精度な検知 – AIは、従来のアルゴリズムでは見逃しがちなパターンを認識できる。これにより、より正確に異常事態を検出することができ、利用者の安全を向上させます。
• 適応性 – AIモデルは、学習を重ねることでより正確な検出が可能に。様々な環境や状況に応じた柔軟な対応が可能となります。
• 自動的な特徴抽出 – ルールをいちいち手作業で作らなくても、AIを利用すればデータから自動的にパターンを学習し、精度の高い判断が可能となります。

ただし、AIは万能ではありません。最も重要なのは 「正しいデータを用意すること」 です。データの質が悪ければ、AIモデルの学習精度も低下します。そうならないような学習データの収集と管理が成功の鍵を握ります。

スマートトイレ見守りの未来

センサー、MCU、AIの進化 により、プライバシーに配慮したスマートトイレ監視システムが実現可能になりました。今後、さらなる技術革新により、以下のような進展が期待されます。

• よりコンパクトで低コストなソリューションの登場
• より高精度なAIモデルによる検知の向上 IoTやクラウドとの統合によるさらなる利便性向上

次回は、スマートトイレ見守りの実験の様子や、実験に使用したTOFセンサーについて解説します。

TOFセンサーとは？その仕組みとトイレ見守り活用方法を徹底解説（AI×IoT トイレ見守り③）