[go: up one dir, main page]

JP2021033748A - 状態推定装置、状態推定プログラムおよび状態推定方法 - Google Patents

状態推定装置、状態推定プログラムおよび状態推定方法 Download PDF

Info

Publication number
JP2021033748A
JP2021033748A JP2019154470A JP2019154470A JP2021033748A JP 2021033748 A JP2021033748 A JP 2021033748A JP 2019154470 A JP2019154470 A JP 2019154470A JP 2019154470 A JP2019154470 A JP 2019154470A JP 2021033748 A JP2021033748 A JP 2021033748A
Authority
JP
Japan
Prior art keywords
state estimation
teacher data
estimation device
physical condition
sign
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019154470A
Other languages
English (en)
Other versions
JP7328828B2 (ja
Inventor
智寛 中村
Tomohiro Nakamura
智寛 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Faurecia Clarion Electronics Co Ltd
Original Assignee
Clarion Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Clarion Co Ltd filed Critical Clarion Co Ltd
Priority to JP2019154470A priority Critical patent/JP7328828B2/ja
Priority to EP20190445.5A priority patent/EP3785608A1/en
Priority to US17/004,809 priority patent/US11627918B2/en
Priority to CN202010876616.0A priority patent/CN112441009B/zh
Publication of JP2021033748A publication Critical patent/JP2021033748A/ja
Application granted granted Critical
Publication of JP7328828B2 publication Critical patent/JP7328828B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7282Event detection, e.g. detecting unique waveforms indicative of a medical condition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • A61B5/7267Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems involving training the classification device
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording for evaluating the cardiovascular system, e.g. pulse, heart rate, blood pressure or blood flow
    • A61B5/024Measuring pulse rate or heart rate
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/165Evaluating the state of mind, e.g. depression, anxiety
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/40Detecting, measuring or recording for evaluating the nervous system
    • A61B5/4076Diagnosing or monitoring particular conditions of the nervous system
    • A61B5/4094Diagnosing or monitoring seizure diseases, e.g. epilepsy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4806Sleep evaluation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient; User input means
    • A61B5/7475User input or interface means, e.g. keyboard, pointing device, joystick
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/67ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/30ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2503/00Evaluating a particular growth phase or type of persons or animals
    • A61B2503/20Workers
    • A61B2503/22Motor vehicles operators, e.g. drivers, pilots, captains
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient; User input means
    • A61B5/742Details of notification to user or communication with user or patient; User input means using visual displays
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0818Inactivity or incapacity of driver
    • B60W2040/0827Inactivity or incapacity of driver due to sleepiness
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/221Physiology, e.g. weight, heartbeat, health or special needs
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/229Attention level, e.g. attentive to driving, reading or sleeping
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Veterinary Medicine (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Artificial Intelligence (AREA)
  • Psychiatry (AREA)
  • Physiology (AREA)
  • Neurology (AREA)
  • Mathematical Physics (AREA)
  • Automation & Control Theory (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Neurosurgery (AREA)
  • Signal Processing (AREA)
  • Psychology (AREA)
  • Hospice & Palliative Care (AREA)
  • Educational Technology (AREA)
  • Developmental Disabilities (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Child & Adolescent Psychology (AREA)
  • Evolutionary Computation (AREA)
  • Social Psychology (AREA)
  • Primary Health Care (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Epidemiology (AREA)
  • Software Systems (AREA)
  • Cardiology (AREA)
  • Fuzzy Systems (AREA)

Abstract

【課題】ユーザの動作に影響を及ぼす可能性がある状態になる予兆をより適切に推定する状態推定装置、状態推定プログラムおよび状態推定方法を提供する。【解決手段】状態推定装置において、コントローラーは、ユーザの生体情報を得る生体情報取得部114と、所定の体調異常に係る生体情報の予兆データを教師データとして学習した学習済みモデルを用いて、ユーザの生体情報が所定の体調異常の予兆にあたるか否かを判定することにより予兆を検出する予兆検出部115と、を備える。【選択図】図6

Description

本発明は、状態推定装置、状態推定プログラムおよび状態推定方法の技術に関するものである。
背景技術として、特開2018−127112号公報(以下、特許文献1と呼ぶ。)がある。特許文献1では、「[課題]自動運転モードと手動運転モードとがある車両のドライバの覚醒度を高精度に推定することができる覚醒度推定装置を提供する。[解決手段]車両では、自動運転モードと手動運転モードとが切替え可能であり、車両の運転情報を検出する車両挙動検出部と、検出された運転情報からドライバの第1の覚醒度を認識する第1の覚醒度認識部と、ドライバの1以上の生体情報を検出する生体情報検出部と、検出された1以上の生体情報からドライバの第2の覚醒度を認識する第2の覚醒度認識部と、認識された第1の覚醒度及び第2の覚醒度の少なくとも一方から、ドライバの第3の覚醒度を推定する覚醒度推定部とを備える。覚醒度推定部は、手動運転モードでは、第1の覚醒度と第2の覚醒度とから、第3の覚醒度を推定し、自動運転モードでは、第2の覚醒度から第3の覚醒度を推定する。」と記載されている。
特開2018−127112号公報
特許文献1では、例えば、ユーザが既に眠気を感じて車両の挙動や運転操作に異常が生じた後にしか覚醒度を推定できない。そこで、本発明ではユーザ操作に影響を及ぼす可能性がある状態になる予兆をより適切に推定する技術を提供することを目的とする。
本発明は、上記課題の少なくとも一部を解決する手段を複数含んでいるが、その例を挙げるならば、以下のとおりである。上記課題を解決すべく、本発明に係る状態推定装置は、ユーザの生体情報を得る生体情報取得部と、所定の体調異常に係る前記生体情報の予兆データを教師データとして学習した学習済みモデルを用いて、前記ユーザの生体情報が前記所定の体調異常の予兆にあたるか否かを判定することにより予兆を検出する予兆検出部と、を備えることを特徴とする。
本願発明によれば、ユーザの動作に影響を及ぼす可能性がある状態になる予兆をより適切に推定することが可能となる。上記した以外の課題、構成および効果は、以下の実施形態の説明により明らかにされる。
本発明に係る実施形態を適用した状態推定装置の構造の例を示す図である。 予兆モデル記憶部のデータ構造例を示す図である。 生体情報記憶部のデータ構造例を示す図である。 教師データ記憶部のデータ構造例を示す図である。 教師データ学習比率記憶部のデータ構造例を示す図である。 コントローラーの機能構成例を示す図である。 予兆検出処理のフローの例を示す図である。 覚醒異常報知画面の例を示す図である。 体調異常検知処理のフローの例を示す図である。 教師データ作成処理のフローの例を示す図である。 トレーニング処理のフローの例を示す図である。 モデル更新処理のフローの例を示す図である。 校正処理のフローの例を示す図である。 第二の実施形態を適用した状態推定装置の構造の例を示す図である。 第三の実施形態における教師データ設定情報の例を示す図である。
以下に、本発明に係る状態推定装置100を車載装置に適用した例について、図面を参照して説明する。ただし、本発明は車載装置に限定されず、操作に注意を伴う物の操作時に用いる装置に適用することもできる。装置の例としては例えば、航空機や列車、船舶等の移動体の運転・操作・乗車時に用いる装置、あるいはショベルカーやクレーン、掘削機等の重機である。
なお、図1〜図14は、状態推定装置100の全ての構成を示すものではなく、理解容易のため、適宜、構成の一部を省略して描いている。なお、実施の形態を説明するための全図において、同一の部材には原則として同一の符号を付し、その繰り返しの説明は省略する場合がある。また、以下の実施の形態において、その構成要素(要素ステップ等も含む)は、特に明示した場合および原理的に明らかに必須であると考えられる場合等を除き、必ずしも必須のものではないことは言うまでもない。
また、「Aからなる」、「Aよりなる」、「Aを有する」、「Aを含む」と言うときは、特にその要素のみである旨明示した場合等を除き、それ以外の要素を排除するものでないことは言うまでもない。同様に、以下の実施の形態において、構成要素等の形状、位置関係等に言及するときは、特に明示した場合および原理的に明らかにそうでないと考えられる場合等を除き、実質的にその形状等に近似または類似するもの等を含むものとする。
また、本発明に係る表現として、「状態情報」は、基本的にはユーザの人体を外部から視覚的に観察して得られる情報を示し、「体調異常」は、外部から視覚的に観察して得られる状態から総合的に判断される状態のうち想定される正常な状態を逸脱した状態を示す。例えば、「状態情報」としては、「瞬きの頻度」、「欠伸」、「視点移動量」「体の揺れ、傾き」、「いびき」、「硬直(姿勢変化なし)」、「痙攣」等の生体を客観的に観察することで定量化可能な情報全般を含む。
そして、「体調異常」としては、「低覚醒(眠気含む)」、「高覚醒(異常な精神高揚等含む)」、「失神(てんかん、気絶等、不随意運動を含む)」、「心臓発作」、「自律神経失調症(代謝異常等含む)」等の操作あるいは運動動作に悪影響を及ぼす可能性のある総合的な体調上の異常全般を含む。なお、このような各種の生体の状態やその情報は、特にその要素のみである旨を明示した場合等を除き、それ以外の要素を排除するものでないことは言うまでもない。
さらに、「生体情報」は、ユーザの人体を外部から計測して得られる情報を示す。例えば、「生体情報」としては、脳波、脈波、血圧、体温等を含む。なお、このような各種の生体情報は、特にその要素のみである旨を明示した場合等を除き、それ以外の要素を排除するものでないことは言うまでもない。
また、一般に、ある体調異常が発症する際には、その事前に、生体情報に特徴的な変化が現れることが明らかとなってきている。例えば、「低覚醒(眠気)」については、瞬きの頻度が増加したり、欠伸が増加するのは、視覚的に観察できる症状にあたり、事前(おそらく数十分前ごろ)に予兆として心拍数が低下することがわかってきている。
また、「てんかん」の発症については、脳波の乱れが増加するという視覚的に観察しにくい体調異常にあたり、事前(おそらく8分前ごろ)に予兆として心拍が乱れる(HRV:Heart Rate Variability(心拍変動、RR間隔のミリ秒単位での変動))ことがわかってきている。
すなわち、このような体調異常の発症前の予兆を生体情報から推定できれば、発症前に警告や各種の対策を行うことが可能となりうる。
図1は、本発明に係る実施形態を適用した状態推定装置の構造の例を示す図である。移動体に着脱可能に搭載された状態推定装置100は、生体情報や状態情報を取得することが可能な情報処理装置である。しかし、本願発明の対象となる状態推定装置100は、図1に示す状態推定装置100に限られるものではない。例えば、移動体や重機に組み込まれた各種制御機器であってもよい。
状態推定装置100は、コントローラー1と、ディスプレイ2と、記憶装置3と、音声入出力装置4(音声入力装置としてマイクロフォン41、音声出力装置としてスピーカ42を備える)と、入力装置5と、生体情報取得装置10と、ネットワーク通信装置11と、状態検出装置12と、を備えている。
コントローラー1は、様々な処理を行う中心的ユニットである。例えば、図示しない車速センサ、加速度センサやGPS(Global Positioning System)受信装置から出力される情報に基づいて現在地を算出する。また、得られた現在地の情報に基づいて、表示に必要な地図データ等を記憶装置3から読み出す。
また、コントローラー1は、読み出した地図データをグラフィックス展開し、そこに現在地を示すマークを重ねてディスプレイ2へ表示させる。また、記憶装置3に記憶されている地図データ等を用いて、現在地又はユーザから指示された出発地と、目的地(または、経由地や立ち寄り地)と、を結ぶ最適な経路である推奨経路を探索する。また、スピーカ42やディスプレイ2を用いてユーザを誘導する。
状態推定装置100のコントローラー1は、各デバイス間をバス24で接続した構成である。コントローラー1は、数値演算及び各デバイスを制御するといった様々な処理を実行するプロセッサー21と、記憶装置3から読み出した地図データ、演算データなどを格納するメモリー22と、各種ハードウェアをコントローラー1と接続するためのI/F(インターフェース)23と、を有する。
ディスプレイ2は、コントローラー1等で生成されたグラフィックス情報を表示するユニットである。ディスプレイ2は、液晶ディスプレイ、有機EL(Electro Luminescence)ディスプレイなどで構成される。ヘッドアップディスプレイ、メーターパネル、センターコンソール等が、ディスプレイ2には含まれる。また、ディスプレイ2は、通信を介してスマートフォン等の通信端末に情報を表示するものであってもよい。
記憶装置3は、HDD(Hard Disk Drive)やSSD(Solid State Drive)、不揮発性メモリカードといった、少なくとも読み書きが可能な記憶媒体で構成される。
この記憶媒体には、通常の経路探索装置に必要な基準となる地図データ(地図上の道路を構成するリンクのリンクデータおよび基準となるリンクコストを含む)と、予兆モデル記憶部200と、生体情報記憶部300と、教師データ記憶部400と、教師データ学習比率記憶部500と、が記憶されている。
図2は、予兆モデル記憶部200のデータ構造例を示す図である。予兆モデル記憶部200は、体調異常名201と、予兆モデルパラメータ202と、が対応付けて格納される。体調異常名201は、ユーザの検出対象となる体調異常を特定する情報であり、例えば「低覚醒(眠気含む)」、「高覚醒(異常な精神高揚等含む)」、「失神(てんかん、気絶等、不随意運動を含む)」、「心臓発作」、「自律神経失調症(代謝異常等含む)」等の操作あるいは運転に悪影響を及ぼす可能性のある総合的な「体調異常」全般を含む。
予兆モデルパラメータ202は、生体情報取得装置10において取得される種類の生体情報の変化の特徴を、体調異常ごとに予兆部分をモデル化したパラメータである。ここで、予兆モデルは、ディープラーニングと呼ばれる機械学習の手法を用いて構成されたニューラルネットワークと呼ばれる学習済みモデルであるが、これに限られるものではない。例えば、ベイズ分類器や、サポートベクターマシンといった各種のAI(人工知能)等を用いて予兆を検出するものであればよい。
図3は、生体情報記憶部300のデータ構造例を示す図である。生体情報記憶部300は、利用者ID301と、時刻(開始、終了)302と、データ長(記録時間、サンプリング周期)303と、検出体調異常304と、生体情報305と、が対応付けて格納される。
利用者ID301は、ユーザを特定する情報である。時刻(開始、終了)302は、生体情報の記録開始時刻と、終了時刻とを特定する情報である。データ長(記録時間、サンプリング周期)303は、生体情報の記録開始から終了までの時間と、サンプリング周期と、を特定する情報である。検出体調異常304は、生体情報に関連づけられた体調異常を特定する情報である。生体情報305は、所定の生体情報の記録と、その情報を特定する生体情報IDとが関連付けられた情報である。
図4は、教師データ記憶部400のデータ構造例を示す図である。教師データ記憶部400は、生体情報ID401と、ラベル402と、が対応付けて格納される。生体情報ID401は、生体情報を特定する情報である。ラベル402は、生体情報ID401で特定される生体情報が所定の体調異常の予兆を示すものであればその体調異常を特定する情報である。生体情報が所定の体調異常の予兆を示すものでない場合、すなわち体調異常のない健常な生体情報である場合は、ラベル402は空(null)である。
図5は、教師データ学習比率記憶部500のデータ構造例を示す図である。教師データ学習比率記憶部500は、体調異常名501と、ラベル付与データ学習比率(ラベル/総数)502と、が対応付けて格納される。体調異常名501は、体調異常を特定する情報である。ラベル付与データ学習比率(ラベル/総数)502は、体調異常名501で特定される体調異常ごとに、予兆モデルの機械学習に用いた教師データの内訳の比率を示す情報である。
ラベルが付与されたデータは、すなわち体調異常が発症した場合の直前の所定期間の生体情報データであり、その発症した体調異常に関連付けられたデータである。ラベルが付与されていないデータは、その後に体調異常が発症していない場合の所定期間の生体情報データである。例えば、「低覚醒」の体調異常の予兆モデルを構築するのに用いた教師データのラベル付与データ学習比率(ラベル/総数)502が「1:2」の場合には、「低覚醒」のラベル付与データが学習に用いた教師データの総数の略半分を占めることを示す。
図1に戻って説明する。音声入出力装置4は、音声入力装置としてマイクロフォン41と、音声出力装置としてスピーカ42と、を備える。マイクロフォン41は、ユーザやその他の搭乗者が発した声などの状態推定装置100の外部の音声を取得する。
スピーカ42は、コントローラー1で生成されたユーザへのメッセージを音声として出力する。マイクロフォン41とスピーカ42は、移動体の所定の部位に、別個に配されている。ただし、一体の筐体に収納されていても良い。状態推定装置100は、マイクロフォン41及びスピーカ42を、それぞれ複数備えることができる。
また、状態推定装置100は、マイクロフォン41及びスピーカ42を備えず、接続される他の装置(例えば、USB(Universal Serial Bus)ケーブル等により有線接続されたスマートフォン等や、Wifi、Bluetooth(登録商標)等により無線接続されたスマートフォン等)のマイクロフォン及びスピーカから音声を出力するものであってもよい。
入力装置5は、ユーザからの指示をユーザによる操作を介して受け付ける装置である。入力装置5は、タッチパネル51と、ダイヤルスイッチ52と、その他のハードスイッチ(図示しない)であるスクロールキー、縮尺変更キー、ユーザのジェスチャーを検出するジェスチャーセンサなどで構成される。また、入力装置5には、状態推定装置100に対して遠隔で操作指示を行うことができるリモートコントローラが含まれる。リモートコントローラは、ダイヤルスイッチやスクロールキー、縮尺変更キーなどを備え、各キーやスイッチが操作された情報を状態推定装置100に送出することができる。
タッチパネル51は、ディスプレイ2の表示面側に搭載され、表示画面を透視可能である。タッチパネル51は、ディスプレイ2に表示された画像のXY座標と対応したタッチ位置を特定し、タッチ位置を座標に変換して出力する。タッチパネル51は、感圧式または静電式の入力検出素子などにより構成される。なお、タッチパネル51は、同時に複数のタッチ位置を検出することのできるマルチタッチを実現できるものであってもよい。
ダイヤルスイッチ52は、時計回り及び反時計回りに回転可能に構成され、所定の角度の回転ごとにパルス信号を発生し、コントローラー1に出力する。コントローラー1では、パルス信号の数から、回転角度を求める。
生体情報取得装置10は、ユーザの脈波等の生体情報を取得する装置である。脈波の情報の取得に関しては、例えば反射型脈波測定等の光電脈波法を採用することができるが、これに限られるものではなく、透過型脈波測定や、心音図法、心電図法等の各種の測定方法を採用するものであってもよい。
また、生体情報取得装置10には、例えばドップラーセンサ、マット(圧電)センサ等、使用環境に応じた適切なセンサを用いる。生体情報取得装置10のハードウェアは、スマートウォッチやシート、ハンドル、ピラー等へセンサを装着し、BluetoothやUSBケーブル等の無線あるいは有線の通信経路を介して状態推定装置100に送信するものであってもよい。
ネットワーク通信装置11は、状態推定装置100を、図示しない移動体内の制御ネットワーク規格であるCAN(Controller Area Network)等に対応するネットワークに接続させ、ネットワークに接続された移動体内の他の制御装置であるECU(Electronic Control Unit)とCANメッセージ等をやり取りすることで通信を行う装置である。また、ネットワーク通信装置11は、状態推定装置100を、図示しない携帯電話網に接続させ、携帯電話網に接続された他の装置と通信を行うこともできる。
状態検出装置12は、ユーザの顔画像等から、所定の体調異常についての発症状態の情報を取得する装置である。所定の体調異常についての発症状態の情報の取得に関しては、状態検出装置12は、例えば顔等の外部から視覚的に観察可能な部位の画像情報を撮影等により取得し、その画像を解析して取得する。例えば、状態検出装置12は、瞬きの頻度や、欠伸、パークロス(開眼時間割合)、マイクロサッケード(眼球不随意運動)、頭部動揺等を検出し、検出した情報が「低覚醒」の症状に相当するか否か判定し、「低覚醒」の状態を検出する。なお、この状態検出装置12による発症状態の情報を取得する具体的な仕組みおよびアルゴリズムは、既存技術を採用する。
図6は、コントローラー1の機能構成を示す図である。コントローラー1には、基本制御部111と、入力受付部112と、出力処理部113と、生体情報取得部114と、予兆検出部115と、報知部116と、状態検出部117と、教師データ作成部118と、予兆モデル作成部119と、が含まれる。
基本制御部111は、様々な処理を行う中心的な機能部であり、処理内容に応じて、他の機能部(入力受付部112と、出力処理部113と、生体情報取得部114と、予兆検出部115と、報知部116と、状態検出部117と、教師データ作成部118と、予兆モデル作成部119)の動作を制御する。また、基本制御部111は、各種センサ、GPS受信装置等の情報を取得し、マップマッチング処理等を行って現在地を特定する処理も担う。
入力受付部112は、入力装置5またはマイクロフォン41を介して入力されたユーザからの入力指示を受け付け、その入力指示に関する情報であるタッチの座標位置や、音声情報とともに、要求内容に対応する処理を実行するように基本制御部111へ伝達する。例えば、ユーザがある処理の実行を要求したときは、入力受付部112は、その要求された指示を基本制御部111に要求する。すなわち、入力受付部112は、ユーザの操作により指示を受け付ける指示受付部であるといえる。
出力処理部113は、例えばポリゴン情報等、表示させる画面を構成する情報を受け取り、ディスプレイ2に描画するための信号に変換してディスプレイ2に対して描画する指示を行う。
生体情報取得部114は、生体情報取得装置10との通信を確立し、常時の通信あるいは間欠的に通信を行って、生体情報取得装置10により取得された生体情報である脈波等の情報を取得し、一定の期間の履歴情報とともにRAM22あるいは記憶装置3上に保持する。
なお、生体情報取得部114は、取得した生体情報が所定の範囲を逸脱するものである場合には、報知部116に報知させ、該生体情報を削除する。これにより、異常によるユーザの重篤化を早期に発見することができるようになるとともに、異常データが教師データに混入してしまい、予兆の検出精度が下がってしまうことを避けることができる。
予兆検出部115は、所定の体調異常に係る生体情報の予兆データを教師データとして学習した学習済みモデル(予兆モデル)を用いて、生体情報取得部114が取得した生体情報が所定の体調異常の予兆に相当するか否かを判定することにより予兆を検出する。
より具体的には、予兆検出部115は、生体情報を取得すると、生体情報について外れ値の除去、データの補完等を行ってデータの整形を行い、所定の指標値(例えば、インターバルの周波数分解や、HRV等)を算出する。そして、予兆検出部115は、学習済みモデルである予兆モデルに体調異常の予兆を検出させ、予兆が検出された場合には報知部116に予兆の検出を報知させる。
報知部116は、予兆検出部115等の機能部から指示を受けて、所定のメッセージ文等を音声出力し、あるいは表示し、アラーム音を出力し、電子メールを送信し、SNS(Social Networking Service)等を含む各種のメッセージングを利用することで、設定された所定の方法で所定の対象に報知を行う。またあるいは、報知部116は、ユーザの利用するシートの座面や背もたれ、アームレスト、ステアリング等を小刻みに振動させて報知するものであってもよい。
状態検出部117は、ユーザの前記所定の体調異常の発症状態を検出する。状態検出部117は、状態検出装置12が、ユーザの顔画像等から取得した所定の体調異常についての発症状態の情報を取得する。例えば、状態検出部117は、「低覚醒(眠気含む)」、「高覚醒(異常な精神高揚等含む)」、「失神(てんかん、気絶等、不随意運動を含む)」、「心臓発作」、「自律神経失調症(代謝異常等含む)」等の操作あるいは運転に悪影響を及ぼす可能性のある総合的な体調異常を検出する。
教師データ作成部118は、状態検出部117が発症状態を検出した場合に、該発症状態に至る直前の所定期間のユーザの生体情報にラベルを付した第一の情報と、発症状態を検出しない場合の所定期間のユーザの生体情報である第二の情報と、を用いて教師データを作成する。なお、教師データ作成部118は、第一の情報と、第二の情報と、が所定の割合(望ましくは、1:1)となるよう教師データを作成する。
また、教師データ作成部118は、体調異常に応じて第一の情報および第二の情報のそれぞれのデータ長(記録期間、サンプリング周期)を特定する。
また、教師データ作成部118は、予兆検出部115が検出した予兆について異議を示す入力、例えば「低覚醒」の予兆を報知した後に「眠くない」というユーザからの入力を受け付けると、その後所定の期間内に状態検出部117が発症状態を検出しない場合には、予兆の検出精度を向上させるために、該予兆が検出された際の生体情報を第二の情報すなわち異常状態でない場合の生体情報とする教師データを作成する。
予兆モデル作成部119は、教師データ作成部118が作成した教師データを機械学習に用いて学習済みモデルを予兆モデルとして作成する。この予兆モデルの作成処理それ自体は、既存の機械学習と基本的に同様の処理である。
上記したコントローラー1の各機能部、すなわち基本制御部111と、入力受付部112と、出力処理部113と、生体情報取得部114と、予兆検出部115と、報知部116と、状態検出部117と、教師データ作成部118と、予兆モデル作成部119は、プロセッサー21が所定のプログラムを読み込み実行することにより構築される。そのため、メモリー22には、各機能部の処理を実現するためのプログラムが記憶されている。
なお、上記した各構成要素は、状態推定装置100の構成を、理解を容易にするために、主な処理内容に応じて分類したものである。そのため、構成要素の分類の仕方やその名称によって、本願発明が制限されることはない。状態推定装置100の構成は、処理内容に応じて、さらに多くの構成要素に分類することもできる。また、1つの構成要素がさらに多くの処理を実行するように分類することもできる。
また、各機能部は、ハードウェア(ASIC、GPU(Graphics Processing Unit)、FPGA(Field−Programmable Gate Array)などのPLD(Programmable Logic Device))により構築されてもよい。また、各機能部の処理が一つのハードウェアで実行されてもよいし、複数のハードウェアで実行されてもよい。また、各機能部の処理および記憶装置3は、ネットワーク通信装置11を介して外部のクラウドサーバー等に処理を委譲、あるいはデータを格納するものであってもよい。
[動作の説明]次に、予兆検出処理に関する動作について説明する。図7は、予兆検出処理のフローの例を示す図である。予兆検出処理は、状態推定装置100が起動すると、所定の間隔で(例えば、1秒に一度、あるいは5秒に一度、またあるいは1分に一度等、所定の間隔で)開始される。
まず、生体情報取得部114は、生体情報を取得する(ステップS001)。具体的には、生体情報取得部114は、生体情報取得装置10との通信を確立し、常時の通信あるいは間欠的に通信を行って、生体情報取得装置10により取得された生体情報である脈波の情報を取得し、一定の期間の履歴情報とともにRAM22あるいは記憶装置3上に保持する。
そして、予兆検出部115は、生体情報の所定の指標値を算出する(ステップS002)。具体的には、予兆検出部115は、生体情報取得部114から生体情報を取得し、生体情報について外れ値の除去、データの補完等を行ってデータの整形を行い、所定の指標値(例えば、インターバルの周波数分解や、HRV等)を算出する。
そして、予兆検出部115は、予兆モデルにより体調異常の予兆を検出する(ステップS003)。具体的には、予兆検出部115は、予兆モデル記憶部200の体調異常名201ごとに対応する生体情報の予兆データを教師データとして学習した学習済みモデル(予兆モデル)を用いて、生体情報取得部114が取得した生体情報が所定の体調異常の予兆に相当するか否かを判定することにより予兆を検出する。
そして、予兆検出部115は、予兆が検出されたか否かを判定する(ステップS004)。具体的には、予兆検出部115は、体調異常毎の予兆モデルから各体調異常の予兆が検出されると、予兆が検出されたと判定する。しかし、これに限られず、いくつかの体調異常の検出の組み合わせが所定の条件を満たすか否かにより、予兆が検出されたと判定するようにしてもよい。予兆が検出されなかった場合(ステップS004にて「No」の場合)には、予兆検出部115は、予兆検出処理を終了させる。
予兆が検出された場合(ステップS004にて「Yes」の場合)には、予兆検出部115は、アナウンス、表示、アラーム音、メール、メッセージング等による報知を行う(ステップS005)。具体的には、予兆検出部115は、報知部116に予兆の検出を報知させる。
以上が、予兆検出処理のフローの例である。予兆検出処理によれば、ユーザ操作に影響を及ぼす可能性がある状態、すなわち体調異常になる予兆をより適切に推定することができる。
なお、上述の予兆検出処理においては、予兆の検出がされるか、されないか、の二値を判定するものとなっているが、これに限られるものではなく、予兆モデルの尤度を用いることで、多段階に判定することも可能である。例えば、覚醒度合いを複数段階に判定するようにすることも可能である。
図8は、覚醒異常報知画面の例を示す図である。覚醒異常報知画面600は、予兆検出処理のステップS005にて出力される画面の例である。
覚醒異常報知画面600には、自車位置を示すマーカー601と、走行予定の道路を示す推奨経路表示602と、を中心とする周辺地図を含むいわゆるナビゲーション画面が含まれる。
このナビゲーション画面は、状態推定装置100が起動すると起動されるアプリケーションソフトウェアの画面である。そのため、ナビゲーション画面に限られるものではなく、他のアプリケーションソフトウェアの画面であってもよい。例えば、動画表示画面であってもよいし、音楽再生のための操作画面、あるいは基本制御部111が示す状態推定装置100のメニュー画面や設定画面等であってもよい。
そして、覚醒異常報知画面600では、メッセージを表示するメッセージボックス603が表示され、さらに同様の内容のメッセージの音声604が出力される。当該メッセージは、例えば「眠くなることが予測されます。休憩してはいかがですか?」というように、体調異常の予兆が検出された点と、予兆が検出された体調異常と、該体調異常の発症に備える対処行動と、を含んでいるのが望ましい。
また、そのメッセージボックス603には、報知された内容に異議の入力を受け付けるボタンが含まれる。例えば、眠気の予兆を検出した覚醒異常報知画面600の場合には、「眠くない」という異議の入力を受け付ける領域が含まれる。
異議の入力を受け付ける領域にタッチ入力がなされると、その後所定期間に該予兆に関する体調異常が発症しない場合には、該予兆が誤検出であったとして、教師データの変更を行う後述の校正処理を実施することが可能となる。
図9は、体調異常検知処理のフローの例を示す図である。体調異常検知処理は、状態推定装置100が起動すると、所定の間隔で(例えば、1秒に一度、あるいは5秒に一度、またあるいは1分に一度等、所定の間隔で)開始される。
まず、状態検出部117は、状態(顔画像)情報を取得する(ステップS101)。具体的には、状態検出部117は、状態検出装置12との通信を確立し、常時の通信あるいは間欠的に通信を行って、状態検出装置12により取得された状態情報である顔画像の情報を取得し、一定の期間の履歴情報とともにRAM22あるいは記憶装置3上に保持する。
そして、状態検出部117は、状態(顔画像)情報について整形する(ステップS102)。具体的には、状態検出部117は、状態情報についてノイズの除去、データの補完等を行って画像の整形を行う。
そして、状態検出部117は、いずれかの体調異常に該当するか否か判定する(ステップS103)。具体的には、状態検出部117は、状態検出装置12から、瞬きの頻度や、欠伸、パークロス(開眼時間割合)、マイクロサッケード(眼球不随意運動)、頭部動揺等と、体調異常の症状に相当するか否かの判定結果とを取得し、いずれかの体調異常に該当するか判定する。体調異常ではない場合(ステップS103にて「No」の場合)には、状態検出部117は、体調異常検知処理を終了させる。
体調異常である場合(ステップS103にて「Yes」の場合)には、状態検出部117は、体調異常に応じた所定の信号を出力する(ステップS104)。具体的には、状態検出部117は、体調異常の内容、すなわち発症した体調異常に応じた信号を体調異常の検出信号として教師データ作成部118等に出力する。
以上が、体調異常検知処理のフローである。体調異常検知処理によれば、状態検出装置12から得た状態情報を用いて、体調異常を教師データ作成部118に通知することができる。
図10は、教師データ作成処理のフローの例を示す図である。教師データ作成処理は、状態推定装置100が起動すると、所定の間隔で(例えば、1秒に一度、あるいは5秒に一度、またあるいは1分に一度等、所定の間隔で)開始される。
まず、生体情報取得部114は、生体情報を取得する(ステップS201)。具体的には、生体情報取得部114は、生体情報取得装置10との通信を確立し、常時の通信あるいは間欠的に通信を行って、生体情報取得装置10により取得された生体情報である脈波の情報を取得し、所定の期間(例えば、処理時点の40分前から処理時点までの期間)の履歴情報とともにRAM22あるいは記憶装置3上に保持する。
そして、予兆検出部115は、生体情報の所定の指標値を算出する(ステップS202)。具体的には、予兆検出部115は、生体情報取得部114から生体情報を取得し、生体情報について外れ値の除去、データの補完等を行ってデータの整形を行い、所定の指標値(例えば、インターバルの周波数分解、心拍数、HRV等)を算出する。
そして、教師データ作成部118は、算出された指標値が、標準範囲を逸脱しているか否かを判定する(ステップS203)。例えば、教師データ作成部118は、算出された指標値が、正常な健康状態を逸脱するか否か判定する。
算出された指標値が標準範囲を逸脱する場合(ステップS203にて「Yes」の場合)には、生体情報取得部114は、該生体情報を破棄し、報知部116に対してアナウンス、表示、アラーム音、メール、メッセージング等により標準範囲を逸脱したことを報知するよう指示する(ステップS204)。これにより、記憶装置3の記憶容量の圧迫を防ぎ、予兆の推定精度の低下を防ぐことができる。
算出された指標値が標準範囲を逸脱しない場合(ステップS203にて「No」の場合)には、教師データ作成部118は、教師データを構成するのに必要な生体情報量(教師データ長)が不足しているか否か判定する(ステップS205)。具体的には、教師データ作成部118は、ステップS201にて生体情報取得部114が保持している脈波の履歴情報が、体調異常に応じた教師データのデータ長(記録時間、サンプリング周期)303より短いデータ長か否かを判定する。教師データを構成するのに必要な生体情報量(教師データ長)が不足している場合(ステップS205にて「Yes」の場合)には、教師データ作成部118は、取得した生体情報を格納し(ステップS2051)、制御をステップS201に戻す。その生体情報の格納先は、例えば一時メモリ(不図示)等である。
教師データを構成するのに必要な生体情報量(教師データ長)が不足していない場合(ステップS205にて「No」の場合)には、教師データ作成部118は、体調異常の信号を検出したか否か判定する(ステップS206)。具体的には、教師データ作成部118は、状態検出部117から体調異常の検出信号が出力されているか否かを判定する。未検出の場合(ステップS206にて「No」の場合)には、教師データ作成部118は、制御をステップS208に進める。
体調異常の信号を検出した場合(ステップS206にて「Yes」の場合)には、教師データ作成部118は、体調異常に応じたラベルを生体情報の履歴に付与する(ステップS207)。具体的には、教師データ作成部118は、不図示の一時メモリから生体情報を読み出し、生体情報IDに、ラベルを対応付けて保持する。生体情報IDは、例えば、生体情報のハッシュ値等である。教師データ作成部118は、生体情報と関連付けることで、体調異常の信号に応じたラベルを教師データに付与する。
そして、教師データ作成部118は、ラベル付与データ学習比率が所定未満であるか否か判定する(ステップS208)。具体的には、教師データ作成部118は、状態に応じた体調異常についてのラベル付与データ学習比率(ラベル/総数)502を参照して、例えば45%(パーセント)未満か否か判定する。ラベル付与データ学習比率が所定未満である場合(ステップS208にて「Yes」の場合)には、教師データ作成部118は、制御をステップS210に進める。
ラベル付与データ学習比率が所定未満でない場合(ステップS208にて「No」の場合)には、教師データ作成部118は、既存の教師データから同一ラベルの最古データを2件削除(FIFO:First In,First Out方式)する(ステップS209)。
例えば、教師データの総数が100件、そのうちラベル付与データが50件(50%)であって、ラベル付与データ学習比率の閾値が45%の場合、教師データ作成部118は、ラベル付与データから最古データを2件削除して、教師データを総数98件、そのうちのラベル付与データを48件とする。
そして、教師データ作成部118は、所定期間の生体情報の履歴をラベルと共に教師データとして格納する(ステップS210)。具体的には、教師データ作成部118は、ステップS201により取得した生体情報のうち、教師データに必要なデータ長の生体情報を切り出してハッシュ値を求めて生体情報IDとして、ラベル情報が付与されていれば付与して、教師データ記憶部400に1件のデータとして格納する。
そして、教師データ作成部118は、ラベル付与データ学習比率を再算出する。例えば、ラベルが付与された教師データが1件のデータとして追加格納された場合には、教師データは総数99件、そのうちのラベル付与データは49件となり、ラベル付与データ学習比率は49/99=約49.4%となる。教師データ作成部118は、これを教師データ学習比率記憶部500に格納する。
以上が、教師データ作成処理のフローの例である。教師データ作成処理によれば、新たな生体情報が取得できた場合に、ラベル付与された生体情報すなわち体調異常発生時の予兆となる生体情報と、そうでない時の生体情報と、を所定の比率(略1:1)で含む教師データを作成することができる。
また、体調異常検出処理および教師データ作成処理によれば、生体情報取得装置とは異なるセンサである状態検出装置を用いて発症を検出して生体情報にラベリングを行った教師データを作成することが可能となり、これを機械学習した学習済みモデルを用いることで、生体情報のみからでは判定が難しい予兆の検出を可能とすることができる。
なお、教師データ作成処理は、リアルタイムに実施しても良いが、これに限られず、例えば状態推定装置100の終了処理時にまとめてバッチ処理するようにしてもよい。
図11は、トレーニング処理のフローの例を示す図である。トレーニング処理は、状態推定装置100が起動すると、開始される。あるいは、トレーニング処理は、状態推定装置100の処理負荷が所定以下となったタイミング等、不定期に実施されるものであってもよい。
まず、予兆モデル作成部119は、既に作成された教師データについて、生体情報の指標値をそれぞれ算出する(ステップS301)。より具体的には、予兆モデル作成部119は、教師データから生体情報を所定の手法で抽出し、生体情報について外れ値の除去、データの補完等を行ってデータの整形を行い、所定の指標値(例えば、インターバルの周波数分解や、HRV等)を算出する。
そして、予兆モデル作成部119は、生体情報の指標値によって予兆モデルのトレーニングを行う。具体的には、予兆モデル作成部119は、トレーニング対象の既存の予兆モデルを用いて、ステップS301にて抽出した生体情報の解(例えば、予兆のある体調異常)を予兆検出部115に推定させ、推定された解を得る。例えば、予兆モデル作成部119は、ステップS301にて抽出した生体情報の指標値を予兆モデルへ入力する(ステップS302)。入力された生体情報は予兆モデルの内部パラメータを伝播し、予兆モデルが推定結果を出力する。例えば、予兆モデルが推定結果として「0.8」と出力し、教師データの生体情報に付与されたラベルが「1」の場合、予兆モデルによる推定結果と実際のラベルとの差は「1−0.8」すなわち「0.2」となる。予兆モデルによる推定結果と、実際のラベルとの差が所定の値よりも下回る場合(ステップS303にて「No」の場合)には、予兆モデル作成部119は予兆モデルの内部パラメータを変更せずにトレーニング処理を終了させる。
予兆モデル作成部119は、予兆モデルによる推定結果と実際のラベルとの差が所定の値以上の場合(ステップS303にて「Yes」の場合)には、予兆モデル作成部119は予兆モデルの内部パラメータを変更する(ステップS304)。例えば、予兆モデル作成部119は、誤差逆伝播法を用いて予兆モデルの内部パラメータを変更することができる。必要に応じて、予兆モデル作成部119は、予兆モデルの作成に用いた生体情報と同じ種類の生体情報であって、モデル作成に用いられていない生体情報を選択して予兆モデルへ入力し、予兆モデルが出力した推定結果と実際に付与されたラベルとの差に基いて予兆モデルの内部パラメータを変更することも可能である。このようにある生体情報を入力して予兆モデルの内部パラメータを変更した後、当該生体情報でない別の生体情報を入力して予兆モデルの内部パラメータを変更することをサイクルと呼ぶ。サイクルをまわす回数は、学習データのサイズやモデルの構成によって適宜変更される。
次に、モデル更新処理を説明する。図12は、モデル更新処理のフローの例を示す図である。モデル更新処理は、複数回トレーニング処理を行って作成された複数のモデルの中から適切なモデルを選択することを目的とする処理である。モデル更新処理は、状態推定装置100が起動すると開始される。あるいは、トレーニング処理を行った後に続けて開始されるものであってもよい。
まず、予兆モデル作成部119は、予兆モデル記憶部200に記憶されたデータに基づいて、モデルが複数記憶されているか否か判定する(ステップS311)。予兆モデル記憶部200に複数の予兆モデルが記憶されていない場合(ステップS311にて「No」の場合)には、予兆モデル作成部119は、モデル更新処理を終了させる。
予兆モデル記憶部200に複数の予兆モデルが記憶されている場合(ステップS311にて「Yes」の場合)には、予兆モデル作成部119は、複数の予兆モデルへ生体情報に基づく指標値をそれぞれ入力する(ステップS312)。この処理においては、各予兆モデルへ入力する指標値は同一のデータである。予兆モデルへ入力される生体情報は既に記憶された教師データであり、各予兆モデルのトレーニングに使用されていないデータである。
そして、予兆モデル作成部119は、同じデータを入力された複数の予兆モデルそれぞれの精度を算出し、比較する(ステップS313)。この精度の比較に用いる計算方法は、例えば、正答率を用いる方法や、再現率を用いる方法があり、いずれを採用しても良い。
そして、予兆検出部115は、ステップS313においてより精度が高いと判定された予兆モデルを用いて予兆検出処理を行うよう予兆検出部115を設定する(ステップS314)。
以上が、トレーニング処理およびモデル更新処理のフローの例である。トレーニング処理およびモデル更新処理によれば、新たな生体情報を取得した場合に、ラベル付与された生体情報を含む教師データを用いて、より精度の高い予兆の推定が可能な予兆モデルを作成することができる。なお、トレーニング処理は、上述のタイミングの他、リアルタイムに実施しても良いし、状態推定装置100の終了処理時にまとめてバッチ処理するようにしてもよい。
図13は、校正処理のフローの例を示す図である。校正処理は、ステップS004にて「Yes」と判定されると、開始される。
まず、教師データ作成部118は、予兆検出に対して異議入力を受け付ける(ステップS401)。具体的には、教師データ作成部118は、予兆検出処理のステップS005において出力される覚醒異常報知画面600の場合には、「眠くない」という異議の入力を受け付ける領域へのタッチ入力を受け付ける。
そして、教師データ作成部118は、所定期間内に体調異常が発生するか否か判定する(ステップS402)。具体的には、教師データ作成部118は、ステップS401において異議入力を受け付けた後、所定の期間の計時を開始する。そして、計時の間、体調異常検知処理において体調異常に応じた所定の信号が出力されるか否か監視する。
所定期間内に体調異常が発生した場合(ステップS402にて「Yes」の場合)には、教師データ作成部118は、校正処理を終了させる。異議は正しくなく、体調異常の症状が検出されるべき状況であり、予兆モデルを変更する必要性がないためである。
所定期間内に体調異常が発生しなかった場合(ステップS402にて「No」の場合)には、教師データ作成部118は、予兆が検出された生体情報を、ラベルを付与しない教師データに変更して教師データを作成する(ステップS403)。異議は正しく、体調異常の症状は検出されるべき状況でなく、予兆モデルを個性に合わせて調整する必要性があるためである。
以上が、校正処理のフローの例である。校正処理によれば、ユーザに適したモデルへ校正することができ、ユーザごとに体質等による個体差が存在する生体情報を扱う予兆モデルについて、汎用的なモデルから個性化することができ、予兆の検出精度を高めることができる。
以上が、本発明に係る実施形態を適用した状態推定装置100である。状態推定装置100によれば、ユーザの動作に影響を及ぼす可能性がある状態になる予兆をより適切に推定することが可能となる。
ただし、本発明は、上記の実施形態に制限されない。上記の実施形態は、本発明の技術的思想の範囲内で様々な変形が可能である。例えば、上記の実施形態は、予兆検出処理と、体調異常検知処理と、教師データ作成処理と、トレーニング処理と、モデル更新処理と、校正処理と、を行うものであるが、これに限られない。いずれかの処理を単独で、あるいはいずれかの処理を組み合わせて実施するものであってもよい。
図14は、第二の実施形態を適用した状態推定装置の構造の例を示す図である。第二の実施形態を適用した状態推定装置100´は、基本的に上記の実施形態を適用した状態推定装置100と同様であるが、一部相違がある。この相違を中心に説明する。
第二の実施形態を適用した状態推定装置100´は、状態検出装置12を備えない。また、これに伴い、記憶装置3は、教師データ記憶部400、教師データ学習比率記憶部500を保持しない。そして、コントローラー1は、予兆検出処理は行うが、体調異常検知処理と、教師データ作成処理と、トレーニング処理と、モデル更新処理と、校正処理と、を行わない。
すなわち、予兆モデルの実績データによる再学習を行わず、学習済みの予兆モデルを用いて取得した生体情報から予兆を検出する。これにより、ハードウェアコスト、ソフトウェアコスト等の各種コストを抑えて、ユーザの動作に影響を及ぼす可能性がある状態になる予兆を適切に推定することが可能となる。
図15は、第三の実施形態における教師データ設定情報の例を示す図である。第三の実施形態を適用した状態推定装置は、同時に複数の体調異常について、より精度の高い予兆検出を行うことを実現するために、より精度高く状態を検出し、教師データおよび予兆モデルを精度高く作成する。
教師データ設定情報900は、このような目的を実現するために、体調異常名901ごとに、利用する状態検出装置902と、生体情報取得装置903と、教師データ利用部位904と、を個別に設定する情報である。教師データ利用部位904は、具体的には、体調異常検出時点と、そこから所定時間遡った時点と、を基準として特定する期間である。例えば、低覚醒(眠気)については「検出前30分間のうち、検出直前5分を除く期間」であり、てんかんについては「検出8分前の前後4分間の期間」である。教師データ設定情報900は、記憶装置3に格納され、コントローラー1の状態検出部117は、状態検出装置902を参照して体調異常ごとに使用する状態検出装置を特定し、生体情報取得部114は、生体情報取得装置903を参照して体調異常ごとに使用する生体情報取得装置を特定する。
そして、予兆検出部115は、取得した生体情報に応じて、1つまたは複数の予兆モデルを並列で稼働させて、複数の体調異常についてそれぞれ学習した複数の学習済みモデルを用いて、予兆を検出する。これにより、それぞれの体調異常に応じて最適な予兆検出が可能となり、より精度の高い予兆検出を行うことができる。
また、教師データ作成部118は、教師データ利用部位904を参照して体調異常ごとに利用する生体情報の部位を特定する。これにより、同時に複数の体調異常について、体調異常により適した情報を利用することが可能となり、より精度の高い予兆検出を行うことができる。
また、上記の各実施形態では、体調異常の信号が検出されない場合には、教師データに付与するラベルは無いものとして扱ったが、これに限られず、体調異常ではないラベルを付与するようにしてもよい。例えば、上述のラベル402について、生体情報が所定の体調異常の予兆を示すものではない場合、すなわち体調異常のない健常な生体情報とも考えられるため、ラベル402にはダミー変数を設定するようにしてもよい。具体的には、ダミー変数は二つの状態を「0」と「1」で表すものであって、体調異常の予兆を示す場合にはダミー変数「1」を用い、そうでない場合にはダミー変数「0」を用いるようにしてもよい。
このようにラベル402にダミー変数を使用する場合には、例えば、校正処理のステップS402にて「Yes」の場合(所定期間内に体調異常が発生した場合)には、教師データ作成部118は、ラベル402としてダミー変数「1」を付与して校正処理を終了させる。
また、校正処理のステップS402にて「No」の場合(所定期間内に体調異常が発生しなかった場合)には、ステップS403において、教師データ作成部118は、予兆が検出された生体情報を、ラベルにダミー変数「0」を付与した教師データに変更して教師データを作成する。
このように、体調異常でない場合にも教師データにその旨のラベルデータを付与することで、ラベルデータの欠落により不測の学習結果とならないようにすることができる。
1・・・コントローラー、2・・・ディスプレイ、3・・・記憶装置、4・・・音声入出力装置、5・・・入力装置、10・・・生体情報取得装置、11・・・ネットワーク通信装置、12・・・状態検出装置、21・・・プロセッサー、22・・・メモリー、23・・・I/F、24・・・バス、41・・・マイクロフォン、42・・・スピーカ、51・・・タッチパネル、52・・・ダイヤルスイッチ、100・・・状態推定装置、200・・・予兆モデル記憶部、300・・・生体情報記憶部、400・・・教師データ記憶部、500・・・教師データ学習比率記憶部。

Claims (13)

  1. ユーザの生体情報を得る生体情報取得部と、
    所定の体調異常に係る前記生体情報の予兆データを教師データとして学習した学習済みモデルを用いて、前記ユーザの生体情報が前記所定の体調異常の予兆にあたるか否かを判定することにより予兆を検出する予兆検出部と、
    を備えることを特徴とする状態推定装置。
  2. 請求項1に記載の状態推定装置であって、
    前記所定の体調異常は、前記ユーザの運動動作に影響を及ぼす体調異常である、
    ことを特徴とする状態推定装置。
  3. 請求項2に記載の状態推定装置であって、
    前記ユーザの運動動作に影響を及ぼす体調異常は、前記ユーザが眠気を感じている状態またはてんかんの発作を起こしている状態である、
    ことを特徴とする状態推定装置。
  4. 請求項1〜3のいずれか一項に記載の状態推定装置であって、
    前記生体情報取得部は、前記生体情報として脈波の情報を取得する、
    ことを特徴とする状態推定装置。
  5. 請求項1〜4のいずれか一項に記載の状態推定装置であって、
    前記教師データを、前記ユーザの生体情報を含めて前記教師データとして作成する教師データ作成部と、
    前記教師データ作成部が作成した前記教師データを前記学習済みモデルに学習させる予兆モデル作成部と、
    を備えることを特徴とする状態推定装置。
  6. 請求項5に記載の状態推定装置であって、
    前記ユーザの前記所定の体調異常の発症状態を検出する状態検出部を備え、
    前記教師データ作成部は、前記状態検出部が前記発症状態を検出すると、該発症状態よりも前の所定期間の前記ユーザの前記生体情報にラベルを付した第一の情報と、前記発症状態を検出しない場合の前記所定期間の前記ユーザの前記生体情報である第二の情報と、を用いて前記教師データを作成する、
    ことを特徴とする状態推定装置。
  7. 請求項6に記載の状態推定装置であって、
    前記教師データ作成部は、前記第一の情報と、前記第二の情報と、が所定の割合となるよう前記教師データを作成する、
    ことを特徴とする状態推定装置。
  8. 請求項6または7に記載の状態推定装置であって、
    前記教師データ作成部は、前記体調異常に応じて前記所定期間を特定する、
    ことを特徴とする状態推定装置。
  9. 請求項6〜8のいずれか一項に記載の状態推定装置であって、
    前記教師データ作成部は、前記予兆検出部が検出した予兆について異議を示す入力を受け付けると、その後所定の期間内に前記状態検出部が前記発症状態を検出しない場合には、該予兆が検出された生体情報を第二の情報とする教師データを作成する、
    ことを特徴とする状態推定装置。
  10. 請求項1〜9のいずれか一項に記載の状態推定装置であって、
    所定の方法で異常を報知する報知部を備え、
    前記生体情報取得部は、取得した前記生体情報が所定の範囲を逸脱すると前記報知部に報知させ、該生体情報を削除する、
    ことを特徴とする状態推定装置。
  11. 請求項1に記載の状態推定装置であって、
    前記予兆検出部は、複数の前記所定の体調異常についてそれぞれ学習した複数の学習済みモデルを用いて、複数の前記所定の体調異常の予兆を検出する、
    ことを特徴とする状態推定装置。
  12. コンピュータに状態推定手順を実行させるプログラムであって、
    前記コンピュータを、制御手段として機能させ、
    前記制御手段に対して、
    ユーザの生体情報を得る生体情報取得ステップと、
    所定の体調異常に係る前記生体情報の予兆データを教師データとして学習した学習済みモデルを用いて、前記ユーザの生体情報が前記所定の体調異常の予兆にあたるか否かを判定することにより予兆を検出する予兆検出ステップと、
    を実行させることを特徴とするプログラム。
  13. コンピュータに状態推定手順を実行させる状態推定方法であって、
    前記コンピュータは、制御手段を備え、
    前記制御手段は、
    ユーザの生体情報を得る生体情報取得ステップと、
    所定の体調異常に係る前記生体情報の予兆データを教師データとして学習した学習済みモデルを用いて、前記ユーザの生体情報が前記所定の体調異常の予兆にあたるか否かを判定することにより予兆を検出する予兆検出ステップと、
    を実行することを特徴とする状態推定方法。
JP2019154470A 2019-08-27 2019-08-27 状態推定装置、状態推定プログラムおよび状態推定方法 Active JP7328828B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019154470A JP7328828B2 (ja) 2019-08-27 2019-08-27 状態推定装置、状態推定プログラムおよび状態推定方法
EP20190445.5A EP3785608A1 (en) 2019-08-27 2020-08-11 State extrapolation device, state extrapolation program, and state extrapolation method
US17/004,809 US11627918B2 (en) 2019-08-27 2020-08-27 State extrapolation device, state extrapolation program, and state extrapolation method
CN202010876616.0A CN112441009B (zh) 2019-08-27 2020-08-27 状态推算装置、状态推算方法和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019154470A JP7328828B2 (ja) 2019-08-27 2019-08-27 状態推定装置、状態推定プログラムおよび状態推定方法

Publications (2)

Publication Number Publication Date
JP2021033748A true JP2021033748A (ja) 2021-03-01
JP7328828B2 JP7328828B2 (ja) 2023-08-17

Family

ID=72046731

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019154470A Active JP7328828B2 (ja) 2019-08-27 2019-08-27 状態推定装置、状態推定プログラムおよび状態推定方法

Country Status (4)

Country Link
US (1) US11627918B2 (ja)
EP (1) EP3785608A1 (ja)
JP (1) JP7328828B2 (ja)
CN (1) CN112441009B (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022158251A (ja) * 2021-04-01 2022-10-17 トヨタ自動車株式会社 情報処理装置
CN116684327A (zh) * 2023-08-03 2023-09-01 中维建技术有限公司 一种基于云计算的山林地区通信网络故障监测评估方法
WO2025053510A1 (ko) * 2023-09-05 2025-03-13 주식회사 뷰노 생체 신호 측정 빈도를 활용하여 생체 신호 분석 모델을 생성하는 방법

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7318475B2 (ja) * 2019-10-10 2023-08-01 マツダ株式会社 運転者状態判定装置
US12040092B2 (en) * 2019-12-20 2024-07-16 Fresenius Medical Care Holdings, Inc. Real-time intradialytic hypotension prediction
US12254388B2 (en) * 2020-10-27 2025-03-18 Accenture Global Solutions Limited Generation of counterfactual explanations using artificial intelligence and machine learning techniques
WO2023017605A1 (ja) * 2021-08-12 2023-02-16 株式会社アルム 医療支援システム
CN113561989B (zh) * 2021-08-16 2023-03-24 斑马网络技术有限公司 基于心电信号的危险驾驶状态检测方法、设备及存储介质
CN114827977B (zh) * 2022-06-30 2022-09-09 南通铂链网络科技有限公司 基于神经网络与生命体征的北斗定位移动通信系统
US20250033656A1 (en) * 2023-07-24 2025-01-30 Caterpillar Paving Products Inc. Work machine control based on biometrics

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018105459A1 (ja) * 2016-12-09 2018-06-14 パイオニア株式会社 眠気推定装置
JP2019509076A (ja) * 2015-12-18 2019-04-04 マイクロソフト テクノロジー ライセンシング,エルエルシー 眠気開始検出

Family Cites Families (103)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3621005B2 (ja) * 1999-09-10 2005-02-16 株式会社デンソー 車両用障害物認識装置、車間制御装置、車間警報装置及び記録媒体
JP2004313461A (ja) * 2003-04-16 2004-11-11 Hitachi Engineering & Services Co Ltd 在宅者健康状態遠隔見守り方法および装置
US7460899B2 (en) * 2003-04-23 2008-12-02 Quiescent, Inc. Apparatus and method for monitoring heart rate variability
US8075484B2 (en) * 2005-03-02 2011-12-13 Martin Moore-Ede Systems and methods for assessing equipment operator fatigue and using fatigue-risk-informed safety-performance-based systems and methods to replace or supplement prescriptive work-rest regulations
KR101030311B1 (ko) * 2007-02-27 2011-05-23 (주)엠디앤유 휴대형 생체신호 통합감지장치 및 이를 이용한 원격지의료정보 서비스 시스템과 방법
JP5088669B2 (ja) * 2007-03-23 2012-12-05 株式会社デンソー 車両周辺監視装置
WO2009051638A1 (en) * 2007-10-16 2009-04-23 Medtronic, Inc. Therapy control based on a patient movement state
CN101458078A (zh) * 2007-12-10 2009-06-17 鸿富锦精密工业(深圳)有限公司 一种汽车防撞系统及方法
US20090174560A1 (en) * 2008-01-03 2009-07-09 General Electric Company Systems, Apparatuses And Methods For Monitoring Physical Conditions Of A Vehicle Driver
US11465640B2 (en) * 2010-06-07 2022-10-11 Affectiva, Inc. Directed control transfer for autonomous vehicles
JP5358539B2 (ja) * 2010-08-31 2013-12-04 株式会社エヌ・ティ・ティ・ドコモ 携帯端末、データ配信サーバ、データ配信システム、およびデータ配信方法
US9292471B2 (en) * 2011-02-18 2016-03-22 Honda Motor Co., Ltd. Coordinated vehicle response system and method for driver behavior
EP3416153A1 (en) * 2011-05-03 2018-12-19 iOnRoad Technologies Ltd. Parking space identifying method and system
US8872640B2 (en) * 2011-07-05 2014-10-28 Saudi Arabian Oil Company Systems, computer medium and computer-implemented methods for monitoring health and ergonomic status of drivers of vehicles
US8869241B2 (en) * 2011-09-24 2014-10-21 Elwha Llc Network acquired behavioral fingerprint for authentication
US20130093603A1 (en) * 2011-10-18 2013-04-18 Visteon Global Technologies, Inc. Vehicle system and method for assessing and communicating a condition of a driver
US8340902B1 (en) * 2012-03-15 2012-12-25 Yan-Hong Chiang Remote vehicle management system by video radar
US20140059066A1 (en) * 2012-08-24 2014-02-27 EmoPulse, Inc. System and method for obtaining and using user physiological and emotional data
US9751534B2 (en) * 2013-03-15 2017-09-05 Honda Motor Co., Ltd. System and method for responding to driver state
JP5950025B2 (ja) * 2013-03-22 2016-07-13 トヨタ自動車株式会社 運転支援装置、運転支援方法、情報提供装置、情報提供方法、ナビゲーション装置及びナビゲーション方法
US9560506B2 (en) * 2013-05-10 2017-01-31 Verizon Patent And Licensing Inc. Emergency contacts information system
JP6698521B2 (ja) * 2013-07-08 2020-05-27 レスメッド センサー テクノロジーズ リミテッド 睡眠管理の方法及びシステム
US20150025917A1 (en) * 2013-07-15 2015-01-22 Advanced Insurance Products & Services, Inc. System and method for determining an underwriting risk, risk score, or price of insurance using cognitive information
US9934669B2 (en) * 2013-07-17 2018-04-03 Vivint, Inc. Geo-location services
US20150065082A1 (en) * 2013-08-27 2015-03-05 Akhil SEHGAL Personal safety device, system and a method
WO2015060874A1 (en) * 2013-10-25 2015-04-30 Empire Technology Development Llc Operator alertness monitor
US20150127570A1 (en) * 2013-11-05 2015-05-07 Hti Ip, Llc Automatic accident reporting device
US9734685B2 (en) * 2014-03-07 2017-08-15 State Farm Mutual Automobile Insurance Company Vehicle operator emotion management system and method
KR20150113700A (ko) * 2014-03-31 2015-10-08 삼성전자주식회사 진단 시스템 및 방법
KR101554188B1 (ko) * 2014-06-05 2015-09-18 엘지전자 주식회사 웨어러블 디바이스 및 그 제어 방법
US10110677B2 (en) * 2014-05-06 2018-10-23 Avago Technologies General Ip (Singapore) Pte. Ltd. Context-aware decision making
KR101659027B1 (ko) * 2014-05-15 2016-09-23 엘지전자 주식회사 이동 단말기 및 차량 제어 장치
JP6375496B2 (ja) * 2014-06-02 2018-08-22 エイケン工業株式会社 眠気検出方法及び眠気検出装置
US9549702B1 (en) * 2014-06-27 2017-01-24 Maxim Integrated Products, Inc. System including integrated optical sensors for determination of impairment of motorized system operators
KR101570430B1 (ko) * 2014-08-11 2015-11-20 엘지전자 주식회사 웨어러블 디바이스 및 그것의 동작 방법
JP6442915B2 (ja) * 2014-08-15 2018-12-26 富士ゼロックス株式会社 通信端末、通信システム及びプログラム
JP2016043041A (ja) * 2014-08-22 2016-04-04 セイコーエプソン株式会社 生体情報検出装置及び生体情報検出方法
MX2017002988A (es) * 2014-09-09 2018-02-01 Torvec Inc Métodos y aparato para monitorear el nivel de alerta de una persona que utiliza un dispositivo portátil, y proporcionar una notificación.
JP6413574B2 (ja) * 2014-10-01 2018-10-31 セイコーエプソン株式会社 活動状態情報検出装置及び活動状態情報検出装置の制御方法
JP5817943B1 (ja) * 2015-01-05 2015-11-18 セイコーエプソン株式会社 生体情報測定モジュール、および生体情報測定機器
JP2016182242A (ja) * 2015-03-26 2016-10-20 パイオニア株式会社 眠気算出装置
DE102015206144B4 (de) * 2015-04-07 2022-10-06 Volkswagen Aktiengesellschaft Verfahren und Vorrichtung zum sicheren Abstellen eines Fahrzeuges
US9937791B2 (en) * 2015-04-29 2018-04-10 Ashton Cameron Cofer Systems and methods for detecting and alerting a drowsy driver
CA2989625A1 (en) * 2015-07-02 2017-01-05 Rob NUNN Automation for improved sleep quality
JP6598862B2 (ja) * 2015-07-28 2019-10-30 三菱電機株式会社 運転支援装置
US10149549B2 (en) * 2015-08-06 2018-12-11 Sleep Number Corporation Diagnostics of bed and bedroom environment
WO2017028166A1 (en) * 2015-08-17 2017-02-23 Arris Enterprises, Inc. Communicating alert to additional contacts
US10383568B2 (en) * 2015-09-30 2019-08-20 Apple Inc. Confirming sleep based on secondary indicia of user activity
CN105894734A (zh) * 2015-10-19 2016-08-24 乐卡汽车智能科技(北京)有限公司 用于交通工具的疲劳驾驶预警方法及系统
US20170112391A1 (en) * 2015-10-27 2017-04-27 Bodymedia, Inc. Apparatus for detecting human physiological and contextual information
US20170136203A1 (en) * 2015-11-16 2017-05-18 Doug J. Swain Method and system for increasing brown adipose tissue activity during sleep
JP6641916B2 (ja) * 2015-11-20 2020-02-05 オムロン株式会社 自動運転支援装置、自動運転支援システム、自動運転支援方法および自動運転支援プログラム
WO2017089189A1 (en) * 2015-11-24 2017-06-01 Koninklijke Philips N.V. Two-factor authentication in a pulse oximetry system
WO2017115376A1 (en) * 2015-12-30 2017-07-06 Sleepow Ltd. Apparatus and method for early detection, monitoring and treating sleep disorders
CA3013921A1 (en) * 2016-02-08 2017-08-17 Security Services Northwest, Inc. Location based security alert system
JP6540531B2 (ja) * 2016-02-09 2019-07-10 オムロン株式会社 監視装置及び監視装置の制御方法
FR3048544B1 (fr) * 2016-03-01 2021-04-02 Valeo Comfort & Driving Assistance Dispositif et methode de surveillance d'un conducteur d'un vehicule automobile
US9902403B2 (en) * 2016-03-03 2018-02-27 Uber Technologies, Inc. Sensory stimulation for an autonomous vehicle
KR20170105208A (ko) * 2016-03-09 2017-09-19 엘에스산전 주식회사 데이터 감시 장치
US20170300655A1 (en) * 2016-04-19 2017-10-19 Vivametrica Ltd. Apparatus and methodologies for personal health analysis
KR101661553B1 (ko) * 2016-04-28 2016-10-04 주식회사 태원 차량 사고 관리 시스템 및 그 동작 방법
US10021246B2 (en) * 2016-05-12 2018-07-10 Avaya Inc. Identifying information pertinent to an emergent event through social media postings
US9956963B2 (en) * 2016-06-08 2018-05-01 GM Global Technology Operations LLC Apparatus for assessing, predicting, and responding to driver fatigue and drowsiness levels
EP3260344B1 (en) * 2016-06-20 2021-10-06 Volvo Car Corporation Method and system for adjusting a safety margin threshold of a driver support function
US10007854B2 (en) * 2016-07-07 2018-06-26 Ants Technology (Hk) Limited Computer vision based driver assistance devices, systems, methods and associated computer executable code
US9870689B1 (en) * 2016-08-24 2018-01-16 International Business Machines Corporation Codependent alarm device
JP6323511B2 (ja) * 2016-08-26 2018-05-16 マツダ株式会社 運転者体調検知装置及び方法
US10315662B2 (en) * 2016-10-05 2019-06-11 Dell Products L.P. Determining a driver condition using a vehicle gateway
US10827846B2 (en) * 2016-10-28 2020-11-10 Sleep Number Corporation Bed with foot warming system
WO2018085804A1 (en) * 2016-11-07 2018-05-11 Nauto Global Limited System and method for driver distraction determination
US20180146354A1 (en) * 2016-11-21 2018-05-24 Bhumil Patel System and method for providing automated personal security via a computing device
US10565956B2 (en) * 2016-11-23 2020-02-18 Motorola Mobility Llc Method and apparatus for light spectrum filtering
US10192171B2 (en) * 2016-12-16 2019-01-29 Autonomous Fusion, Inc. Method and system using machine learning to determine an automotive driver's emotional state
JP6998564B2 (ja) * 2017-02-08 2022-01-18 パナソニックIpマネジメント株式会社 覚醒度推定装置及び覚醒度推定方法
US20180244288A1 (en) * 2017-02-28 2018-08-30 GM Global Technology Operations LLC Methods and systems for providing automated assists of driving task demands for reducing driver drowsiness
CN110505837B (zh) * 2017-04-14 2023-01-17 索尼公司 信息处理设备、信息处理方法和记录介质
US10150478B2 (en) * 2017-04-27 2018-12-11 Honda Motor Co., Ltd. System and method for providing a notification of an automated restart of vehicle movement
JP2018188020A (ja) * 2017-05-08 2018-11-29 クラリオン株式会社 自動運転支援装置、及び自動運転支援方法
US10945675B2 (en) * 2017-05-24 2021-03-16 Samsung Electronics Co., Ltd. Determining a health status for a user
JP6298562B1 (ja) * 2017-05-31 2018-03-20 伸和コントロールズ株式会社 状態監視装置、状態監視方法及びプログラム
US10384602B1 (en) * 2017-06-14 2019-08-20 United Services Automobile Association Systems and methods for detecting and reducing distracted driving
US10357195B2 (en) * 2017-08-01 2019-07-23 Panasonic Intellectual Property Management Co., Ltd. Pupillometry and sensor fusion for monitoring and predicting a vehicle operator's condition
US10956792B2 (en) * 2017-08-09 2021-03-23 Intel Corporation Methods and apparatus to analyze time series data
US10235859B1 (en) * 2017-08-17 2019-03-19 State Farm Mutual Automobile Insurance Company Systems and methods for the mitigation of drowsy or sleepy driving
US20190064805A1 (en) * 2017-08-28 2019-02-28 nuTonomy Inc. Mixed-mode driving of a vehicle having autonomous driving capabilities
US10532183B2 (en) * 2017-09-06 2020-01-14 Arenar Group B.V. Sleep improvement device and method for improving sleep
US10237393B1 (en) * 2017-09-12 2019-03-19 Intel Corporation Safety systems and methods that use portable electronic devices to monitor the personal safety of a user
US20190092337A1 (en) * 2017-09-22 2019-03-28 Aurora Flight Sciences Corporation System for Monitoring an Operator
US10300922B2 (en) * 2017-09-29 2019-05-28 Denso International America, Inc. Risk assessment system for assessing current driver behavior relative to past behavior and behaviors of other drivers
JP6983028B2 (ja) * 2017-10-06 2021-12-17 マレリ株式会社 眠気度予測装置及び眠気度予測方法
KR20190062673A (ko) * 2017-11-28 2019-06-07 주식회사아이센랩 브레스 클라우드 기반 개인용 스마트 호기 진단기
US11127014B2 (en) * 2017-12-11 2021-09-21 Mastercard International Incorporated Systems and methods for analyzing sleep data and sleep pattern data
JP2019154470A (ja) 2018-03-07 2019-09-19 株式会社三共 遊技機
US11129550B2 (en) * 2018-03-28 2021-09-28 Lenovo (Singapore) Pte. Ltd. Threshold range based on activity level
US10723359B2 (en) * 2018-04-12 2020-07-28 Rivian Ip Holdings, Llc Methods, systems, and media for controlling access to vehicle features
US20200020165A1 (en) * 2018-07-12 2020-01-16 Bao Tran Smart device
US11540750B2 (en) * 2018-12-19 2023-01-03 Medtronic Minimed, Inc Systems and methods for physiological characteristic monitoring
DE112019006823T5 (de) * 2019-02-04 2021-10-21 Mitsubishi Electric Corporation Emotionsschätzvorrichtung und Emotionsschätzverfahren
CN209984217U (zh) * 2019-03-28 2020-01-24 武汉大学 一种智能流量监控尿管
US11395615B2 (en) * 2019-04-17 2022-07-26 Bose Corporation Fatigue and drowsiness detection
DE112019007558B4 (de) * 2019-09-19 2024-05-23 Mitsubishi Electric Corporation Kognitiv-Funktion-Abschätzungsvorrichtung, Lernvorrichtung und Verfahren zur Schätzung der kognitiven Funktion
US11447140B2 (en) * 2020-10-20 2022-09-20 Toyota Motor Engineering & Manufacturing North America, Inc. Cognitive tunneling mitigation device for driving
CN114487390B (zh) * 2022-01-29 2023-03-17 美昕医疗器械(昆山)有限公司 用于检测医用导流装置中的液体流动的检测盒及检测系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019509076A (ja) * 2015-12-18 2019-04-04 マイクロソフト テクノロジー ライセンシング,エルエルシー 眠気開始検出
WO2018105459A1 (ja) * 2016-12-09 2018-06-14 パイオニア株式会社 眠気推定装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022158251A (ja) * 2021-04-01 2022-10-17 トヨタ自動車株式会社 情報処理装置
CN116684327A (zh) * 2023-08-03 2023-09-01 中维建技术有限公司 一种基于云计算的山林地区通信网络故障监测评估方法
CN116684327B (zh) * 2023-08-03 2023-10-27 中维建技术有限公司 一种基于云计算的山林地区通信网络故障监测评估方法
WO2025053510A1 (ko) * 2023-09-05 2025-03-13 주식회사 뷰노 생체 신호 측정 빈도를 활용하여 생체 신호 분석 모델을 생성하는 방법

Also Published As

Publication number Publication date
CN112441009A (zh) 2021-03-05
EP3785608A1 (en) 2021-03-03
CN112441009B (zh) 2024-03-12
US11627918B2 (en) 2023-04-18
JP7328828B2 (ja) 2023-08-17
US20210059615A1 (en) 2021-03-04

Similar Documents

Publication Publication Date Title
JP7328828B2 (ja) 状態推定装置、状態推定プログラムおよび状態推定方法
JP7324716B2 (ja) 情報処理装置、移動装置、および方法、並びにプログラム
JP6972629B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
EP3889740B1 (en) Affective-cognitive load based digital assistant
JP7092116B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP6497915B2 (ja) 運転支援システム
US10431116B2 (en) Orator effectiveness through real-time feedback system with automatic detection of human behavioral and emotional states of orator and audience
US9771081B2 (en) System for fatigue detection using a suite of physiological measurement devices
US11490843B2 (en) Vehicle occupant health monitor system and method
JP5423872B2 (ja) 生体状態判定装置
US20150302718A1 (en) Systems and methods for interpreting driver physiological data based on vehicle events
CN108648381A (zh) 体感型通知警告
US10045096B2 (en) Social media modification of behavior and mobile screening for impairment
US12307921B2 (en) Quantitative pilot evaluation during training
US20210241654A1 (en) Quantitative pilot evaluation during aircraft operation
US10610146B1 (en) Utilizing wearable devices in an internet of things environment
JP2021037033A (ja) ドライバーの状態推定方法及びシステム
CN107007292B (zh) 用于获知疲劳的方法
EP2759895A2 (en) System and method for automatically and dynamically varying the feedback to an operator by an automated system
JP2017033042A (ja) 利用者状態監視システム、および利用者状態監視方法
JP7412265B2 (ja) 動作評価システム、動作評価装置、および動作評価方法
JP2018136776A (ja) 情報処理方法、情報処理装置及びプログラム
JP2016114427A (ja) 情報提示装置および情報提示方法
WO2020189070A1 (ja) 情報処理装置及びプログラム
Routray et al. Beyond the Blink: IoT's Next-Gen Drowsiness Detection System for Drivers

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220530

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230329

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230425

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230623

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230711

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230804

R150 Certificate of patent or registration of utility model

Ref document number: 7328828

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150