《電子技術應用》
您所在的位置:首頁 > 嵌入式技術 > 設計應用 > 基于Kinect的家庭助理機器人系統設計與實現
基于Kinect的家庭助理機器人系統設計與實現
2017年電子技術應用第3期
黨宏社,侯金良,張 超
陜西科技大學 電氣與信息工程學院,陜西 西安710021
摘要: 為了使獨自在家的小孩、行動不便的老人和病人得到更好的照顧,設計了基于Kinect的家庭助理機器人系統。系統采用單服務器多客戶端模型,Kinect和智能手機作為客戶端連接到服務器。設計制作了助理機器人,其頭部為網絡攝像頭,臂部為舵機結構,腿部為輪式結構。提出了基于Kinect的改進動作識別算法,實現了機器人的體感控制,可幫助老人和病人抓取物體。設計了手機APP,在外的家人可遠程監視室內情況,與家中的老人和病人進行視頻通話。
中圖分類號: TP242.6
文獻標識碼: A
DOI:10.16157/j.issn.0258-7998.2017.03.017
中文引用格式: 黨宏社,侯金良,張超. 基于Kinect的家庭助理機器人系統設計與實現[J].電子技術應用,2017,43(3):70-72,76.
英文引用格式: Dang Hongshe,Hou Jinliang,Zhang Chao. Design and implementation of home assistant robot system based on Kinect[J].Application of Electronic Technique,2017,43(3):70-72,76.
Design and implementation of home assistant robot system based on Kinect
Dang Hongshe,Hou Jinliang,Zhang Chao
College of Electrical and Information Engineering,Shaanxi University of Science and Technology,Xi′an 710021,China
Abstract: In order to make the elderly, patients and children get better care, a home assistant robot system based on Kinect is designed. Single server multi clients model is used to design the system, the clients Kinect and App are connected to the server. The assistant robot is designed and the IP camera is used as the head ,the steering joint structure is used as the arm and the wheels are used as the leg of the robot. Applying the improved Kinect motion recognition algorithm,the function of motion-control is achieved. The medication bottles and cups can be taken to the elderly and patient by the robot. The APP is designed to realize the function of remote monitoring and video cheat with the elderly and patients.
Key words : Kinect;robot;motion recognition algorithm;APP

0 引言

    老齡化社會提前到來,“空巢家庭”日趨增多,越來越多的老年人“照顧缺位”。子女在外上班,不能陪伴父母,一些身體虛弱、生活不能自理的老人不能得到很好的照顧。老人獨自在家時若發生一些意外事故,因無法快速地發送求救信號,從而不能得到救助而造成嚴重后果。家人工作繁忙,一些生病或因殘疾導致行動、生活不便的人,不能獨自去拿水杯、藥品等。家長出門孩子獨自留在家中,孩子由于調皮貪玩會跑到陽臺等危險區域,因無實時的監管導致意外。現代年輕人工作壓力和生活壓力加重,上班一族整天為工作奔波,常常會疏忽家里的瑣事,忘記關燈、關空調等;家里出現煤氣泄漏、水管漏水等危險情況,未能及時處理而導致事故的發生;家里有盜賊進入時,不能及時報警而導致貴重財物被盜。

    為了解決上述問題,設計了基于Kinect的家庭助理機器人系統。可通過Kinect體感控制機器人移動到指定地點并抓取物體,也可用手機APP遠程控制機器人,實時地監視室內情況。

1 系統硬件設計

    系統采用基于Java的單服務器多客戶端模型,Kinect和智能手機分別作為客戶端連接到運行在PC上的服務器[1]。Kinect通過USB連接到電腦,利用串口通信將采集到的數據實時發送到服務器。智能手機通過WiFi連接到服務器,手機APP將控制信號發送到服務器。服務器對客戶端發來的數據進行實時采集、解析,并將控制信號發送給機器人。系統整體結構如圖1所示。

ck1-t1.gif

    機器人硬件組成如圖2所示。機器人頭部為網絡攝像頭IP Camera,主要功能有:遠程視頻監視、遠程視頻通話、智能報警。機器人臂部為數字舵機結構,共8個自由度,機械臂末端為夾爪結構。機械臂可模擬人的雙臂運動,可通過夾爪來抓取物體。機器人的腿部為輪式結構,使其在室內更快捷、靈活地移動。

ck1-t2.gif

    機器人的主控芯片采用樹莓派,樹莓派(Raspberry Pi)是只有信用卡大小的卡片式電腦。它配備一枚1.24 GHz的4核ARM架構Cortex-A53處理器,SD卡作為儲存媒體,主板周圍有4個USB接口和一個網口[2],利用USB接口可直接與Arduino相連。樹莓派內置無線WiFi模塊,可與服務器進行無線通信。樹莓派PWM輸出能力有限,利用2片Arduino共同產生8路PWM控制機械臂的8個舵機[3]。Arduino是一款便捷靈活、方便上手的開源電子原型平臺,它搭載Atmel ATmega328處理器,有14路數字輸入輸出端口。一片Arduino可同時產生6路PWM信號,并且Arduino開發軟件提供標準的串口通信協議,可直接與樹莓派通信。樹莓派通過USB與Arduino相連,通過串口通信將每個舵機控制信號發給Arduino。數字舵機根據PWM信號轉動,實現0°~180°的精確控制。此外,機器人上裝有煙霧和溫濕度傳感器,可實時監測家中環境,發生煤氣泄漏或火災時可自動報警。

    Kinect通過USB與服務器相連,完成人體骨骼數據的采集。采用Kinect for Windows,其工作原理是通過傳感器上一個可見光RGB攝像頭和2個紅外攝像頭,使傳感器能夠采集彩色影像和3D深度圖像[4]。采集圖像時,Kinect傳感器通過紅外激光點陣反饋圖像信息到2個紅外攝像頭中,對操作者的X、Y、Z坐標進行3D掃描定位。此外,通過可見光RGB攝像頭捕捉VGA級別的圖像[5],可進行人物的身份識別。Kinect數據通過USB線纜傳輸到PC上,PC上的Kinect數據采集庫對傳感器傳輸而來的3種不同的數據資料進行串聯,將彩色圖像和3D深度圖像融合成為一個數據流,最后將數據流輸出[6]。本次設計利用數據流中的20個關鍵點的三維坐標,對人體動作進行識別。

2 系統軟件設計

2.1 Kinect動作識別算法

    基于輪廓和特征匹配的目標跟蹤算法,例如文獻[7]中的人體動作識別算法,雖然準確性良好,但其算法過于復雜,模板匹配運算量太大,需要大量設備進行并行處理,需要比較高端的處理器。基于濾波預測跟蹤算法,例如文獻[8]中提出的利用卡爾曼濾波算法實現人體動作識別,雖然消除了數據抖動,但其算法的魯棒性不好,對光照、背景變化太敏感。本文提出了一種改進的Kinect動作識別算法,將人體關節分上、下半身來處理,既保證了手臂控制機器人的實時性,又保證了雙腿控制機器人的準確性。

2.1.1 坐標獲取

    Kinect是微軟公司于2011年推出的一款體感外設,主要由紅外發射器、RGB攝像頭、紅外深度攝像頭組成。它具有實時的全身骨骼跟蹤、運動捕捉以及麥克風輸入的功能,并能夠識別一系列人體動作[9]。本文算法利用Kinect骨骼追蹤技術獲取操作者20個關鍵點的三維坐標,并能對這些點的位置進行實時追蹤。圖3為人體關鍵點的示意圖。

ck1-t3.gif

    由于直接獲取的坐標為深度圖像坐標,所以將其換算為實際坐標。(ximage,yimage,zimage)到(xworld,yworld,zworld)的變換公式[10]

ck1-gs1.gif

2.1.2 特征提取

    在Kinect不標定的情況下識別人體動作,且操作者所在位置可能隨時會發生變化,因此算法對魯棒性要求很高。本文算法提取的特征是骨骼關鍵點坐標的相對位置,即提取關鍵點坐標向量所成的角度特征。Kinect每秒鐘獲取30幀圖像[11],即關鍵點的坐標每秒刷新30次,再加上人體的抖動,采集到的關鍵點坐標會有波動。采用加權遞推平均濾波方法對坐標進行濾波。把連續N個采樣值看成一個隊列,隊列的長度固定為N,每次采樣到新的數據放入隊尾,并扔掉原來隊首的一次數據(先進先出原則)。然后針對不同時刻采用不同的權值,最后把隊列中的N個數據進行算術平均運算,就可獲得新的濾波結果。公式如下:

ck1-gs2-4.gif

    角度θij就是當前人體肘部的角度特征。以此類推,可求出人體所有關節的角度特征。提取的角度特征是一個相對的特征且魯棒性好,只與關鍵點相對位置有關,與光照、背景、操作者以及操作者的位置都無關。

2.1.3 特征匹配

    機器人的機械臂是由操作者的雙臂體感控制的,而所提取的角度特征恰好是每個關節點的相對角度,所以可直接將角度特征輸出控制舵機的轉動。對于下半身,則要通過特征匹配的方法更加準確地識別操作者的動作。由于Kinect采用Processing進行開發,用Java語言編程,所以將計算好的動作模板保存到TXT文本中。本設計中下半身需要識別的動作包括:前進一檔、前進二檔、前進三檔、后退一檔、后退二檔、后退三檔、停止、機器人夾爪的張開與閉合。將下半身骨骼數據的角度特征與動作模板角度特征進行比較,可得到匹配的百分比,從而實現人體動作的識別。

2.2 機器人軟件編程

    機器人的軟件部分主要完成的任務為:接收服務器發來的控制信號并根據信號控制舵機和電機。機器人的控制芯片為樹莓派,樹莓派的操作系統是開源的Linux系統,采用Python語言進行編程。首先利用Socket無線通信把樹莓派作為客戶端連接到服務器,開啟客戶端并將其連接到服務器的IP地址和端口號,接收服務器數據。然后根據通信協議解析數據,最后利用Firmata協議將控制舵機和電機數據發給Arduino。Arduino根據接收到的數據,控制對應引腳產生不同占空比的PWM信號來控制舵機和電機的轉動。樹莓派接收煙霧傳感器和溫濕度傳感器的反饋值,與設定閾值比較決定是否報警。

    本設計利用安卓開發了手機APP[12],可使在外的家人通過機器人實時查看家中情況,及時發現家中緊急情況。圖4為手機APP界面,點擊連接按鈕,手機APP會自動登錄服務器。左邊是實時視頻監控界面,可實現360°旋轉監視、拍照、錄像等功能,還可通過對講功能與家里的老人和病人進行視頻通話;右邊是機器人控制界面,通過前后、左右按鈕控制機器人的運動,從而實現了與傳統固定攝像頭監視不同的室內移動視頻監視功能。

ck1-t4.gif

3 功能實現

    Processing程序對Kinect深度數據進行采集,利用上文動作識別算法對數據進行處理,把控制信號傳給機器人。操作者可以用雙臂體感控制機械臂,并且實時性很好;可以用腿部的前后移動體感控制機器人的前后移動,并且可以調速;可以利用雙腿的分開程度控制機械夾爪的開合。實驗表明,本算法的動作識別準確率較高,而且光照、背景、操作者和操作者位置的變化對算法影響較小。測試結果如圖5和圖6所示。系統可實現機器人的體感控制,幫助家里的老人和病人抓取物品。

ck1-t5.gif

ck1-t6.gif

4 結束語

    設計制作了基于Kinect的家庭助理機器人系統,可通過機器人的體感控制幫助在家無人照顧的老人和病人抓取物體。在外的家人可通過手機App遠程監視室內情況并可視頻通話,使老人和病人得到更好的照顧。通過實驗測試,該系統工作正常,可實現以上各項功能。

參考文獻

[1] 馬響.基于Java語言在Web開發的知識探討[J].信息技術與信息化,2015,13(15):169-171.

[2] 蘇祥林,陳文藝,閆灑灑.基于樹莓派的物聯網開放平臺[J].電子科技,2015,28(9):35-37.

[3] 崔陽,張維華.一種基于Arduino的智能家居控制系統[J].計算機技術與應用,2014,40(4):123-125.

[4] PANSARE J R,BANSAL M.A system to recognize dynamic hand gestures using hidden markov model to control windows applications[J].International Journal of Computer Applications,2013,62(15):169-171.

[5] SU C J,CHIANG C Y.Kinect-enabled home-based rehabilitation system using dynamic time warping and fuzzy logic[J].Applied Soft Computing,2014(22):652-666.

[6] FABRIZIO P,SERGIO B.An open source framework for hand pose and gesture recognition using kinect[J].Visual Computer,2014(30):1107-1122.

[7] 朱國剛,曹林.基于Kinect傳感器骨骼信息的人體動作識別[J].計算機仿真,2014,31(12):329-333.

[8] 王梅,盧熙昌.基于人體動作識別的服務機器人手臂運動控制[J].工業控制計算機,2015,28(9):59-62.

[9] 戰蔭偉,于芝枝.基于Kinect角度測量的姿勢識別算法[J].傳感器與微系統,2014,33(7):129-132.

[10] 陳翰雄,黃雅云,劉宇,等.基于Kinect的空中手勢跟蹤識別的研究與實現[J].電視技術,2015,39(21):91-94.

[11] 蔡菁,程雷,王紅霞.基于Kinect的疲勞駕駛綜合監測系統研究[J].計算機工程與科學,2015,37(12):2380-2385.

[12] 薛亮,張繼飛.基于IOS的智能家居安防系統移動端設計[J].計算機技術與自動化,2016,35(2):89-92.



作者信息:

黨宏社,侯金良,張  超

(陜西科技大學 電氣與信息工程學院,陜西 西安710021)

此內容為AET網站原創,未經授權禁止轉載。
亚洲一区二区欧美_亚洲丝袜一区_99re亚洲国产精品_日韩亚洲一区二区
亚洲免费电影在线| 亚洲精品一区在线| 99精品99| 亚洲国产精品999| 欧美精品成人一区二区在线观看| 亚洲第一综合天堂另类专| 在线精品国产欧美| 欧美破处大片在线视频| 亚洲综合色激情五月| 性欧美暴力猛交另类hd| 国产自产2019最新不卡| 欧美a级一区| 亚洲一区二区精品视频| 午夜视频在线观看一区| 亚洲成色999久久网站| 欧美日韩国产二区| 亚洲在线观看免费| 欧美诱惑福利视频| 亚洲黄色一区| 国产精品久久久久久久久免费桃花 | 亚洲在线黄色| 国产综合网站| 国产一区二区精品久久| 欧美经典一区二区| 欧美国产日韩视频| 午夜影视日本亚洲欧洲精品| 亚洲黄色一区二区三区| 亚洲一区二区影院| 亚洲国产高清aⅴ视频| 亚洲成人在线| 亚洲国产一区在线| 亚洲精品欧美极品| 99国内精品久久| 极品日韩久久| 国产精品v欧美精品∨日韩| 久久手机精品视频| 亚洲欧美韩国| 欧美一区二区精品久久911| 亚洲伦理在线观看| 欧美一区二粉嫩精品国产一线天| 先锋影音一区二区三区| 久久精品国产清高在天天线| 日韩午夜精品视频| 一区二区三区四区在线| 亚洲国产高清在线观看视频| 亚洲日本免费| 在线观看国产成人av片| 亚洲日本欧美天堂| 在线视频你懂得一区| 亚洲欧美日韩爽爽影院| aa成人免费视频| 影音先锋国产精品| 亚洲欧洲一区二区三区久久| 一区二区三区四区五区视频| 欧美在线观看你懂的| 日韩视频中文| 欧美一区二区三区视频在线观看 | 亚洲欧美日韩一区在线| 久久se精品一区二区| 亚洲午夜高清视频| 亚洲区第一页| 亚洲影院免费观看| 亚洲黄色在线观看| 亚洲综合三区| 男人天堂欧美日韩| 国产精品久久久久一区| 欧美日韩专区| 欧美精品久久久久久久免费观看| 欧美性jizz18性欧美| 国产综合第一页| 日韩午夜中文字幕| 亚洲福利视频网| 亚洲一区日韩在线| 久久亚裔精品欧美| 国产精品久久久久久久久久免费| 激情综合色丁香一区二区| 夜夜嗨av色一区二区不卡| 欧美一区二区三区免费看| 夜夜嗨av一区二区三区免费区| 久久国产主播| 欧美制服丝袜第一页| 欧美一级日韩一级| 欧美国产精品| 国产综合自拍| 亚洲午夜久久久久久久久电影院| 亚洲人体大胆视频| 亚洲人成7777| 亚洲欧洲精品一区二区三区| 亚洲专区国产精品| 欧美黄色免费网站| 国产一区二区久久| 亚洲午夜女主播在线直播| 亚洲精品视频免费在线观看| 久久国产精品电影| 国产精品xvideos88| 亚洲国产一区在线| 亚洲国产精品女人久久久| 欧美在线999| 国产精品v欧美精品v日本精品动漫| 1000精品久久久久久久久| 先锋影音网一区二区| 午夜免费日韩视频| 欧美视频在线一区二区三区| 亚洲激情综合| 亚洲精品免费电影| 免费不卡在线视频| 欧美精品日韩综合在线| 狠狠色丁香婷婷综合| 亚洲第一搞黄网站| 午夜视频久久久久久| 亚洲一区二区三区影院| 欧美精品日韩精品| 最新国产乱人伦偷精品免费网站| 亚洲国产精品123| 久久久久国产精品一区| 欧美91大片| 狠狠色狠狠色综合日日tαg| 午夜精品久久久久久久男人的天堂 | 羞羞漫画18久久大片| 欧美午夜无遮挡| 9久re热视频在线精品| 在线综合视频| 午夜一区在线| 欧美午夜精品久久久久久孕妇| 亚洲精品韩国| 日韩网站免费观看| 欧美精品一级| 亚洲欧洲另类| 亚洲美女在线一区| 欧美精品一区二区久久婷婷| 亚洲激情视频网站| 亚洲精品乱码久久久久久| 欧美大胆人体视频| 国产精品美女主播| 亚洲视频成人| 亚洲在线免费观看| 国产精品乱码久久久久久| 亚洲小视频在线| 午夜在线一区| 国产午夜亚洲精品不卡| 亚洲精品欧美| 亚洲视频视频在线| 国产精品久久久久婷婷| 亚洲欧美综合| 久久久久久自在自线| 国产精品成人一区二区网站软件| 夜夜嗨av色一区二区不卡| 亚洲免费在线视频| 国产精品专区h在线观看| 亚洲国产国产亚洲一二三| 亚洲精品偷拍| 欧美日韩午夜视频在线观看| 国产一区二区高清| 亚洲第一中文字幕| 欧美激情综合色综合啪啪| a91a精品视频在线观看| 性视频1819p久久| 国产综合色精品一区二区三区| 亚洲人人精品| 欧美视频在线观看免费网址| 欧美亚洲免费高清在线观看| 男女激情久久| 一区二区精品在线| 久久国产手机看片| 亚洲国产精品ⅴa在线观看| 亚洲午夜激情免费视频| 国产人久久人人人人爽| 一区二区三区精品| 欧美专区亚洲专区| 亚洲丁香婷深爱综合| 亚洲一区不卡| 影音先锋成人资源站| 亚洲男人的天堂在线| 激情另类综合| 亚洲图片在线观看| 国内成人精品一区| 亚洲图片欧美午夜| 伊人男人综合视频网| 亚洲一区二区欧美日韩| 黄色精品一区二区| 亚洲小说欧美另类社区| 黄色成人在线| 亚洲特级毛片| 国内精品久久久久久影视8| 一个色综合av| 欧美日本视频在线| 午夜久久资源| 欧美日本在线观看| 欧美在线一二三四区| 欧美色综合天天久久综合精品| 久久精品国产2020观看福利| 欧美视频在线观看视频极品| 亚洲福利国产精品| 国产精品性做久久久久久| 亚洲午夜未删减在线观看| 蜜臀久久99精品久久久久久9| 亚洲午夜国产一区99re久久 | 久久噜噜噜精品国产亚洲综合| 亚洲毛片在线观看| 日韩视频中文|