Hoofdcategorieën
Device Settings

Robot krijgt driedimensionaal zicht door Kinect

Door Willem de Moor, donderdag 18 november 2010 15:57, views: 24.908

De Kinect-sensor is door een groep wetenschappers van het Massachusetts Institute of Technology gebruikt om een robot van 3d-zicht te voorzien. De robot kan dankzij Kinect omgevingen in kaart brengen en mensen herkennen.

Diverse ontwikkelaars van het ROS, een opensource-besturingssysteem voor robots, werken aan een ROS-driver voor Kinect. Microsofts systeem met afstandsensor, kleuren- en twee zwartwit-camera's en microfoons zou zich uitstekend lenen als sensorplatform voor robots. Niet alleen zijn alle sensors in één kleine behuizing geïntegreerd, ook de prijs is relatief laag en de verkrijgbaarheid is niet voorbehouden aan onderzoekslabs. Dat is ook reden voor de Personal Robots Group van het MIT om met de Kinect-sensor aan de slag te gaan.

Zij plaatsten een Kinect-sensor op een iRobot Create, een robot bedoeld voor hobbyïsten die door de fabrikant van de Roomba-serie gemaakt wordt. De door de sensor vergaarde camera- en diepte-informatie wordt naar een pc gestuurd en daar verder verwerkt tot een driedimensionaal beeld van de omgeving. De robot kan die data weer gebruiken voor navigatiedoeleinden. Ook kunnen mensen herkend worden en de gebaren die zij maken kunnen als commando worden geïnterpreteerd. Ook de data die van de microfoons en accellerometer afkomstig is, kan door de robot gebruikt worden.

Philipp Robbel en zijn collega's van de Personal Robots Group hebben de iRobot Create voorzien van de Kinect Sensor, een extra afstandsbepaler, lipo-accu en een Atom-pc. Op de host-pc wordt de sensordata die de robot verzamelde verwerkt: middels slam-berekeningen wordt een 3d-kaart gegenereerd. Ook kunnen gebaren worden herkend en geïnterpreteerd, zodat eenvoudige besturingscommando's aan de robot kunnen worden gegeven. Wanneer de ROS-ontwikkelaars hun driver gereed hebben, zou de Kinect-sensor door een breder publiek als onderdeel voor robots ingezet kunnen worden. 

Volgende 16:10 'Apple en Sony werkten in 2004 aan voorloper iPhone'
Vorige 15:23 Amsterdam trekt 94 miljoen extra uit om ict-problemen aan te pakken
Advertentie

Reacties

«  1  2  3  »

Kijk dit is nu echt cool, techniek ergens anders toepassen voor een klein prijsje

[Reactie gewijzigd door sjaakwortel op donderdag 18 november 2010 15:58]


Microsoft Cylon 1.0 in 2012 :P

Ik denk dat Graystone dan falliet gaat.

geen vrees voor... zal vast niet goed functioneren en behoorlijk veel resources vreten... plus de licentie kosten voor de de OS
Als een n00b in een hoekje lopen.

Als er nu een minder zware stabiel open source OS op zou draaien... daar moet je wel gaan vrezen

Dat is wat de techniek nu is, ja. Maar misschien over een paar jaar heb je AI players die met deze functionaliteit een "zie" functie hebben. Niet alleen maar reageren op "range driven" events maar wat het oog kan zien.

Zo kan een AI niet ver van de mensheid af zitten, misschien wel diepzinnig maar daar komt het eigenlijk wel op neer.

Daar is Microsoft vast blij mee, haha. Nog geen week geleden zeiden ze dat ze er alles aan zouden doen om "misbruik" tegen te gaan :P

Doen ze ook, ze zorgen ervoor dat NIEMAND door marketeers wordt bekeken in de huiskamer vanuit de 360 omdat er helemaal geen Kinects meer over zijn :P

Wel opvallend, is er ook maar EEN verhaal geweest tot nog toe over een spel dat het gebruikt? Je weet wel. Voor op de 360? Kan toch ook?

Ze maken een Star Wars spel.

Als je een Kinect loskoppelt van de xbox is het toch gewoon een stereo camera? Wat maakt de Kinect zo bijzonder dan?

dat er ook nog een IR projector in zit en de drivers natuurlijk

Het kost bijna niks, en werkt zeer accuraat ;) en aangezien er nu al gratis opensource drivers beschikbaar zijn is dat ideaal voor de ontwikkelaar of onderzoeker.

Zucht. Deze vraag wordt standaard in elk nieuwsitem over Kinect gesteld, dus daar gaan we dan weer: het heeft een dieptecamera. Die kosten dus normaal duizenden euro's, en kinect kan d.m.v. de IR projector/camera vrij nauwkeurig een 3D beeld vormen (met 1 IR camera dus, de 2e camera is er puur zodat het dieptebeeld over een mooi kleurenplaatje gelegd kan worden)

Het is geen stereocamera. Met behulp van een IR-projector wordt een bekend patroon van IR-puntjes geprojecteerd op de omgeving. Aan de hand van de geometrische vervorming van dit patroon wordt bepaald hoe de omgeving wat betreft diepte eruit moet zien om deze vervorming te bewerkstelligen.

Let wel; Een stereo camera kun je calibreren zodat je er haarfijn mee kunt meten en het dieptebeeld dus afstanden bevat. Voor zover ik weet is dit met Kinect niet in die hoge nauwkeurigheid mogelijk. Er is slechts informatie beschikbaar die van iedere pixel zegt of deze voor of achter een andere pixel ligt.

Dat lijkt me niet helemaal correct. Afstandsbepaling is juist met grote nauwkeurigheid mogelijk. Je meet hoe lang het uitgezonden licht erover doet om terug te komen. Je weet de snelheid van IR licht door 'lucht' en dus weet je de afstand.

Dat lijkt me niet helemaal correct. Afstandsbepaling is juist met grote nauwkeurigheid mogelijk. Je meet hoe lang het uitgezonden licht erover doet om terug te komen. Je weet de snelheid van IR licht door 'lucht' en dus weet je de afstand.
Dat zijn TOF (time of flight) cameras en die werken anders en hebben doorgaans veel lagere resoluties. De convolutie tussen een uitgaand signaal en een inkomend signaal wordt bepaald en daar wordt dan een afstand uit gehaald. Omdat de lichtsnelheid hoog is kan dit vrij snel en dus voor veel punten gedaan worden.

Waar je wel op moet letten bij zulke cameras is dat er doordat er verschil in absorptie kan zitten van een bepaalt vlakje er diepteverschillen gemeten kunnen worden terwijl een object toch echt vlak is, een voorbeeld hiervan zou een A4tje zijn waarvan de helft zwart en de andere helft wit is. Door het verschil in absorptie komt het wit dichterbij (of juist verderweg, is even weggezakt ;) ).
Het is geen stereocamera. Met behulp van een IR-projector wordt een bekend patroon van IR-puntjes geprojecteerd op de omgeving. Aan de hand van de geometrische vervorming van dit patroon wordt bepaald hoe de omgeving wat betreft diepte eruit moet zien om deze vervorming te bewerkstelligen.

Let wel; Een stereo camera kun je calibreren zodat je er haarfijn mee kunt meten en het dieptebeeld dus afstanden bevat. Voor zover ik weet is dit met Kinect niet in die hoge nauwkeurigheid mogelijk. Er is slechts informatie beschikbaar die van iedere pixel zegt of deze voor of achter een andere pixel ligt.
Wat zowel een stereo camera als deze doen is het toevoegen van een vergelijking aan het 2D beeld dat locatie afhankelijk is en daardoor kan een 3D punt worden bepaalt. De nauwkeurigheid die je dus kan gaan halen is dus vergelijkbaar en is afhankelijk van de nauwkeurigheid waarmee je je setup maakt. Een slechte calibratie (wat je ook met IR licht moet doen, je wilt immers weten vana welke punt je licht wordt verzonden) of een lage resolutie van een camera zorgt er voor dat de nauwkeurigheid omlaag gaat.

Een voordeel wat je natuurlijk hebt met IR licht erbij is dat je goede vergelijking kan opzetten, met een stereo camera kun je immers false matches hebben en daarnaast je zal de matching moeten verzorgen, wat niet mogelijk is voor egale oppervlakken (je weet immers niet welke pixel in de ene afbeelding bij welke pixel in de andere afbeelding hoort).

Nu we het toch over extra vergelijkingen hebben, wat dacht je van een goede beeldverwerking van 2D beelden, in combinatie met wat goede voorkennis kun je dan gewoon 3D kijken met 1 camera ^^ (net als een mens)....

@hieronder:
Het is larie dat de mens enkel 3D ziet door met beide ogen te kijken. Met 1 oog kan ik een prima diepte schatting van de omgeving maken en dat kan ik ook van een afbeelding of video. We gebruiken dan ook veel informatie uit 2D afbeeldingen, denk aan overlappende objecten, perspectief, maar ook zaken als schaduw geven info weer over 3D informatie. De mens krijgt ook nog extra vergelijkingen door relatieve beweging (optical flow concept) ten opzichte van het object, naast de stereoscopie en accomodatie van de ogen die jij aangeeft.
Een mens is inderdaad visueel voor de gek te houden, maar ik geef ook niet aan dat dat niet zo is. Je zal hier dan ook aanpassing van de waar te nemen wereld moeten maken, voor normale situaties (waaronder dus ook het verkeer, hier wordt juist alles zo constant mogelijk gemaakt!!) zal er echter weinig aan de hand zijn. Daarnaast ben ik net klaar met mijn stage, waar ik een vision algorithme heb ontwikkeld dat met 1 camera de 3D locatie en orientatie kan waarnemen, dus het is gewoon zeer goed mogelijk.

[Reactie gewijzigd door Zartok op vrijdag 19 november 2010 09:34]


Goede en duidelijke uitleg. Helaas gaat alleen de laatste zin de fout in; een mens kijkt 3D met behulp van de informatie van beide ogen. Mensen met zicht aan één oog kunnen slechts afstanden inschatten op basis van de overige informatie in de omgeving. (je weet bijvoorbeeld hoe groot stoel 1 is, en als ie iets kleiner lijkt dan stoel 2, dan zal ie wel iets verder weg zijn). Mensen zonder stereo-scopisch zicht zijn dan ook heel makkelijk te 'foppen' door items die te groot of te klein zijn. (dit kan in het verkeer dus best gevaarlijk zijn.)
Dit wordt slechts héél beperkt aangevuld door de benodigde inspanning van de oogspier, aan de hand waarvan ook afstand in te schatten is. Dit maakt echter alleen onderscheid tussen heel dicht bij en verder weg.

Er zaten meer fouten in hoor. ;)

In de Kinect zit geen TOF camera, maar een IR cmos. Die kost €20. Consumentenprijs. Echt waar. Je kunt bij de electronicazaak leuke setjes krijgen:
http://www.sparkfun.com/products/8773
(En ik zeg niet precies DEZE, maar zoiets als dit. Ik roep ook maar ff snel wat.)
Als MS ze groot inkoopt kosten ze een fractie hiervan. Denk €2 per stuk, Max.

De 'grap' is IR licht weg te sturen in pulsen, en deze pulsen weer op te vangen en met software plaats (x,y) en tijd te meten. De derde dimensie kun je dan berekenen met redelijk simpele algortihmes (afstand is snelheid maal tijd, stelling van pythagoras, om mee te beginnen) en het 3D plaatje is geboren. Als de camera daarnaast ook nog beweegt, kun je met delta (x,y) dynamische diepteberekening doen en angsaanjagend nauwkeurige 3D plaatjes maken. Resolutie van de sensor is niet eens zo heel erg interessant. Maargoed, als deze frut kun je op je zolderkamertje programmeren in een miniPC of misschien zelfs wel op een EEPROM. Zoals vroeger. :9

Damn, ik word oud. :D

@ mrlammers, vrijdag 19 november 2010 12:25

nieuws: Lasercamera kijkt om de hoek

U heeft deze ontwikkeld? }:O

Neen. Maar ik ben wel bekend met de techniek die hierachter zit:
mrlammers in 'nieuws: Lasercamera kijkt om de hoek'

De Kinect heeft toch een veel grotere invloed op de technologie dan verwacht.
Het werd ontwikkeld als gamecontroller en uiteindelijk gebruikt als robotogen en computercontroller.

Ben benieuwd wat we over 3 jaar wel niet kunnen dankzij de Kinect.

Verbaasd me eigenlijk dat Microsoft zelf nog geen dingen voor de Kinect aan het ontwikkelen is buiten de xbox om.

Kinect zou overigens goed gebruikt kunnen worden om apparaten met gebaren te bedienen. Erg handig voor luie mensen en al helemaal voor blinden.

In eerste instantie was MS daar ook mee bezig... TV afstand bediening, gebarentaal interpretatie e.d.... Maar het lijkt er op dat je daarvoor toch een hogere resolutie nodig hebt, hetgeen de Kinect extra duur zou maken. En dat past dus niet in het economische plaatje van de game console.

Ik denk echter dat wanneer Kinect een succes wordt, er vrij snel een 'Kinect Plus' met hogere resolutie zal komen, en het breder zal worden toegepast.

Dat je er niets over leest wil niet zeggen dat ze echt niets doen..
Ze wachten even af om af te kunnen kijken bij anderen, dat scheelt een boel geld in ontwikkelkosten en die zijn al aardig hoog geweest voor de hele Kinect. (En als je het onder de loep neemt ook nog vrij brak uitgevoerd, alles op minimaal waar veel meer te halen is)

uuh denk dat ze die 500 mil marketing eerst terug willen verdienen of in ieder geval weet wat kinect is zodat wanneer de nieuwe xbox met waarschijnlijk een hogere res kinect uitkomt marketing niet zo duur hoeft te zijn omdat kinect dan al in de folks mond zit.

En microsoft is nu aggresief alle bedrijfjes aan het over kopen die soortelijke technieken in 3D camera maken als kinect om hun markt voorsprong zolang mogelijk vol te houden of later als enigste licensies te verlenen ze verdienen het niemand wou zoiets radival als kinect doen dus als het lijkt kunnen ze misschien kappen met dat er geen innovatie in ms zit.

Weet iemand of ze winst maken op dit product? Wat bijv. bij de PS3 het geval is dat ze verlies maken op de console (Weet niet of dat nu nog zo is) en winst door de spellen.

Hoop niet dat dit bij microsoft ook het geval is? Anders mogen ze absoluut niet klagen vooral niet bij dit apparaat wat niet echt een concurrent is van de xbox (hele andere markt)

Erg leuk om te zien wat sommige mensen wel niet kunnen met al die apparaten :)

[Reactie gewijzigd door Vinnybinny op donderdag 18 november 2010 16:04]


zolang dat ding maar verkoopt lijkt me wel dat ze winst maken. ik krijg ook steeds meer het vermoeden dat ze veel meer kunnen doen met de kinect dan ze ooit gedacht hadden..

Dat lijkt zo, maar verlies maken en lachen is iets wat in de bedrijvenwereld heel gewoon is. Gewoon reclame blijven maken, zeggen dat je product het beste is, en lekker goedkoop. Ook als er geen winst is, ook als er verlies is. Het gaat steeds meer om het idee dat je klanten moet binden, en dat je daarna kan gaan melken. (Zoals Microsoft licenties werken)

[Reactie gewijzigd door johnkeates op donderdag 18 november 2010 16:26]


Je hoeft niet perse winst op de hardware te maken... zolang je maar meer winst op de software/consumables kunt maken.

Dacht gebeurt o.a. met consoles, waarbij de console soms te goedkoop verkoopt wordt, maar het dan terugverdiend wordt op de prijs van de spellen. Maar ook bij printers zie je het, waar het dan in de inkt wordt terugverdiend.

Vooral bij een console kan het logisch zijn om de hardware met weinig marge, of zelfs verlies, te verkopen, als je op die manier kan zorgen dat je je klanten aan jouw systeem bindt. Daarna komen de inkomsten dan vanzelf binnen via de spellen.

Juist bij Kinect, waarbij je een compleet nieuw concept op de markt brengt, hetgeen een nieuw soort van spellen vereist, is het heel erg belangrijk dat je heel snel een grote userbase weet op te bouwen. Want anders kun je developers niet verleiden er games voor te schrijven.

Tuurlijk gaat microsoft hier iets tegen doen. Stel je voor zeg, dat er meer Kinect camera's worden verkocht doordat iemand er wat anders mee doet dan de bedoeling was. Dat moet voorkomen worden!

Dat moet voorkomen worden!
Ik hoop dat dat sarcastisch bedoeld is? :?

Waarom zou dat voorkomen moeten worden? Als MS er winst op maakt, zou het voor hun geen probleem mogen zijn, het kan alleen maar hun verkopen van de xbox zelf ten goede komen als veel mensen dit ding in het nieuws en zo zien...

Maar als MS er verlies op maakt, dan kan het wel vervelend worden... Denk aan de PS3 die aanvankelijk veel als DVD speler gekocht werd, zonder dat er spellen gekocht werden. Dat was heel pijnlijk, want hij kostte op dat moment meer dan hij opleverde.

bij de ps2 was dit zo, bij de ps3 niet zo veel meer.

Een beetje verlies kost ook geld.

Het snel, gemakkelijk en goedkoop visualiseren en herkennen van de omgeving én personen door AI is dan eindelijk begonnen.

Cool dat schadeloze straling zoals IR hier een hoofdrol in speelt, dat is altijd een goed ding dat er niet meer radiogolven bijkomen.

@AHBdV; please jongen: lees anderen hun post voordat je iets brubbelt.

[Reactie gewijzigd door bert170881 op donderdag 18 november 2010 19:48]


IR is niets meer of minder gevaarlijk dan radiogolven... Beiden verwarmen slechts je lichaam als het je raakt. Je moet naar ioniserende straling om bij lage intensiteiten toch schade toe te brengen.

Haha cool, nu naar een verre planeet en kom maar op met die aliens :D

Zou Microsoft dan de 1e stap hebben gezet voor the Rise of the Machines?

Serieus:
Leuk om te zien dat de Kinect voor andere doeleinden word gebruikt
En dat het ook echt werkt.
Ben benieuwd wat we nog meer kunnen gaan verwachten.

Ik voorzie een nieuwe manier van oorlogsvoering zo met die rode stop op dat hoofd in het plaatje.
Binnenkort robots die met elkaar vechten ? Om doomdenken maar achterwege te laten.

Gecombineerd met de Big Dog van Boston Dynamics (zie: http://www.youtube.com/watch?v=cHJJQ0zNNOM ) krijg je inderdaad een eerste opzet van de terminator... Nu nog mensen laten herkennen of het verschil tussen een gijzelaar en een gijzelnemer en je hebt een hele enge oorlogsmachine...
«  1  2  3  »

Op dit item kan niet meer gereageerd worden.

Volgende 16:10 'Apple en Sony werkten in 2004 aan voorloper iPhone'
Vorige 15:23 Amsterdam trekt 94 miljoen extra uit om ict-problemen aan te pakken
VNU Media logo Hosted by True

© 1998 - 2012 Tweakers.net B.V. - Alle rechten voorbehouden - Contact - Jouw privacy - Algemene Voorwaarden

Uitgever van:

Website van het jaar 2011