Ontwikkelaars verkrijgen volledige toegang tot database Rabbit R1

Ontwikkelaars hebben toegang weten te krijgen tot de API-keys en volledige database van antwoorden van Rabbit R1-apparaten. Daardoor konden zij alle antwoorden inzien en veranderen, de back-end laten crashen en stemmen wijzigen.

Rabbit R1

De ontwikkelaars, verenigd onder de vlag van Rabbitude, claimen dat zij toegang hadden tot onder meer de API-keys voor ElevenLabs voor text-to-speech, Yelp en Google Maps. Daardoor konden zij alle antwoorden van R1’s inzien, inclusief persoonlijke informatie. Ook was het mogelijk om tekst te wijzigen en de hele back-end te laten crashen.

Rabbitude bracht naar eigen zeggen het bedrijf Rabbit een maand geleden op de hoogte van het lek. Het bedrijf negeerde de ontwikkelaars en wijzigde vervolgens de API-keys. Daardoor werkten alle R1’s tijdelijk niet woensdag, meldt Rabbit. De API-key van maildienst SendGrid werkt nog wel, meldt Rabbitude.

Het lek was mogelijk omdat de API-keys hardcoded staan in de software van alle R1’s, maar de onderzoekers onthullen geen details over hoe zij erbij konden. Dat Rabbit de API-keys heeft gewisseld, wijst erop dat hackers die nog steeds zouden kunnen vinden in de software.

Rabbit kondigde de R1 in januari aan en bracht hem dit voorjaar uit. Het apparaatje is bedoeld voor gebruik als AI-assistent en werkt vooral met stemcommando's. Het kan bovendien acties namens gebruikers uitvoeren in diensten van derden.

Reacties (42)

[Ma_rK]

Ik durf mezelf wel een early adopter te noemen en heb echt een hoop tech te vroeg gekocht. Zo ook de Rabbit R1. Ik durf te zeggen dat de Rabbit R1 officieel de slechtste tech-ervaring is die ik ooit heb gehad. De meest primaire zaken werken niet.

* Nederlands wordt buitengewoon slecht verstaan.
* De wifi-verbinding is onvoldoende op 5 meter van een AP (Ubiquiti UniFi).
* Als die verbinding wegvalt -en dat is vaak-, raak je alle ingesproken tekst kwijt (WTF).
* Het scannen van de QR-code om je apparaat te linken met de online omgeving werkt niet (moet alle lampen aandoen, het scherm van mijn telefoon op lage helderheid en zelfs toen had de camer moeite met het vinden van focus). .
* Je kunt het touchscreen niet gebruiken als touchscreen.
* Je kunt je account niet linken met Spotify. Het is gewoon nog niet ontwikkeld voor mobiel, maar ook in de online web omgeving werkt de functie niet. Je blijft hangen op "starting your login session" zonder enige foutmelding ( ja een 504 als je console opent).
* Het scrollwiel is te traag en de snelheid is niet instelbaar.
* De taal van het apparaat is niet instelbaar.
* Er zijn geen updates die deze problemen die er al sinds het begin zijn oplossen.
* Het apparaat is enorm snel leeg en laadt heeeeeeel traaaaaaaag op.
* Je kunt handmatig invoer geven op het apparaat, maar probeer jij maar eens foutloos te typen op een scherm kleiner dan je smartphone zonder tekstsuggestie of auto-tekstverbetering.
* Maak je een foto met het apparaat, dan wordt die opgeslagen als een AI-gegenereerd plaatje op basis van je foto en de originele foto ben je kwijt. En dat kun je niet wijzigen in de instellingen?!?
* En het ene ding waar het apparaat goed in zou moeten zijn: het beantwoorden van vragen, gaat de helft van de tijd fout.

En dit ondervind je allemaal in het eerste uur gebruik. Het is schandalig dat dit op de markt gebracht mag worden. En als een bedrijf zo'n apparaat zo op de markt brengt zegt dat alles over het bedrijf en dus ook over de veiligheid van de data waar ze toegang tot krijgt. Onaf en onveilig.

Installeer Perplexity en ChatGPT op je telefoon en je hebt een 10x betere ervaring.

Koop het apparaat gewoon niet. Ook niet omdat je denkt "dit moet ik gewoon getest hebben".

[Reactie gewijzigd door Ma_rK op 22 juli 2024 16:47]

[Richh]

Dat is helaas inderdaad de realiteit. Een goeie video die het een en ander uitlegt is deze: YouTube: $30,000,000 AI Is Hiding a Scam

TLDR: de makers van de Rabbit R1 hebben enkele jaren een soort crypto-NFT achtige metaverse opgezet, of althans de belofte gedaan dat dat ooit zou komen. Wat natuurlijk nooit zover is gekomen. Het heeft in ieder geval veel mensen een hoop geld gekost en het project is nu dood, en deze oprichters hebben nu opeens genoeg geld om een product te maken.

De indrukwekkende belofte die men deed, is dat men met behulp van AI, de interface van verschillende apps kan begrijpen. Daardoor is er geen interface van Spotify, Uber, Thuisbezorgd etc meer nodig: Rabbit 'snapt' het en ook na updates van het origineel zou het gewoon moeten werken - dat is de belofte.

Het lijkt er echter op dat Rabbit gewoon een soort headless Selenium achtige scripts op websites los laat en duimt dat het werkt en blijft werken. Dergelijke diensten willen echter natuurlijk bots blokkeren en dus werkt het vaker niet dan wel...

Het verbaast me dan ook helemaal niks dat een issue zoals gemeld in dit artikel, voorkomt. Het is gepruts. En eigenlijk niks meer dan een cash grab op de nieuwste tech hype.

[smiba]

* Het apparaat is enorm snel leeg en laadt heeeeeeel traaaaaaaag op.

Heb hier op mijn r1 geen last van trouwens, is echt in een uurtje bijna vol en doet het dagen lang op standby met hier en daar gebruik.

Wifi verbinding is wel echt vrij ruk ja, ook helemaal rot dat je dan gewoon opnieuw kan beginnen met inspreken.

* Maak je een foto met het apparaat, dan wordt die opgeslagen als een AI-gegenereerd plaatje op basis van je foto en de originele foto ben je kwijt. En dat kun je niet wijzigen in de instellingen?!?

Je kan in de online omgeving ("Rabbit hole") gewoon op "view original" drukken, maar het blijft een beetje een lage kwaliteit foto die imo weinig te bieden heeft.

Vind het een raar product, maar ik heb het nu een weekje en vind het ergens ook wel fijn om gewoon een dedicated device te hebben. Verder gemixte gevoelens
Zou m voor het bedrag niet aanraden

[Reactie gewijzigd door smiba op 22 juli 2024 16:47]

[dezman]

Ik ben het volledig met je eens. Ik heb het apparaat nu al twee weken in gebruik en het blijkt effectief te zijn voor diverse taken. Er is inmiddels een software-update uitgerold die de grootste problemen, zoals batterijproblemen, heeft verholpen. Ondanks de aanvankelijke beperkingen heeft dit "simpele" apparaat nu al aanzienlijke mogelijkheden.

Als je hebt geluisterd naar Teenage Engineering, begrijp je dat het de bedoeling is dat dit toestel leert en dat dit in de toekomst de sleutel zal zijn. In het begin onthield de Rabbit alleen mijn naam, maar nu onthoudt het ook andere zaken, waardoor het zijn potentieel steeds meer laat zien. Tijdens vergaderingen in het Engels, bijvoorbeeld, kan het apparaat nu de volledige vergadering samenvatten, wat ontzettend handig is. Bovendien wordt alle informatie veilig opgeslagen in je account. Veiligheid van gegevens is niet langer een probleem; je smartphone is immers ook constant verbonden, waardoor deze discussie achterhaald is.

Hoewel €200 voor de hardware en de software, die nog in de kinderschoenen staat, een aanzienlijk bedrag is, moeten we er allemaal aan blijven werken. Laten we binnen een jaar opnieuw evalueren.

[Reactie gewijzigd door dezman op 22 juli 2024 16:47]

[Hobbit13]

Gaat iedereen in de meeting er mee akkoord dat de volledige transcriptie naar/via een vage partij buiten de EU gaat?
Denk dat dat vrij snel een overtreding is van de AVG/GDPR, en je ook te koop loopt met allerlei bedrijfsgeheimen die je niet zo maar op straat wilt hebben.

[danielsrje]

Oh ... eh ... dus omdat je smartphone intrinsiek onveilig is, maakt het niet uit dat dit apparaat ook intrinsiek onveilig is? Ik zou het eigenlijk als een dubbel probleem zien

[Oon]

Het vetste aan de touchscreen vind ik nog dat die dus wel een volwaardig touchscreen is, maar ze doen er niks mee. Het is gewoon een Android apparaat, zo hier iemand die er weer gewoon Android op installeert.
Maar de software die er standaard op zit is zo slecht en nutteloos, echt niet normaal.

[icecreamfarmer]

Het doel van het apparaat is investeerders oplichten. Niet meer en niet minder.

[REDSD]

Zou een product wat zo slecht is en met een duidelijke discutabele reputatie, nog aandacht mogen krijgen op tweakers vraag ik me af. Er zijn teveel partijen in dit domein actief die alleen uit zijn op geld ten koste van alles, dit product is er één van de vele volgensmij.

[Q]

Dit is wat je kunt verwachten als crypto bros pivotten naar AI

[Alxndr]

Het bespreken is een ding, het blijft tech. Maar geen enkele melding van de problemen is idd ondermaats.

[iqcgubon]

Schadenfreude

[skimine]

Ik denk dat juist zoiets als een datalek bij een apparaat met deze reputatie belangrijk is om te vermelden. Verder staat er hier in de reacties voldoende informatie om te duiden wat voor soort product (en bedrijf) het hier betreft. Ik heb zo'n vermoeden dat dit artikel met bijbehorende reacties niet gaat leiden tot meer verkochte konijntjes

[Rob]

De aandacht zorgt er nu voor dat mensen gewaarschuwd worden voor dit product.

[the_stickie]

Ik denk dat het net goed is dat media problemen onder de aandacht brengen. Zonder die dekking waren nog veel meer slachtoffers gemaakt met deze oplichtingspogingen.

[[Yellow]]

'Just put the keys in there. We will fix it later'
Ik kom het echt veel te vaak tegen!

[JeroenED]

Maar hoe doe je het anders? Op een of andere manier moet je toch gaan authenticeren op de api? Url met authenticatie vanwaar je die ophaalt moet je ook gaan uitsluiten want dat is het probleem verleggen. Encryption? Ja, maar je moet decrypteren ook. Dus once again probleem verplaatst. Het enige waar ik aan denk is uw keys af en toe roteren. Maar dat meer een preventieve stap.

[kuurtjes]

De enigste goede oplossing is een eigen beheerde server waar je app via gaat, in plaats van rechtstreeks de services te gebruiken. Misschien kan je hier en daar authenticatie tokens voor je clients genereren, maar dat hangt van de service af.

[[Yellow]]

Een pragmatische oplossing is:
- Gebruik hard coded keys voor development
- Die zijn _alleen_ voor development systemen die met DEBUG gebouwd zijn, release systemen hebben lege keys!
- Bij het commissionen van een productie systeem maak je nieuwe unieke sleutel
- Die sleutel laat je het liefst op het apparaat zelf genereren
- Als dat niet kan moet je de key genereren in je commissioning tooling en in het apparaat programmeren (de key mag alleen tijdelijk in RAM bestaan anders kan je EMS ze alsnog lekken...)

[kuurtjes]

Zelfs als de API keys alleen in het geheugen ontsleutelen worden is het niet veilig. Dat is security by obscurity. Goede reverse engineers krijgen ze er zo uit.

Zoals ik zei moet je echt wel een eigen server dat de API keys beheert gebruiken als tussenstap, en de data doorgeven aan de client. Of indien de gebruikte API het toelaat, kan je server een tijdelijke authenticatie token genereren die je dan doorgeeft aan de client, waardoor die met deze token de API service kan aanroepen.

[Eric Oud Ammerveld]

Encryptie sowiezo; plus een sessie token die je in staat stelt tijdelijk te communiceren.
Daarbij alle decryptie van sleutels in het vluchtige geheugen doen, niets op disk en zeker niet persisten in de database.

Decrypten is geen probleem; ook het opstarten van een sessie niet.
Daarbij kun je ook de dienst van Elevenlabs "wrappen" zodat je evt. een quota kunt toepassen wanneer iemand voor de aanschaf van een Rabbit R1 denkt ElevenLabs onbeperkt te kunnen aanspreken.

Het toepassen van 1 enkele API key voor al je devices is not-done.
Je bent dan algehele controle gewoon kwijt; dat zijn oplossingen van amateur ontwikkelaars, zodra je gaat schalen ga je of de services wrappen of zorg je voor een bulk license van ElevenLabs met voor ieder device dus een eigen API key (die je kunt roteren; of per sessie of per device; whatever je nuttig acht).

[Oon]

Ook keys met encryptie op het apparaat opslaan is geen goede oplossing.

Je moet gewoon vanuit het apparaat maar één verbinding hebben, en dat is naar je eigen server. Dan kun je op serverniveau regelen dat je veilig verbindt met een andere partij, of bijv. automatische failover naar een tweede (duurdere of slechtere) oplossing als de eerste even niet beschikbaar is.

Als je toch bezig bent met al die koppelingen naar derde partijen is een laag ertussen zetten echt niet zo heel veel werk.

[JeroenED]

Dit soort zaken zijn mijn inziens gewoon logica en is bij mij gekend als een BFF. Ik ging er eigenlijk vanuit dat ze het apparaat hadden gereverse Engineerd en dat ze via api-calls naar de rabbitude server de keys van OpenAI of zo te pakken kregen. Er staat in het artikel enkel in dat de keys hardcoded in de software staan. Maar welke keys zijn dit? Dit kan evengoed de api-key van de server zijn.

[[Yellow]]

En hoe authenticeer je die ene (BFF) server dan?

[JapyDooge]

Het lek was mogelijk omdat de API-keys hardcoded staan in de software van alle R1’s, maar de onderzoekers onthullen geen details over hoe zij erbij konden.

Het was al een poosje bekend dat het stiekem gewoon een Android-device is met een app die fullscreen draait. Anderen hadden de APK er al af gehaalt en deze werkte stand-alone op een ander Android-toestel ook.

Ik neem aan dat ze gewoon in de APK gekeken hebben.

[Mayonaise]

Iedereen zag dat aankomen behalve AI Hype Bros op Twitter.

Ik denk dat er velen met verstand goed hadden voorspeld dat dit een app had kunnen zijn.

[Blaise]

Ik mis in dit artikel wat Rabbit R1 nou eigenlijk is.

[TheVivaldi]

Je bedoelt het laatste stukje

Rabbit kondigde de R1 in januari aan en bracht hem dit voorjaar uit. Het apparaatje is bedoeld voor gebruik als AI-assistent en werkt vooral met stemcommando's. Het kan bovendien acties namens gebruikers uitvoeren in diensten van derden.

?

[DarthRicmu]

Rabbit kondigde de R1 in januari aan en bracht hem dit voorjaar uit. Het apparaatje is bedoeld voor gebruik als AI-assistent en werkt vooral met stemcommando's. Het kan bovendien acties namens gebruikers uitvoeren in diensten van derden.
Echter is inmiddels aangetoond dan het geen van deze dingen ook echt kan en dat de LAM (Large Action Model) die Rabbit toonde in zijn videos en presentatie niet bestaat (of in ieder geval totaal niet kan wat men beloofde).

Heb het even gefixed voor je.

[Nico Klus]

Ik ook. In de laatste paragraaf wordt dat pas duidelijk. Die had beter aan het begin kunnen staan.

[Blokker_1999]

Het is in essentie een AI assistent waar je vragen aan kunt stellen en die je op je draagt. De reden dat dit geen app is op Android is doordat de app nooit goedgekeurd zou worden is vermoedelijk omdat de app continue geluid en video wenst op te nemen. Iets wat op Android niet mogelijk is.

De functionaliteit van het apparaat, in essentie dat waar de AI dus mee overweg kan, op getraind is, zou zeer beperkt zijn.

[Teun!]

Is dit niet mogelijk? Ik dacht dat mijn Pixel 8 by default de hele dag meeluisterde om "muziek te identificeren". Komt dit omdat het ingebouwd is en geen app?

[killercow]

En dat is acceptabel? goed om te weten dat je dus continue onder toezicht staat als er iemand met een pixel 8 in de buurt is.

[Richh]

De reden dat dit geen app is op Android is doordat de app nooit goedgekeurd zou worden

Dat betwijfel ik eigenlijk. Ik denk dat het (zij het in iets andere vorm) best geaccepteerd zou kunnen worden in de Play Store.

Daar valt echter minder geld mee te verdienen. Rabbit R1 is momenteel een cash grab levend op een hype, en geen fatsoenlijk product wat de belofte waar maakt.

is vermoedelijk omdat de app continue geluid en video wenst op te nemen. Iets wat op Android niet mogelijk is.

De spraakassistent is 'gewoon' in te wisselen binnen Android. Denk aan Cortana. Je kan daarmee altijd luisteren en (on device) op een keyword wachten, om op de vervolg query een server call te doen (hey Google, [opdracht naar server]).

Video is denk ik wel lastig, maar dat doet de Rabbit ook niet, de camera is default zo geplaatst in het device dat ie fysiek niet kan filmen.

De functionaliteit van het apparaat, in essentie dat waar de AI dus mee overweg kan, op getraind is, zou zeer beperkt zijn.

De grap is vooral dat dat nu dus ook al het geval is

[sfranken]

Het apparaatje is bedoeld voor gebruik als AI-assistent en werkt vooral met stemcommando's. Het kan bovendien acties namens gebruikers uitvoeren in diensten van derden.

Laatste zin in het artikel.

[emiel.kamzol]

Het artikel sluit er mee af.

Het apparaatje is bedoeld voor gebruik als AI-assistent en werkt vooral met stemcommando's. Het kan bovendien acties namens gebruikers uitvoeren in diensten van derden.

[Eric Oud Ammerveld]

Gewoon even Googelen.
YouTube: Rabbit R1 First Look: Here’s What It Can Actually Do

Apparaatje is al geruime tijd gehyped als AI assistent.

[Oon]

Het is gewoon een fysieke ChatGPT+ElevenLabs client

[berchtold]

Brakke software weer dus

[Zezura]

Brakke alles zie YouTube: $30,000,000 AI Is Hiding a Scam

[dezman]

Ik ben het volledig met je eens. Ik heb het apparaat nu al twee weken in gebruik en het blijkt effectief te zijn voor diverse taken. Er is inmiddels een software-update uitgerold die de grootste problemen, zoals batterijproblemen, heeft verholpen. Ondanks de aanvankelijke beperkingen heeft dit "simpele" apparaat nu al aanzienlijke mogelijkheden.

Als je hebt geluisterd naar Teenage Engineering, begrijp je dat het de bedoeling is dat dit toestel leert en dat dit in de toekomst de sleutel zal zijn. In het begin onthield de Rabbit alleen mijn naam, maar nu onthoudt het ook andere zaken wat bij chat tot niet het geval is en nooit zal werken daardoor, zo zal het zijn potentieel steeds meer laat zien. Tijdens vergaderingen in het Engels, bijvoorbeeld, kan het apparaat nu de volledige vergadering samenvatten, wat ontzettend handig is. Bovendien wordt alle informatie opgeslagen in je persoonlijke account. Veiligheid van gegevens is niet langer een probleem; je smartphone is immers ook constant verbonden, waardoor deze discussie achterhaald is.

Hoewel €200 voor de hardware en de software, die nog in de kinderschoenen staat, een aanzienlijk bedrag is, moeten we er allemaal aan blijven werken. Laten we binnen een jaar opnieuw evalueren. En er allemaal samen aan werken. Want echt , ik sta wel te wachten op de volledige functionaliteit!!!

[Reactie gewijzigd door dezman op 22 juli 2024 16:47]

[309electronics]

Ik vind dit soort Ai gadgets best onnodig. At the end of time is het gewoon een mini computertje dat android draait en een app als launcher heeft. En als dan ook nog de api het "Ai" gedeelte makkelijk kan worden gehackt dan is dit ding nutteloos. Ook is de verbinding via wifi niet de beste en verliest hij al snel signaal waarschijnlijk door een slechte (onboard) antenne. En hij heeft vaak moeite met het snappen van worden en text commandos. Chatgpt for life. Liever typen dan je stem naar een onbekende cloud server te sturen als heeft chatgpt ook wel de stem functie maar daar heb je niet een heel apparaatje voor nodig om hem te gebruiken