VicOne kondigt aan 28 zero-day kwetsbaarheden te hebben geïdentificeerd in minder dan twee dagen, dankzij een door AI ondersteund onderzoek, in software en tools die het ecosysteem van fysieke AI ondersteunen. Tot de betrokken projecten behoren onder meer projecten die door Google, NVIDIA en Meta worden ontwikkeld of onderhouden. Dit artikel is gesponsorde content gemaakt met VicOne.
Een zero-day kwetsbaarheid is een tot dan toe onbekende kwetsbaarheid waarvoor geen patch beschikbaar is. Volgens een eerste validatie vallen alle 28 ontdekkingen in deze categorie. Deze telling kan veranderen na onderzoek door de uitgevers en de autoriteiten die verantwoordelijk zijn voor kwetsbaarheden, en sommige ontdekkingen hebben nog geen CVE-volgnummer, de standaardidentifier die aan een kwetsbaarheid wordt toegekend.
Veel van deze tools helpen teams bij het trainen, simuleren, testen en besturen van robots. Een zwakte in een van deze tools zou dus de modellen die teams ontwerpen, de testresultaten waarop ze vertrouwen en de instructies die naar robots worden gestuurd kunnen beïnvloeden.
Kwetsbaarheden sneller ontdekt
Het ontdekken van kwetsbaarheden bestaat uit het onderzoeken van code, het volgen van de manier waarop systemen communiceren en het controleren of een vermoedelijke zwakte daadwerkelijk kan worden uitgebuit. Volgens VicOne kan AI een deel van dit werk versnellen en onderzoekers in staat stellen meer software in minder tijd te analyseren. Aanvallers zouden echter over vergelijkbare capaciteiten kunnen beschikken.
Wanneer een kwetsbaarheid van het zero-day type is, kan een snellere ontdekking weinig tijd laten om te reageren. Deze blootstelling betekent niet noodzakelijkerwijs dat een aanval heeft plaatsgevonden, maar teams moeten bepalen of ze de betrokken software gebruiken en wat een aanvaller zou kunnen inzien of wijzigen.
Risico’s in elke fase van de levenscyclus
De ontdekkingen van VicOne betreffen drie fasen van de levenscyclus van een robot: de ontwikkeling en training, de simulatie en validatie, en vervolgens de implementatie en uitvoering. Volgens het bedrijf betreft 75% van de ontdekkingen tools voor ontwikkeling, training, simulatie of validatie, wat betekent dat risico’s kunnen optreden nog voordat de robot wordt geïmplementeerd.
Tijdens de training kan een vooraf getraind model, dat al op grote hoeveelheden data heeft geleerd, zonder medeweten van het team worden gewijzigd. Het zou zich dan normaal kunnen gedragen tijdens gebruikelijke tests, maar onjuist reageren op een specifiek object, scène of commando na de implementatie. Tijdens de simulatie zou een gecompromitteerde scène of robotmodel de gegevens van gesimuleerde sensoren of de testresultaten kunnen aantasten, wat zou leiden tot goedkeuring van een robot op basis van misleidend bewijs.
Tijdens de uitvoering zou een aanvaller bestanden die de bewegingsplanning beïnvloeden kunnen wijzigen, of kwaadaardige kaartgegevens kunnen sturen die het bewakingsscherm van de operator kunnen laten crashen. Volgens VicOne zou de compromittering van een teleoperatiecomputer ook de instructies die naar de robot worden gestuurd in gevaar kunnen brengen. VicOne benadrukt dat dit potentiële gevolgen zijn en geen aangetoonde resultaten voor elke ontdekking.
In een aparte demonstratie hebben onderzoekers van VicOne een kwetsbaarheid uitgebuit om de werking van een afstandsbedieningsstopcommando van een robot te voorkomen. Volgens het bedrijf toont dit geval aan dat teams moeten controleren of hun veiligheidsvoorzieningen effectief blijven wanneer de software die ze laat werken, is gecompromitteerd.
Een patch controleren voordat deze wordt geïmplementeerd
Zelfs wanneer een uitgever een patch uitbrengt, moet een team de getroffen systemen identificeren, de compatibiliteit van de update controleren en ervoor zorgen dat deze het verwachte gedrag behoudt. Een eerder succesvolle test blijft nuttig, maar een recent ontdekte kwetsbaarheid kan voorwaarden onthullen die deze test niet had onderzocht.
VicOne stelt drie vragen voor om de reactie te sturen: waar wordt de betrokken software gebruikt, inclusief op trainingscomputers, in simulatieomgevingen en op geïmplementeerde robots? Wat zou de kwetsbaarheid kunnen wijzigen, of het nu gaat om modellen, testresultaten, de zichtbaarheid van operators of het gedrag van de robot? Hoe controleren we of de bescherming effectief is? Wanneer een onmiddellijke update niet mogelijk is, kunnen tijdelijke maatregelen, zoals het beperken van de toegang tot een betrokken service, nodig zijn in afwachting van een gevalideerde patch.
VicOne presenteert verder twee producten: Radeis, dat helpt bij het identificeren van potentiële zero-day kwetsbaarheden, het beoordelen van de veiligheid van AI-modellen en systemen, en het simuleren van het effect van deze risico’s op het gedrag van een robot vóór de implementatie, en Rthena, dat zorgt voor dreigingsdetectie en reacties binnen het kader van goedgekeurde beleidslijnen tijdens de bedrijfsvoering.
