De siste årene har vi gått fra å se på droner som en enkel høyteknologisk leketøy for videoopptak for å gjøre dem til et sentralt verktøy innen sikkerhet, overvåking og til og med væpnede konflikter. Og som det ofte er tilfelle med all teknologi som tar av så raskt, utvikler ikke sikkerhets- og beskyttelsesaspektet seg alltid i samme tempo.
I denne sammenhengen har en gruppe forskere fra University of California, Irvine, demonstrert noe som høres ut som en spøk, men som er langt fra det: Det er mulig å tiltrekke og nøytralisere visse autonome droner ved å bare bruke en paraply med et bestemt fargemønster.Ingen radiojammere, ingen fjernhacking, ingen sofistikerte våpen. Bare en «rar» paraply og litt reverse engineering av hvordan disse enhetene oppfatter verden.
Hvorfor autonome droner skaper økende bekymring
Fremveksten av droner er på ingen måte begrenset til fritid. Kina, Russland, USA og andre land De presser aggressivt på utviklingen av ubemannede luftfartøyer utstyrt med kunstig intelligens-systemer som er i stand til å ta avgjørelser på egenhånd. Vi snakker ikke lenger bare om flygende kameraer for influencere, men autonome plattformer med taktiske og overvåkingsapplikasjoner.
Et veldig tydelig eksempel finner vi i krigen i Russland og Ukrainader alle slags droner har blitt utplassert: kamikaze-enheter, sporingsenheter, systemer koblet til fiberoptiske kabler for å forbedre dataoverføring, osv. I tillegg til dette kommer utviklinger som grenser til science fiction, som russiske eksperimenter med påståtte duer forvandlet til biodroner, som illustrerer i hvilken grad noen aktører er villige til å utforske enhver teknologisk vei for å oppnå fordeler på slagmarken.
Problemet er at den samme teknologien, når den overføres til sivil sektor, åpner døren for mye mer ubehagelige scenarier: vedvarende overvåking av mennesker, uautorisert automatisk sporing, datainnsamling på sensitive steder, eller rett og slett inntrenging i det daglige personvernet til alle som møter en av disse enhetene på feil tidspunkt.
Massebruken av droner med autonome sporingsfunksjoner i oppgaver som privat sikkerhet, grenseovervåkingKontroll av folkemengder eller patruljering av kritisk infrastruktur utvider deres operative muligheter ... men samtidig mangedobler det risikovektorene. Ikke bare fordi droner kan fungere feil, men fordi de kan manipuleres, lures eller brukes mot de som opererer dem.
Gitt denne situasjonen blir det tydelig at det ikke er nok å kryptere kommunikasjon eller beskytte radiobånd. Den virkelige kampen utkjempes også på den fysiske bakken, i hvordan syns- og AI-algoritmer tolker det de ser gjennom dronens kamera og hvordan de reagerer på visuelle mønstre som er utformet for å forvirre dem.
UC Irvine-forskning: en paraply mot kunstig intelligens
I stedet for å utvikle en ny offensiv drone, teamet til Universitetet i California, Irvine (UC Irvine) Han bestemte seg for å ta for seg problemet fra den andre siden: hvordan han fysisk kunne beskytte seg mot AI-baserte autonome sporingssystemer. Målet hans var klart: å forbedre såkalt «fysisk cybersikkerhet» med hverdagslige og rimelige gjenstander, uten å stole på spesialisert maskinvare eller avansert hackingkunnskap.
Under undersøkelsen analyserte ekspertene grundig hvordan sporingsalgoritmene som er integrert i mange kommersielle droner fungerer. De fokuserte spesifikt på funksjonene som er kommersielt kjent som Active Track, Dynamic Track eller andre lignende systemersom lar dronen automatisk følge en person eller et objekt ved hjelp av datasyn, uten at piloten må justere banen manuelt hele tiden.
Etter flere eksperimenter oppdaget de en overraskende enkel svakhet: visse dronemodeller som yter Målsporing ved hjelp av nevrale nettverk og analyse av bildebevegelse De kan forveksles hvis de presenteres med et veldig spesifikt visuelt mønster. Denne metoden ble kalt Flyfelle, «fluefelle», med henvisning til måten den lokker dronen til en posisjon der den kan bli fanget eller skutt ned.
Det mest oppsiktsvekkende med saken er at den praktiske implementeringen av FlyTrap ble utført ved hjelp av noe så vanlig som en paraply. Ved å stemple det passende visuelle mønsteret på overflaten av paraplyen Og når du åpner den foran dronen, tolker den kunstige intelligensen (AI) en rekke endringer i bildet som får den til å tro at målet beveger seg bort, selv om personen som holder det står stille.
Resultatene ble presentert på en internasjonal konferanse som spesialiserer seg på datasikkerhet (NDSS), hvor det ble beskrevet at denne tilnærmingen ikke bare er en kuriositet i laboratoriet. Tester viste at det fysiske angrepet fungerer under varierte forholdmed endringer i lys og vær, noe som bringer det farlig nær et virkelighetsnært bruksscenario utenfor et kontrollert miljø.
Hvordan FlyTrap-angrepet fungerer trinn for trinn (på et konseptuelt nivå)
For å forstå hvorfor en paraply kan sette en autonom drone i en vanskelig posisjon, må vi se på hvordan målsporingssystemer basert på kunstig synI hovedsak tar dronen kontinuerlig bilder av omgivelsene sine, og ved hjelp av nevrale nettverk og bevegelsesanalysealgoritmer forsøker den å finne motivet den skal følge innenfor hvert bilde.
Disse algoritmene fokuserer på mønstre av form, farge, kontrast og bevegelse å estimere hvor motivet er i det aktuelle bildet i forhold til det forrige. Fra denne informasjonen beregner de om motivet nærmer seg, beveger seg bort, beveger seg til siden, gjemmer seg bak en hindring osv. Dronen justerer deretter hastigheten og banen for å holde motivet innenfor bildet på en avstand som anses som «optimal».
FlyTrap-angrepet utnytter nettopp denne logikken. Det grafiske mønsteret som er designet for paraplyen, får den til å generere mønstre når dronen beveger seg bare litt eller endrer synsvinkel. synlige endringer i målets skala og posisjon som algoritmen tolker som en kontinuerlig bevegelse bort. AI-en tror at motivet beveger seg bakover, når de i virkeligheten står stille.
Så hva gjør dronen? For å kompensere for denne antatte avstanden, gradvis redusere avstandenPrøver å "komme nærmere" motivet for å opprettholde komposisjonen i henhold til sporingssystemets interne regler. Resultatet er at flyet går inn i en stadig mer aggressiv innflygingsspiral ... helt til det kommer farlig nær paraplyen og personen som bærer den.
Når dronen er veldig nær, har angrepsoperatøren en svært fordelaktig margin: de kan å fange den med et nett, å treffe den, å destabilisere den eller å få den til å kollidere mot en nærliggende overflate. I motsetning til andre forsvarsmetoder som bare har som mål å få dronen til å miste målet sitt eller slutte å spore, lar FlyTrap deg bringe den rett til den ideelle posisjonen for fysisk nøytralisering.
Berørte dronemodeller og problemets faktiske omfang
Forskerne ved UC Irvine stoppet ikke ved simuleringer; de testet teknikken sin med ekte kommersielle dronerBlant modellene som har blitt evaluert med suksess er:
- DJI Mini 4 Pro
- DJI Neo
- Sveveluft X1
Alle disse enhetene har automatiske sporingsfunksjoner basert på datasyn, som i teorien er designet for å legge til rette for dynamiske bilder uten at piloten trenger å bekymre seg for kameraet. Nettopp den evnen til å følge brukeren autonomt Det er den som vender seg mot ham når et mønster som FlyTrap kommer i spill.
I testene ble dronene tiltrukket nok til at operasjonen deres var levedyktig. opptak med nettverksenheter eller kontrollert påvirkningMed andre ord handlet det ikke bare om å forvirre algoritmen et øyeblikk, men om å tvinge frem en vedvarende fysisk tilnærming som overlot enheten til angriperen.
Forskerne som var ansvarlige for studien handlet i samsvar med beste praksis innen nettsikkerhetsmiljøet og De kommuniserte sårbarheten på en ansvarlig måte. De involverte produsentene ble varslet før alle detaljene ble offentliggjort. Dette åpner døren for at selskaper som DJI og andre berørte firmaer kan gjennomgå sporingsalgoritmene sine og implementere mottiltak i fremtidige firmwareoppdateringer eller maskinvarerenerasjoner.
Utover disse spesifikke modellene har imidlertid oppdagelsen mye bredere implikasjonerEthvert UAS (ubemannet luftfartøyssystem) som er avhengig av nevrale nettverk for å spore mål ved hjelp av datasyn, kan være utsatt for variasjoner av samme tilnærming hvis det ikke er spesielt trent til å motstå denne typen fiendtlige mønstre.
Et fysisk angrep som ikke krever radio, hacking eller forstyrrelser
En av hovedfunksjonene til FlyTrap er at den opererer utelukkende i fysisk domeneDet krever ikke at dronens kommunikasjon forstyrres, at datalinken til dronen tilgås eller at tradisjonelle programvaresårbarheter utnyttes. Angrepet fungerer fordi det manipulerer hva dronens kamera ser, og dermed hva AI-algoritmene tror skjer.
I praksis betyr dette at angriperen ikke trenger å utstede radiosignaler, WiFi, GPS eller lignendeDet krever heller ingen form for tilkobling til dronen, tilgangstillatelser eller legitimasjon. Det innebærer ganske enkelt å vise dronen et fysisk objekt som er designet for å utnytte dens kognitive blindsoner, noe som er mye vanskeligere å spore og blokkere med standard forsvar.
Denne tilnærmingen passer inn i det som er kjent som fiendtlige angrep i den fysiske verdenDette er en stadig mer relevant forskningslinje. Akkurat som briller, t-skjorter eller klistremerker har blitt laget som kan lure ansiktsgjenkjenningssystemer eller autonome biler, brukes her en paraply til å forstyrre sporingsalgoritmene til en drone.
Dessuten er kostnaden latterlig lav sammenlignet med ressursene som vanligvis er forbundet med elektronisk krigføring eller nedskyting av ubemannede fly. Det kreves ikke dyrt utstyr, spesielle antenner eller ekspertkunnskap om RF.Alt du trenger er en paraply med riktig design og litt ferdigheter til å posisjonere deg på riktig sted når dronen er i følgemodus.
Denne asymmetrien mellom prisen på en avansert drone og kostnaden ved å nøytralisere den ved hjelp av et så vanlig objekt har en direkte innvirkning på hvordan vi bør tenke om kritisk infrastruktursikkerhet, politiutplasseringer eller grenserEn ondsinnet aktør kan i teorien bringe overvåkingsdroner nær begrensede områder ved hjelp av nettopp denne typen teknikker, og deretter deaktivere dem eller få dem til å krasje der de vil.
Implikasjoner for sikkerhet, personvern og masseutplassering av droner
Spredningen av ubemannede fly drevet av kunstig intelligens Dette utgjør en enorm utfordring for offentlig sikkerhet. Vi ser stadig flere prosjekter som foreslår å bruke svermer av droner til å patruljere byer, overvåke grenser eller føre tilsyn med store arrangementer. Men UC Irvine-studien viser at uten å styrke persepsjonsalgoritmene hviler hele denne utplasseringen på et ganske skjørt fundament.
På et operativt nivå kan et FlyTrap-angrep brukes både offensivt og defensivt. På den ene siden kan noen nøytralisere politi- eller grenseovervåkingsdronerDette kompromitterer sikkerhetsstyrkenes responskapasitet i et bestemt område. På den annen side kan en person som blir trakassert av en drone, eller et offer for spionasje med en kommersiell enhet, bruke den samme mekanismen til å forsvare seg med en enkel modifisert paraply.
Det er også aspektet av beskyttelse av strategisk infrastruktur (kraftverk, transportanlegg, datasentre osv.). Hvis disse stedene er avhengige av autonome droner som supplement til overvåkingssystemene sine, åpner en sårbarhet som FlyTrap for risikoen for at en angriper kan omgå deler av deteksjonssystemet ved kun å bruke et fysisk objekt uten elektronisk interaksjon.
Studien sender dermed et klart budskap: Dronesikkerhet kan ikke begrenses til det elektroniske eller nettverkslagetDet er nødvendig, men ikke tilstrekkelig, å sikre datalinker, kryptere kommunikasjon og beskytte programvare hvis visjonsalgoritmer blir lurt av fargemønstre trykt på en paraply. Motstandskraft må omfatte hvordan AI tolker det fysiske miljøet og dets robusthet mot bevisst manipulasjon.
Etter hvert som bruken av autonome droner blir mer utbredt i urbane miljøer og sensitive operasjonerDenne typen angrep vil slutte å være en akademisk kuriositet og vil bli en faktor som produsenter, regulatorer og operatører må vurdere fra designfasen. Å ignorere disse sårbarhetene kan være kostbart når storskala utrulling allerede har funnet sted.
Begrensninger i angrepet og mulige forsvarslinjer
Selv om ideen om å «skyte ned en drone med en paraply» er veldig tiltalende, bør du ikke tro at en hvilken som helst fargerik paraply vil duge. FlyTrap-mønsteret er nøye designet å utnytte spesifikke svakheter i algoritmene som er testet. Det er ikke et universelt triks som automatisk vil fungere med alle droner eller under alle omstendigheter.
Videre krever angrepet at dronen bruker funksjoner fra autonom synsbasert sporingHvis operatøren styrer det helt manuelt, eller hvis flyet styres av andre sensorer (som LIDAR, radar eller avanserte sensorfusjonskombinasjoner), kan marginen for å lure AI-en ved kun å bruke et visuelt mønster reduseres eller til og med forsvinne.
En annen praktisk begrensning er behovet for å bringe paraplyen fysisk nærmere dronens synsfeltI scenarier der enheten flyr i stor høyde eller holder en avstand på flere kilometer fra målet, er det kanskje ikke realistisk å oppnå denne avstanden. FlyTrap er spesielt farlig i lavflygende situasjoner, nærsporing av mennesker eller bymiljøer med smale ruter.
Fra forsvarssiden finnes det flere mulige handlingslinjer. En av dem er omskolere synsmodeller Ved å bruke eksempler på fiendtlige mønstre som FlyTrap, lærer de å gjenkjenne dem som anomalier og unngå å falle i fellen med å nærme seg ukontrollert. Et annet alternativ er å kombinere visuell informasjon med andre kilder (dybde, treghetssensorer, 3D-kart) for å unngå å stole utelukkende på hva kameraet ser.
Det er også rimelig å introdusere det i firmwaren nærhetsgrenser og ytterligere sikkerhetsreglerDisse tiltakene hindrer dronen i å nærme seg målet nærmere enn en viss avstand når den oppdager uvanlige eller inkonsekvente visuelle endringer. Dette eliminerer kanskje ikke bedraget helt, men det vil redusere sannsynligheten for at dronen når en posisjon der den lett kan fanges for hånd eller med et nett.
Til slutt, på regulatorisk nivå, er det organene som er ansvarlige for å sertifisere droner for bruk av sikkerhets-, politi- eller infrastrukturovervåking De må inkludere tester mot denne typen fysiske angrep i vurderingene sine. Å bruke en drone til å filme et fjellandskap er ikke det samme som å bruke den til å patruljere en grense: det nødvendige robusthetsnivået bør være klart annerledes.
Alt dette skaper et merkelig scenario: jo mer «smarte» vi lager droner gjennom AI, Viktigere vil være å tenke som en kreativ angriper som prøver å finne snarveier i den virkelige verden for å lure dem. Og det er der en tilsynelatende uskyldig gjenstand som en fargerik paraply kan ende opp med å bli hovedpersonen.
Kort sagt, det disse studiene viser er at Sikkerheten til autonome systemer handler ikke bare om brannmurer og kryptering.men også for å forstå hvordan de oppfatter omgivelsene, hvilke snarveier algoritmene deres tar, og hvordan et enkelt grafisk mønster kan gjøre et avansert ubemannet luftfartøy til noe like sårbart som en flue tiltrukket av en veldesignet felle.