Si ndikon AI ne mbrojtjen kundër sulmeve kundërshtare

Kjo pjesë u shkrua si pjesë e Projektit të Inteligjencës Artificiale dhe Stabilitetit Ndërkombëtar në Qendrën për një Siguri të Re Amerikane. Një organizatë e pavarur, jofitimprurëse me qendër në Uashington. Projekti promovon të menduarit dhe analizat mbi AI dhe stabiliteti ndërkombëtar. Duke pasur parasysh rëndësinë e mundshme që përparimet në inteligjencën artificiale mund të luajnë në formimin e së ardhmes sonë. Eshtë thelbësore të fillojmë një diskutim. Nje diskutim  në lidhje me mënyrat për të përfituar nga AI dhe sistemeve autonome.  Pikëpamjet e shprehura këtu janë vetëm ato të autorit dhe nuk përfaqësojnë pozicione të Spektrit të IEEE.

Inteligjenca artificiale dhe teknologjitë robotike me aftësi mësimore gjysmë-autonome.

Arsyetimi dhe vendimmarrje gjithnjë e më shumë po përfshihen në sistemet e mbrojtjes, ushtarake dhe të sigurisë. Cuditërisht, ka shqetësime në rritje për stabilitetin dhe sigurinë e këtyre sistemeve. Në një sektor tjetër, ndërveprimet e arratisura midis sistemeve autonome të tregtimit në tregjet financiare kanë prodhuar një seri të “rrëzimeve të shpejtë” të tregut të aksioneve.  Si rezultat, ato tregje tani kanë rregulla për të parandaluar që ndërveprimet e tilla të kenë një ndikim të rëndësishëm.

A mund të sjellin të njëjtat lloje ndërveprimesh të papritura dhe sythe kthyese në paqëndrueshmëri të ngjashme me AI-të e mbrojtjes ose të sigurisë?

Sulmet kundërshtare ndaj sistemeve të AI

Shqetësimet e përgjithshme në lidhje me ndikimet e AI-ve të mbrojtjes dhe robotëve në stabilitetin. Qoftë në izolim apo përmes ndërveprimit, janë acaruar vetëm nga demonstrimet e fundit të sulmeve kundërshtare kundër këtyre sistemeve. Ndoshta çështjet më të diskutuara për sulmin përfshijnë algoritme të klasifikimit të imazheve që mashtrohen në imazhe “duke parë” në zhurmë. Ose janë mashtruar lehtësisht nga ndryshimet në nivelin pixel, në mënyrë që ata të klasifikojnë. Në mënyrë të ngjashme, sistemet e lojës që tejkalojnë çdo njeri (p.sh., AlphaGo) papritmas mund të dështojnë. Nëse struktura e lojës ose rregullat ndryshohen. Automjetet autonome që funksionojnë në mënyrë të arsyeshme dhe në kushte të zakonshme. Me aplikimin e disa pjesëve të shiritit, mund të nxiten të lëvizin në korsinë e gabuar ose të shpejtojnë përmes një shenje ndalese. Dhe lista e sulmeve kundërshtare vazhdon të rritet e rritet me kalimin e kohës.

Sulmet kundërshtare përbëjnë një kërcënim të prekshëm për stabilitetin dhe sigurinë e AI dhe teknologjive robotike.

Sulmet kundërshtare përbëjnë një kërcënim të prekshëm për stabilitetin dhe sigurinë e AI dhe teknologjive robotike. Kushtet e sakta për sulme të tilla janë zakonisht mjaft të paqëllimta për njerëzit. Kështu që është e vështirë të parashikohet se kur dhe ku mund të ndodhin sulmet. Dhe nëse mund të vlerësojmë mundësinë e një sulmi kundërshtar, përgjigja e saktë e sistemit AI mund të jetë e vështirë të parashikohet, duke çuar në surpriza të mëtejshme dhe angazhime dhe ndërveprime ushtarake më pak të qëndrueshme, më pak të sigurta. Edhe vlerësimet e përgjithshme të besueshmërisë janë të vështira përballë sulmeve kundërshtare.

Mund të shpresojmë që sulmet kundërshtare të jenë relativisht të rralla në botën e përditshme.  “Zhurma e rastësishme” që synon algoritmet e klasifikimit të figurave është në të vërtetë larg nga rastësia. Kaseta në shenjën ndaluese duhet të vendoset me kujdes, çrregullimet e nivelit të pikselave i shtohen, imazhi duhet të llogaritet me kujdes. Kërkohet përpjekje e konsiderueshme për të ndërtuar një sulm kundërshtar. Kështu ne thjesht mund të vendosim sistemet tona AI dhe robotike me shpresën se bota e përditshme nuk do të komplotojnë t’i mashtrojnë ata.

 

Fatkeqësisht, ky besim është pothuajse pa dyshim i paarsyeshme për teknologjitë e mbrojtjes ose të sigurisë. Këto sisteme do të vendosen pa ndryshim në kontekstet kur pala tjetër ka kohën, energjinë dhe aftësinë për të zhvilluar dhe ndërtuar saktësisht këto lloje të sulmeve kundërshtare. AI dhe teknologjitë robotike janë veçanërisht tërheqëse për vendosjen në zonat e kontrolluara nga armiku ose nga kundërshtarët e armikut.  Ato mjedise janë më të rrezikshme për ushtarët tanë njerëzorë, në pjesën më të madhe sepse pala tjetër ka më së shumti kontroll mbi mjedisin.

Mbrojtjet kundër sulmeve kundërshtare

Megjithëse sulmet kundërshtare ndaj AI dhe ushtarakëve mbrojtës janë të mundshme. Ato nuk janë domosdoshmërisht destabilizuese, veçanërisht pasi njerëzit zakonisht nuk janë të ndikuar nga këto sulme. Mund ta kuptojmë lehtësisht që një breshkë nuk është pushkë edhe me zhurmë të rastësishme. Ne e shohim shiritin në shenjë ndalese si një bezdi sesa diçka që prish aftësinë tonë për të ndjekur rregullat e rrugës. Sigurisht, ka komplekse, por me siguri mund të themi se performanca e njeriut është fuqimisht e fortë ndaj sulmeve kundërshtare kundër AI. Kështu që sulmet kundërshtare nuk do të jenë destabilizuese nëse ndjekim një rekomandim të drejtpërdrejtë të politikave. Mbajini njerëzit në  lak për këto teknologji. Nëse ka një bashkim NJERI-AI, atëherë njerëzit mund të pranojnë që ka ndodhur një sulm kundërshtar. Ai  ta udhëzojë sistemin drejt sjelljeve të duhura.

Teknologjitë e AI janë duke u përdorur gjithnjë e më shumë për të trajtuar vëllimet e mëdha të të dhënave të krijuara për qëllime ISR

Ky rekomandim është tërheqës, por gjithashtu është domosdoshmërisht i kufizuar në fushën e aplikimeve ku një njeri mund të përfshihet drejtpërdrejt. Në rastin e sistemeve të inteligjencës, mbikëqyrjes dhe zbulimit (ISR), megjithatë, ndërveprimi thelbësor njerëzor mund të mos jetë i mundur. Teknologjitë e AI janë duke u përdorur gjithnjë e më shumë për të trajtuar vëllimet e mëdha të të dhënave të krijuara për qëllime ISR. Teknologjitë e AI për ISR tani luajnë një rol të rëndësishëm në krijimin dhe mirëmbajtjen e vetëdijes së situatës për vendimmarrësit njerëzorë. Në situata të tilla, rreziqet destabilizuese të sulmeve kundërshtare përsëri mbrapa kokën.

 

Sulmet kundërshtare mund të destabilizojnë teknologjitë e AI.  Duke i bërë ato më pak të sigurta, të parashikueshme ose të besueshme. Sidoqoftë, nuk kemi nevojë të shqetësohemi për to si sulme . Përkundrazi, duhet të shqetësohemi për korrupsionin e ndërgjegjësimit të situatës njerëzore përmes AI kundërshtare. I cili mund të jetë po aq efektiv në dëmtimin e sigurisë, stabilitetit dhe besimit në AI dhe teknologjitë robotike.