Rreziku aktual qe vjen nga AI

Disa ekspertë kanë dhënë mendimet e tyre mbi atë që kërcënon AI-ja, dhe përmbajtja false e befasishme është rreziku aktual më i madh.
Ekspertët, të cilët po flisnin të martën në Forumin Ekzekutiv të WSJ Pro Cybersecurance në New York, besojnë se përmbajtja e krijuar nga AI është shqetësuese e madhe për shoqëritë tona.
Camille François, zyrtari kryesor i inovacionit në firmën analitike të mediave sociale Graphika, thotë se artikujt e thellë paraqesin rrezikun më të madh.
Ne kemi parë tashmë se çfarë mund të bëjnë “lajmet e rreme” dhe fushatat dezinformuese të krijuara nga njeriu, kështu që nuk do të jetë befasuese për shumë njerëz që përfshirja e UA në atë proces është një kërcënim kryesor.

François thekson se artikujt e rremë dhe fushatat dezinformuese sot mbështeten në shumë punë manuale për të krijuar dhe përhapur një mesazh të rremë.
Kur shikojme fushatat e dezinformatave, sasia e punës manuale që shkon në krijimin e faqeve të internetit të rreme dhe blogjeve të rremë është gjigant.
Nëse thjesht mund të automatizoni tekstin e besueshëm dhe tërheqës, atëherë është me të vërtetë përmbytja e internetit me mbeturina në një mënyrë shumë të automatizuar dhe të shkallëzuar. Kështu cdo kush duhet te ndihet mjaft i shqetësuar për kete gje.

Në shkurt, OpenAI zbuloi mjetin e tij GPT-2 i cili gjeneron një tekst bindës të rremë.
UA u trajnua në 40 gigabajt tekst, që përfshin tetë milion uebfaqe.
OpenAI vendosi kundër lirimit publikisht të GPT-2 nga frika e dëmtimit që mund të bënte. Sidoqoftë, në gusht, dy të diplomuar vendosën të rikrijojnë gjeneruesin e tekstit të OpenAI.
Të diplomuarit thanë që ata nuk besojnë se puna e tyre aktualisht paraqet rrezik për shoqërinë dhe e lëshuan atë për t’i treguar botës se çfarë ishte e mundur pa qenë një kompani ose qeveri me sasi të mëdha burimesh.

Kjo lejon që të gjithë të kenë një bisedë të rëndësishme për sigurinë, dhe studiuesit të ndihmojnë në sigurimin kundër abuzimeve të mundshme në të ardhmen.
Duke folur në të njëjtin panel si François në ngjarjen WSJ, Celeste Fralick, shkencëtar kryesor i të dhënave dhe inxhinier kryesor i lartë në McAfee, rekomandoi që kompanitë që partnerët me firma të specializuara te merrni pjese në zbulimin e rezultateve të thella.

Ndër kërcënimet më të frikshme të sigurimit kibernetik të lidhur me AI janë “sulmet e mësimit të makinerive kundërshtare” me anë të të cilave një haker gjen dhe shfrytëzon një dobësi në një sistem AI.
Fralick jep shembullin e një eksperimenti nga Dawn Song, një profesor në Universitetin e Kalifornisë, Berkeley, në të cilin një makinë pa shofer u mashtrua duke besuar se një shenjë ndalese ishte një shenjë kufiri shpejtësie prej 45 MPH vetëm duke përdorur stickers.
Të dy panelistët besojnë se të gjitha forcat e punës duhet të edukohen për kërcënimet e paraqitura nga AI përveç përdorimit të strategjive për të luftuar sulmet.

Ekziston një urgjencë e madhe për t’u siguruar që njerëzit të kenë shkathtësinë themelore të AI.