Inteligjenca artificiale krijoi 40,000 armë të reja kimike vdekjeprur*se në vetëm gjashtë orë

U deshën më pak se gjashtë orë që AI që zhvillonte ilaçe të shpikte 40,000 molekula potencialisht vdekjeprurëse. Studiuesit e vendosën AI që zakonisht përdoret për të kërkuar droga të dobishme në një lloj modaliteti “aktor i keq” për të treguar se sa lehtë mund të abuzohej në një konferencë të kontrollit biologjik të armëve.

E tëra që studiuesit duhej të bënin ishte të ndryshonin metodologjinë e tyre për të kërkuar, në vend që të eliminonin toksicitetin. AI doli me dhjetëra mijëra substanca të reja, disa prej të cilave janë të ngjashme me VX, agjenti nervor më i fuqishëm i zhvilluar ndonjëherë. Të tronditur, ata publikuan gjetjet e tyre këtë muaj në revistën Nature Machine Intelligence.

Gazeta gjithashtu na tronditi pak në The Verge. Pra, për të kuptuar se sa të shqetësuar duhet të jemi, The Verge foli me Fabio Urbina, autori kryesor i gazetës. Ai është gjithashtu një shkencëtar i lartë në Collaborations Pharmaceuticals, Inc., një kompani që fokusohet në gjetjen e trajtimeve medikamentoze për sëmundje të rralla.

Kryesisht, detyra ime është të zbatoj modele të reja të mësimit të makinerive në fushën e zbulimit të drogës. Një pjesë e madhe e këtyre modeleve të mësimit të makinerive që ne përdorim kanë për qëllim të parashikojnë toksicitetin. Pavarësisht se çfarë lloj droge po përpiqeni të krijoni, duhet të siguroheni që ato të mos jenë toksike. Nëse rezulton se ju keni këtë ilaç të mrekullueshëm që ul presionin e gjakut në mënyrë fantastike, por ai godet një nga

këto kanale vërtet të rëndësishme, të themi, kanalet e zemrës – atëherë në thelb, është e ndaluar sepse është shumë e rrezikshme.

Ne morëm një ftesë për konferencën e Konvergjencës nga Instituti Federal Zviceran për Mbrojtjen Bërthamore, Biologjike dhe Kimike, Laboratori Spiez. Ideja e konferencës është të informojë komunitetin në përgjithësi për zhvillimet e reja me mjete që mund të kenë implikime për Konventën e Armëve Kimike/Biologjike.

Ne e morëm këtë ftesë për të folur për mësimin e makinerive dhe se si mund të keqpërdoret në hapësirën tonë. Është diçka për të cilën nuk kemi menduar kurrë më parë. Por ishte shumë e lehtë të kuptojmë se ndërsa po ndërtojmë këto modele të mësimit të makinerive për t’u bërë gjithnjë e më mirë në parashikimin e toksicitetit në mënyrë që të shmangim toksicitetin, gjithçka që duhet të bëjmë është të kthejmë çelësin dhe të themi, “E dini , në vend që të largohemi nga toksiciteti, po sikur të shkojmë drejt toksicitetit?”

Natyrisht, kjo është diçka që dëshironi të shmangni. Pra, historikisht, janë bërë eksperimente me lloje të ndryshme molekulash për të parë nëse ato pengojnë acetilkolinesterazën. Dhe kështu, ne ndërtuam këto grupe të dhënash të mëdha të këtyre strukturave molekulare dhe sa toksike janë ato.

Ne mund t’i përdorim këto grupe të dhënash për të krijuar një model të mësimit të makinës, i cili në thelb mëson se cilat pjesë të strukturës molekulare janë të rëndësishme për toksicitetin dhe cilat jo. Atëherë ne mund t’i japim këtij modeli të mësimit të makinerive molekula të reja, ilaçe potencialisht të reja që ndoshta nuk janë testuar kurrë më parë. Dhe do të na tregojë se kjo parashikohet të jetë toksike, ose parashikohet të mos jetë toksike. Kjo është një mënyrë për ne që të ekzaminojmë virtualisht shumë, shumë shpejt shumë molekula dhe të nxjerrim ato që parashikohen të jenë toksike. Në studimin tonë këtu, ajo që bëmë ishte që e përmbysëm atë, padyshim, dhe ne përdorim këtë model për të provuar të parashikojmë toksicitetin.

Nuk ishim vërtet të sigurt se çfarë do të merrnim. Modelet tona gjeneruese janë teknologji mjaft të reja. Pra, ne nuk i kemi përdorur shumë ato. Gjëja më e madhe që doli në fillim ishte se shumë nga komponimet e krijuara u parashikuan të ishin në të vërtetë më toksike se VX. Dhe arsyeja që është befasuese është sepse VX është në thelb një nga përbërësit më të fuqishëm të njohur. Do të thotë që ju nevojitet një sasi shumë, shumë, shumë e vogël e tij për të qenë vdekjeprurëse.

Tani, këto janë parashikime që ne nuk i kemi verifikuar dhe sigurisht që nuk duam ta verifikojmë vetë. Por modelet parashikuese janë përgjithësisht mjaft të mira. Pra, edhe nëse ka shumë pozitive false, ne kemi frikë se ka disa molekula më të fuqishme atj

Së dyti, ne shikuam në fakt shumë struktura të këtyre molekulave të krijuara rishtazi. Dhe shumë prej tyre dukeshin si VX dhe agjentë të tjerë luftarakë, dhe madje gjetëm disa që ishin krijuar nga modeli që ishin agjentë aktualë të luftës kimike. Këto u krijuan nga modeli që nuk i kishte parë kurrë këta agjentë të luftës kimike. Pra, ne e dinim se ishim disi në hapësirën e duhur këtu dhe se po gjeneronte molekula që kishte kuptim sepse disa prej tyre ishin krijuar më parë.

Për mua, shqetësimi ishte se sa e lehtë ishte për t’u bërë. Shumë nga gjërat që kemi përdorur janë atje falas. Mund të shkoni dhe të shkarkoni një grup të dhënash të toksicitetit nga kudo. Nëse keni dikë që di të kodojë në Python dhe ka disa aftësi për të mësuar makineri, atëherë ndoshta në një fundjavë të mirë pune, ata mund të ndërtojnë diçka si ky model gjenerues i drejtuar nga grupe të dhënash toksike. Pra, kjo ishte gjëja që na bëri të mendonim vërtet për të nxjerrë këtë letër atje; ishte një barrierë kaq e ulët e hyrjes për këtë lloj keqpërdorimi.