8 months ago
1854
Esperti Nukleari Jgħidu li t-Taħlit tal-AI u l-Armi Nukleari huwa Inevitabbli
Il-ġudizzju uman jibqa' ċentrali għat-tnedija ta' armi nukleari. Iżda l-esperti jgħidu li hija kwistjoni ta' meta, mhux jekk, l-intelliġenza artifiċjali se tiġi integrata fl-aktar sistemi perikolużi tad-dinja.
L-immaġni tista' tinkludi Ħardwer tal-Elettronika u Ħardwer tal-Kompjuter
Illustrazzjoni: Getty Images
Salva din l-istorja
In-nies li jistudjaw il-gwerra nukleari għall-għajxien tagħhom huma ċerti li l-intelliġenza artifiċjali dalwaqt se tħaddem l-armi fatali. Ħadd minnhom mhu ċert xi tfisser eżattament dan.
F’nofs Lulju, ir-rebbieħa tal-Premju Nobel inġabru fl-Università ta’ Chicago biex jisimgħu esperti tal-gwerra nukleari jitkellmu dwar it-tmiem tad-dinja. F’sessjonijiet magħluqa fuq jumejn, xjentisti, eks uffiċjali tal-gvern, u persunal militari rtirat taw tagħrif lir-rebbieħa dwar l-aktar armi devastanti li qatt inħolqu. L-għan kien li jiġu edukati wħud mill-aktar nies rispettati fid-dinja dwar waħda mill-aktar armi orribbli li qatt inħolqu u, fi tmiemha, ir-rebbieħa jagħmlu rakkomandazzjonijiet ta’ politika lill-mexxejja dinjija dwar kif jevitaw gwerra nukleari.
L-IA kienet f’moħħ kulħadd. “Qed nidħlu f’dinja ġdida ta’ intelliġenza artifiċjali u teknoloġiji emerġenti li qed jinfluwenzaw il-ħajja tagħna ta’ kuljum, iżda wkoll id-dinja nukleari li ngħixu fiha,” qal Scott Sagan , professur ta’ Stanford magħruf għar-riċerka tiegħu dwar id-diżarm nukleari, waqt konferenza stampa fi tmiem it-taħditiet.
Hija dikjarazzjoni li tieħu bħala fatt l-inevitabbiltà tal-gvernijiet li jħalltu l-AI u l-armi nukleari—xi ħaġa li kulħadd li tkellimt miegħu f'Chicago emmen fiha.
“Huwa bħall-elettriku,” jgħid Bob Latiff , maġġur ġeneral irtirat tal-Forza tal-Ajru tal-Istati Uniti u membru tal-Bullettin tal-Bord tax-Xjenza u s-Sigurtà tax-Xjentisti Atomici. “Se jsib triqtu f’kollox.” Latiff huwa wieħed mill-persuni li jgħin biex jistabbilixxi l-Arloġġ tad-Doomsday kull sena.
“Il-konverżazzjoni dwar l-AI u n-nuklei hija mxekkla minn ftit problemi ewlenin. L-ewwel waħda hija li ħadd ma jaf verament x'inhi l-AI,” jgħid Jon Wolfsthal, espert fin-nonproliferazzjoni li huwa d-direttur tar-riskju globali fil-Federazzjoni tax-Xjentisti Amerikani u li qabel kien assistent speċjali ta' Barack Obama.
“Xi tfisser li tagħti kontroll ta’ arma nukleari lill-AI? Xi tfisser li tagħti kontroll ta’ arma nukleari lil [ċippa tal-kompjuter]?” jistaqsi Herb Lin , professur ta’ Stanford u eks-student ta’ Doomsday Clock. “Parti mill-problema hija li mudelli lingwistiċi kbar ħadu f’idejhom id-dibattitu.”
L-ewwel, l-aħbar it-tajba. Ħadd ma jaħseb li ChatGPT jew Grok se jiksbu kodiċijiet nukleari dalwaqt. Wolfsthal jgħidli li hemm ħafna differenzi "teoloġiċi" bejn l-esperti nukleari, iżda li huma magħqudin fuq dak il-front. "F'dan il-qasam, kważi kulħadd jgħid li rridu kontroll uman effettiv fuq it-teħid ta' deċiżjonijiet dwar l-armi nukleari," jgħid.
Madankollu, Wolfsthal sema’ xnigħat dwar użi oħra ta’ LLMs fil-qalba tal-poter Amerikan. “Numru ta’ nies qalu, ‘Ara, kull ma rrid nagħmel hu li jkolli kompjuter interattiv disponibbli għall-president sabiex ikun jista’ jiskopri x’se jagħmlu Putin jew Xi u jien nista’ nipproduċi dak is-sett tad-dejta b’mod affidabbli ħafna. Nista’ nikseb dak kollu li Xi jew Putin qatt qalu u kitbu dwar kwalunkwe ħaġa u jkolli probabbiltà statistikament għolja li nirrifletti dak li qal Putin,’” jgħid.
“Jien għedt, ‘Tajjeb ħafna. Kif taf li Putin jemmen dak li qal jew kiteb?’ Mhux li l-probabbiltà hija żbaljata, hija sempliċement ibbażata fuq suppożizzjoni li ma tistax tiġi ttestjata,” jgħid Wolfsthal. “Onestament, naħseb li ftit nies li qed iħarsu lejn dan qatt kienu f’kamra ma’ president. Ma ngħidx li jien qrib xi president, imma kont fil-kamra ma’ ħafna minnhom meta tkellmu dwar dawn l-affarijiet, u ma jafdaw lil ħadd b’dawn l-affarijiet.”
Is-sena l-oħra, il-Ġeneral tal-Forza tal-Ajru Anthony J. Cotton, il-mexxej militari inkarigat min-nuklei tal-Amerika, għamel diskors twil f'konferenza dwar l-importanza tal-adozzjoni tal-IA. Huwa qal li l-forzi nukleari kienu qed "jiżviluppaw intelliġenza artifiċjali jew għodod ta' appoġġ għad-deċiżjonijiet abilitati mill-IA, immexxija mill-bniedem, biex jiżguraw li l-mexxejja tagħna jkunu jistgħu jirrispondu għal xenarji kumplessi u sensittivi għall-ħin."
Dak li jżomm lil Wolfsthal imqajjem billejl mhuwiex l-idea li AI diżonesta se tibda gwerra nukleari. "Dak li ninkwieta dwaru huwa li xi ħadd jgħid li rridu nawtomatizzaw din is-sistema u partijiet minnha, u dan se joħloq vulnerabbiltajiet li avversarju jista' jisfrutta, jew li se jipproduċi dejta jew rakkomandazzjonijiet li n-nies mhumiex mgħammra biex jifhmu, u dan se jwassal għal deċiżjonijiet ħżiena," jgħid.
It-tnedija ta' arma nukleari mhijiex sempliċi daqs li mexxej wieħed fiċ-Ċina, fir-Russja, jew fl-Istati Uniti jagħfas buttuna. Il-kmand u l-kontroll nukleari huwa xibka kumplessa ta' radar ta' twissija bikrija, satelliti, u sistemi oħra tal-kompjuter immonitorjati minn bnedmin. Jekk il-president jordna t-tnedija ta' missila ballistika interkontinentali, żewġ bnedmin iridu jdawru ċ-ċwievet flimkien f'silo individwali biex iniedu l-arma nukleari. It-tnedija ta' arma nukleari Amerikana hija r-riżultat aħħari ta' mitt deċiżjoni żgħira, kollha meħuda minn bnedmin.
X’se jiġri meta l-AI tieħu f’idejha parti minn dak il-proċess? X’jiġri meta AI tkun qed tosserva r-radar ta’ twissija bikrija u mhux bniedem? “Kif tivverifika li qegħdin taħt attakk nukleari? Tista’ toqgħod fuq xi ħaġa oħra għajr konferma viżwali tad-detonazzjoni?” jgħid Wolfsthal. Il-politika nukleari tal-Istati Uniti teħtieġ dak li jissejjaħ “ fenomenoloġija doppja ” biex tikkonferma li tnieda attakk nukleari: Attakk irid jiġi kkonfermat kemm mis-satelliti kif ukoll mir-radar biex jitqies ġenwin. “Jista’ wieħed minn dawk il-fenomeni jkun intelliġenza artifiċjali? Jien nargumenta, f’dan l-istadju, li le.”
Waħda mir-raġunijiet hija bażika: Ma nifhmux kemm jaħdmu sistemi tal-IA. Huma kaxxi suwed. Anke kieku ma kinux, jgħidu l-esperti, l-integrazzjoni tagħhom fil-proċess tat-teħid tad-deċiżjonijiet nukleari tkun idea ħażina.
Latiff għandu t-tħassib tiegħu stess dwar is-sistemi tal-AI li jsaħħu l-preġudizzju tal-konferma. "Jien ninkwieta li anke jekk il-bniedem se jibqa' fil-kontroll, kemm hu sinifikanti dak il-kontroll," jgħid. "Jien kont kmandant. Naf xi tfisser li tkun responsabbli għad-deċiżjonijiet tiegħi. U għandek bżonn dan. Trid tkun tista' tassigura lin-nies li għalihom taħdem li hemm xi ħadd responsabbli. Jekk Johnny jinqatel, lil min għandi nitfa' t-tort?"
Hekk kif is-sistemi tal-IA ma jistgħux jinżammu responsabbli meta jfallu, huma wkoll marbuta b'ostakli, dejta ta' taħriġ, u programmazzjoni. Ma jistgħux jaraw barra minnhom infushom, biex ngħidu hekk. Minkejja l-abbiltà tant entużjasta tagħhom li jitgħallmu u jirraġunaw, huma maqbuda fil-limiti li jistabbilixxu l-bnedmin.
Lin isemmi lil Stanislav Petrov, tenent kurunell tal-Forzi tad-Difiża tal-Ajru Sovjetiċi li salva d-dinja fl-1983 meta ddeċieda li ma jgħaddix twissija mis-sistemi ta' twissija nukleari Sovjetiċi 'l fuq fil-katina tal-kmand.
“Ejja nippretendu, għal minuta, li kien wassal il-messaġġ 'il fuq fil-katina tal-kmand minflok ma baqa' sieket... kif suppost kellu jagħmel... u mbagħad iseħħ olokawst dinji. Fejn hu l-falliment f'dan?” jgħid Lin. “Żball wieħed kien il-magna. It-tieni żball kien li l-bniedem ma rrealizzax li kien żball. Kif suppost bniedem ikun jaf li magna hija żbaljata?”
Petrov ma kienx jaf li l-magna kienet żbaljata. Huwa qata’ abbażi tal-esperjenzi tiegħu. Ir-radar tiegħu qallu li l-Istati Uniti kienu nedew ħames missili, iżda kien jaf li attakk Amerikan ikun kollox jew xejn. Ħamsa kien numru żgħir. Il-kompjuters kienu wkoll ġodda u kienu ħadmu aktar malajr milli kien rahom jaħdmu qabel. Huwa għamel deċiżjoni.
“Nistgħu nistennew li l-bnedmin ikunu jistgħu jagħmlu dan b'mod rutinarju? Hija dik aspettattiva ġusta?” jgħid Lin. “Il-punt hu li trid tmur barra mid-dejta tat-taħriġ tiegħek. Trid tmur barra mid-dejta tat-taħriġ tiegħek biex tkun tista' tgħid: 'Le, id-dejta tat-taħriġ tiegħi qed tgħidli xi ħaġa ħażina.' B'definizzjoni, [l-AI] ma tistax tagħmel dan.”
Donald Trump u l-Pentagon għamluha ċara li l-IA hija prijorità ewlenija, u invokaw it-tellieqa tal-armi nukleari biex jagħmlu dan. F'Mejju, id-Dipartiment tal-Enerġija ddikjara f'post fuq X li "l-IA hija l-Proġett Manhattan li jmiss, u l-ISTATI UNITI SE JIRBĦU." Il-"Pjan ta' Azzjoni tal-IA" tal-amministrazzjoni ddeskriva l-ġirja lejn l-intelliġenza artifiċjali bħala tellieqa tal-armi, kompetizzjoni kontra ċ-Ċina li trid tintrebaħ.
“Naħseb li huwa orribbli,” jgħid Lin dwar il-metafori. “L-ewwel nett, kont naf meta l-Proġett Manhattan tlesta, u stajt ngħidlek meta kien suċċess, hux? Splodejna arma nukleari. Ma nafx xi tfisser li jkollok Proġett Manhattan għall-AI.”
ICYMI: 1854: Esperti Nukleari Jgħidu li t-Taħlit tal-AI u l-Armi Nukleari huwa Inevitabbli
Il-ġudizzju uman jibqa' ċentrali għat-tnedija ta' armi nukleari. Iżda l-esperti jgħidu li hija kwistjoni ta' meta,… #ArmiNukleari #IntelliġenzaArtifiċjali #GwerraNukleari #SistemiPerikolużi #FuturTeknoloġiku
0
0
0
0