Izvori kažu da Trumpovi savjetnici kažu firmama za vještačku inteligenciju da neće testirati sigurnost modela otvorene težine ↗
Trumpova administracija je rekla vodećim kompanijama za vještačku inteligenciju da neće testirati sigurnosne modele otvorenih težina, prema izvorima upoznatim s diskusijama. To ostavlja prilično značajan dio procjene rizika izvan vladinog okvira.
U praksi, programeri i korisnici će možda morati preuzeti veću odgovornost za procjenu modela prije objavljivanja ili implementacije. Možda je to povoljno za inovacije... ali tajming je nesiguran, jer otvoreni modeli postaju sve sposobniji brzim tempom. (Reuters)
Modeli umjetne inteligencije otvorene težine sustižu granice. Sigurnosni jaz i dalje postoji. ↗
Z.ai-jev GLM-5.2 navodno zaostaje samo nekoliko mjeseci za vodećim zatvorenim modelima u sajber i biološkim sposobnostima. Testovi SaferAI-ja su pokazali da nije odbio nijedan od ofanzivnih sajber ili bioloških zadataka dvostruke namjene koji su mu predstavljeni.
Zatvoreni modeli mogu se oslanjati na obuku odbijanja, klasifikatore i API kontrole. Težine koje se mogu preuzeti su drugačija stvar - nakon što se objave, zaštitne mjere se mogu mijenjati ili uklanjati, što čini da sigurnosni jaz ima izrazito oblik kanjona. (TechCrunch)
Samsung Electronics predstavlja sljedeću generaciju tehnologije umjetne inteligencije za pamćenje ↗
Samsung je predstavio prototip BV-NAND-a s više od 400 slojeva i novim dizajnom povezivanja pločica. Kompanija tvrdi da pruža otprilike 58% veću gustoću memorije od prethodne generacije, uz brže performanse čitanja, pisanja i ulazno-izlaznih procesa.
Samsung je također predstavio vertikalno složenu zHBM memoriju postavljenu iznad AI akceleratora. Tvrdi se da bi arhitektura mogla ponuditi više od deset puta veću gustoću od konvencionalne HBM5, utrostručiti energetsku efikasnost i znatno nižu termičku otpornost - značajna obećanja, blago rečeno. (Reuters)
Trka za podatkovne centre umjetne inteligencije stvara teret zakupa od 1 bilion dolara za velike tehnološke kompanije ↗
Microsoft, Meta, Oracle, Amazon i Alphabet su se obavezali na oko 1,09 biliona dolara za zakup koji još nije započeo, uglavnom za podatkovne centre s umjetnom inteligencijom. Te obaveze su skoro četiri puta veće od njihovih priznatih obaveza po zakupu.
Kapacitet bi mogao potaknuti sljedeći procvat cloud tehnologije. Ili, manje veselo, natjerati kompanije da plaćaju ogromne objekte ako potražnja za umjetnom inteligencijom razočara - kaput od bilion dolara kupljen prije nego što je iko provjerio vremensku prognozu. (Reuters)
Anthropic potpisuje ugovor vrijedan 10 milijardi dolara sa startupom za umjetnu inteligenciju Volta ↗
Anthropic je navodno pristao kupiti računarske kapacitete vrijedne 10 milijardi dolara od startupa za umjetnu inteligenciju Volta u periodu od šest godina. Sporazum bi podržao norveški podatkovni centar kapaciteta 133 megavata.
Očekuje se da će kompanija za rudarenje kriptovaluta Bitdeer pomoći u razvoju postrojenja, koje će koristiti Nvidijine Vera Rubin sisteme. Anthropic prikuplja računarska partnerstva poput magneta za frižider - osim što ovi magneti koštaju milijarde. (TechCrunch)
Svjetska banka kaže da umjetna inteligencija nudi "spas" za ekonomije u razvoju ↗
Svjetska banka tvrdi da bi vještačka inteligencija mogla omogućiti zemljama u razvoju da vijek napretka sažmu u jednu deceniju, pod uslovom da poboljšaju električnu energiju, povezanost i digitalne vještine. Manji, lokalno prilagođeni alati mogli bi podržati zdravstvo, obrazovanje, poljoprivredu i javne usluge bez potrebe za ogromnim nacionalnim modelima.
U izvještaju se procjenjuje da je 4,5% radnih mjesta u zemljama s niskim i srednjim prihodima izloženo generativnoj umjetnoj inteligenciji, u poređenju sa 14,2% u bogatijim ekonomijama. Uprkos tome, obećanje dolazi s jasnim upozorenjima o nejednakosti, dezinformacijama i političkoj represiji - što je slamka spasa s nekoliko čvorova uvezanih u nju. (Reuters)
Često postavljana pitanja
Zašto vlada SAD-a ne testira sigurnost modela umjetne inteligencije otvorene težine?
Prema članku, Trumpova administracija je rekla vodećim kompanijama za vještačku inteligenciju da modeli otvorene težine neće biti uključeni u njen vladin okvir za testiranje sigurnosti. To stavlja veću odgovornost na programere modela, distributere i korisnike, koji će možda morati samostalno procijeniti sajber, biološke rizike, rizike zloupotrebe i implementacije prije objavljivanja ili usvajanja ovih sistema.
Zašto je teže osigurati modele umjetne inteligencije otvorene težine od zatvorenih modela?
Modeli umjetne inteligencije otvorene težine mogu se preuzeti, modificirati i njima se može upravljati izvan originalne infrastrukture programera. Kao rezultat toga, zaštitne mjere poput obuke odbijanja, klasifikatora i kontrola pristupa mogu biti oslabljene ili uklonjene. Zatvoreni modeli se obično isporučuju putem kontroliranih API-ja, što pružateljima usluga daje veći prostor za praćenje korištenja, ograničavanje pristupa i ažuriranje zaštita nakon implementacije.
Kako bi organizacije trebale procijeniti modele umjetne inteligencije otvorene težine prije implementacije?
Uobičajeni pristup je testiranje modela u odnosu na realne scenarije zloupotrebe, uključujući ofanzivne sajber zadatke, biološke zahtjeve dvostruke namjene i pokušaje zaobilaženja zaštitnih mjera. Organizacije bi također trebale ispitati kako će se model hostirati, ko će ga moći modificirati i koji su sistemi za praćenje dostupni. Implementacije s većim rizikom obično zahtijevaju strože kontrole pristupa i kontinuirani ljudski nadzor.
Šta je Samsungova nova tehnologija AI memorije dizajnirana da poboljša?
Samsungov BV-NAND prototip koristi više od 400 slojeva i dizajn vezivanja pločica namijenjen povećanju gustoće memorije, a istovremeno poboljšanju performansi čitanja, pisanja i ulazno-izlaznih procesa. Kompanija je također opisala vertikalno složenu zHBM memoriju postavljenu iznad AI akceleratora. Ovi dizajni namijenjeni su rješavanju potreba za kapacitetom, energijom i toplinom koje stvaraju sve intenzivnija AI opterećenja.
Zašto se zakup podatkovnih centara za umjetnu inteligenciju velikih tehnoloških kompanija smatra finansijskim rizikom?
Microsoft, Meta, Oracle, Amazon i Alphabet su navodno izdvojili oko 1,09 biliona dolara za zakup koji još nije započeo, a veći dio toga je povezan s podatkovnim centrima umjetne inteligencije. Dodatni kapaciteti mogli bi podržati brzi rast potražnje za cloudom i umjetnom inteligencijom. Međutim, kompanije bi i dalje mogle dugovati značajne uplate ako se potražnja razvija sporije od očekivanog ili ako infrastruktura ostane nedovoljno iskorištena.
Kako bi vještačka inteligencija mogla koristiti zemljama u razvoju?
Svjetska banka tvrdi da bi vještačka inteligencija mogla pomoći zemljama u razvoju da ojačaju zdravstvo, obrazovanje, poljoprivredu i javne usluge, posebno putem manjih alata prilagođenih lokalnim potrebama. Te koristi zavise od pouzdane električne energije, pristupa internetu i digitalnih vještina. Vlade također moraju upravljati rizicima poput nejednakosti, dezinformacija i političke represije kako se usvajanje širi.