🇬🇧 Hrabra opklada na vještačku inteligenciju kako bi Velika Britanija ostala na čelu naučnih i istraživačkih otkrića, od zdravstva do boljih javnih usluga ↗
Glavni javni finansijer istraživanja u Velikoj Britaniji (UKRI) objavio je svoju prvu namjensku strategiju za umjetnu inteligenciju, u suštini zalažući se za više umjetne inteligencije u istraživanjima, više vještina umjetne inteligencije, više infrastrukture umjetne inteligencije - sve to zajedno.
To uključuje ozbiljna sredstva namijenjena umjetnoj inteligenciji, plus specifične investicije poput nadogradnje superračunara DAWN u Cambridgeu i podrške radu na "AI za nauku" (otkriće lijekova se, što nije iznenađujuće, spominje po imenu). Čita se kao "uraditi osnove, ali i isporučiti rezultate"... što je raspoloženje, ili zategnuta linija, ili oboje.
🛡️ OpenAI i Microsoft se pridružuju međunarodnoj koaliciji Ujedinjenog Kraljevstva kako bi zaštitili razvoj umjetne inteligencije ↗
OpenAI i Microsoft obećali su nova sredstva za projekat usklađivanja britanskog Instituta za sigurnost umjetne inteligencije - fond za nezavisna istraživanja usklađivanja se povećao, a oni to predstavljaju kao izgradnju povjerenja, a ne samo kao napad na štrebere.
Bitna napomena je struktura: međunarodna koalicija, više finansijera i niz grantova koji se dodjeljuju u niz zemalja. To je „usklađivanje kao ekosistem“, a ne „usklađivanje kao tajni sastojak jedne laboratorije“... čak i ako laboratorije i dalje drže većinu sastojka.
🧠 Unapređenje nezavisnih istraživanja o usklađivanju umjetne inteligencije ↗
OpenAI je uložio 7,5 miliona dolara u projekat usklađivanja AISI u Velikoj Britaniji - novac posebno namijenjen nezavisnim timovima koji obavljaju sigurnosne/usklađene poslove izvan graničnih laboratorija.
Prezentacija je prilično direktna: granične laboratorije mogu obavljati usklađivanje s velikim udjelom pristupa modelima, ali ovoj oblasti su također potrebne idiosinkratične, raznolike, nekorelirane ideje od autsajdera (njihove riječi su ljepše, ali razumijete). Ispod svega toga se krije i jasan svjetonazor "iterativne implementacije" - isporuči, uči, usavršavaj... ponavljaj... ili se barem tako čini.
💳 Ministarstvo finansija objavljuje dva nova resursa za usmjeravanje korištenja umjetne inteligencije u financijskom sektoru ↗
Ministarstvo finansija SAD-a ukinulo je dva praktična alata za finansije: zajednički leksikon umjetne inteligencije (kako bi se svi prestali raspravljati o značenju riječi) i okvir za upravljanje rizicima umjetne inteligencije u finansijskim uslugama koji prilagođava NIST-ov pristup stvarnosti bankarstva.
Okvir je upravljanje zasnovano na riziku s dovoljno detalja da ga koriste timovi za usklađenost, regulatori i dobavljači, bez potrebe da svi paralelno izmišljaju vlastite definicije. To je vrsta prozaičnog dokumenta koji tiho oblikuje ono što se odobrava... što je moćno na način koji podsjeća na ormar za dokumente.
🪖 Tehnički direktor Pentagona kaže da 'nije demokratski' da Anthropic ograničava vojnu upotrebu Claudeove umjetne inteligencije ↗
Tehnološki lider Pentagona javno je usprotivio se ograničavanju vojne upotrebe Claudea od strane Anthropic-a, nazivajući "nedemokratskim" da jedna kompanija postavlja dodatna pravila pored zakona i propisa.
Ovo se nadovezuje na širu zbrku u kojoj više kompanija za granične modele ima ugovore o odbrani za prilagođavanje genAI-a za vojne kontekste - a tačka trenja je upravo ono što biste očekivali: politike korištenja kompanija naspram apetita vlade za operativnu upotrebu. Čitava stvar se čini kao rukovanje koje se pretvara u obaranje ruku usred fotografije.
Često postavljana pitanja
Šta je UKRI AI strategija i zašto je važna?
Prva UKRI-jeva posvećena strategija umjetne inteligencije zalaže se za daljnje uvođenje umjetne inteligencije u istraživački proces - vještine, infrastrukturu i praktičnu primjenu. Okvir je "uraditi osnove, ali i isporučiti rezultate", što signalizira pritisak da se investicije u istraživanje pretvore u korist za javnost. Također ukazuje na pristup koji obuhvata cijeli stack: ne samo modele finansiranja, već i računarstvo, ljude i puteve usvajanja koji omogućavaju održivost napretka.
Šta zapravo omogućava nadogradnja superračunara DAWN u Cambridgeu?
Nadogradnja DAWN superračunara u Cambridgeu pozicionirana je kao infrastrukturni potez koji podržava ambiciozniji rad na umjetnoj inteligenciji u istraživanjima u Velikoj Britaniji. U praktičnom smislu, to obično znači veći kapacitet za obuku, evaluaciju i eksperimente velikih razmjera koje manji sistemi teško efikasno izvode. U mnogim razvojnim procesima, jače dijeljeno računanje olakšava uska grla na univerzitetima i ubrzava proces od prototipova do rezultata koji se mogu objaviti i testirati.
Šta znači „AI za nauku“ u kontekstu strategije AI u Velikoj Britaniji?
„AI za nauku“ se predstavlja kao korištenje AI metoda za ubrzavanje otkrića, pri čemu je otkrivanje lijekova eksplicitno provjereno. U praksi, ovo često uključuje korištenje AI za generiranje hipoteza, pretraživanje velikih dizajnerskih prostora ili određivanje prioriteta eksperimenata. Naglasak sugerira apetit za ishodima koji jasno prevazilaze akademsku zajednicu - nove metode, kraći ciklusi i aplikacije koje se povezuju sa zdravstvom i javnim uslugama.
Šta je projekat usklađivanja Instituta za sigurnost umjetne inteligencije u Velikoj Britaniji i ko ga finansira?
Projekt usklađivanja britanskog Instituta za sigurnost umjetne inteligencije opisan je kao međunarodna koalicijska struktura koja podržava nezavisna istraživanja usklađivanja, s doprinosom više finansijera. OpenAI i Microsoft istaknuti su kao dodaci novog finansiranja, uokvireni kao izgradnja povjerenja i podrška ekosistemu. Model je „usklađivanje kao ekosistem“, s grantovima koji teku timovima širom zemalja, umjesto da se rad koncentrira unutar graničnih laboratorija.
Zašto je OpenAI uložio 7,5 miliona dolara u nezavisna istraživanja o usklađivanju vještačke inteligencije?
OpenAI-jeva navedenu logiku čini da granične laboratorije mogu obavljati sigurnosni posao koji zavisi od pristupa dubokom modelu, dok nezavisni timovi mogu doprinijeti raznolikim, nekoreliranim idejama koje laboratorije mogu propustiti. Naglasak je na proširenju polja izvan „tajnog sastojka jedne laboratorije“. Članak također nagovještava svjetonazor „iterativne implementacije“ - implementacija, učenje iz povratnih informacija o implementaciji, jačanje sistema, a zatim ponavljanje.
Kako resursi američkog Ministarstva finansija za umjetnu inteligenciju utiču na upravljanje umjetnom inteligencijom u finansijskom sektoru?
Ministarstvo finansija SAD-a objavilo je zajednički leksikon umjetne inteligencije i okvir za upravljanje rizicima umjetne inteligencije u finansijskim uslugama, prilagođen razmišljanju u stilu NIST-a. Namjera je smanjiti širenje definicija i dati timovima za usklađenost, regulatorima i dobavljačima zajednički priručnik. U mnogim organizacijama, dokumenti poput ovih oblikuju ono što se odobrava u praksi, jer standardiziraju očekivanja za kontrole, dokumentaciju i donošenje odluka na osnovu rizika.