🛡️ Britanski regulatori žure s procjenom rizika najnovijeg modela antropičke umjetne inteligencije, izvještava FT ↗
Britanski finansijski nadzornici navodno brzo rade na novom Anthropicovom modelu Mythos nakon zabrinutosti da bi mogao otkriti ozbiljne slabosti u kritičnim sistemima. U razgovorima učestvuju Banka Engleske, FCA, Ministarstvo finansija i Nacionalni centar za sajber sigurnost - što je impresivan sastav za jedan pregled modela.
Zabrinjavajuće je da je Mythos neobično vješt u pronalaženju softverskih ranjivosti, iako Anthropic kaže da je implementacija strogo ograničena i usmjerena na odbrambene sigurnosne radove. Očekuje se da će banke, osiguravatelji i berze biti obaviješteni, tako da se ovo sada manje čini kao laboratorijski tračevi, a više kao infrastrukturna politika.
🤖 Na konferenciji HumanX, svi su pričali o Claudeu ↗
Izgleda da je Anthropic zadao ton na HumanX-u - to je bila priča. Kroz panele, razgovore s dobavljačima i ćaskanje u hodnicima, Claude se stalno pojavljivao kao uzor ljudi koje su najviše tražili za poslovne i koderske tokove rada.
Ono što se isticalo bila je relativna tišina oko ChatGPT-a. Članak sugerira da OpenAI i dalje ima obim i novac, ali raspoloženje na konferenciji naginjalo je prema Claudeu kao alatu sa jačim poduzetničkim potencijalom u ovom trenutku - ili se barem tako čini.
📄 Anthropicov Claude za Word je još jedan izazov za Microsoftovo softversko carstvo ↗
Anthropic je lansirao beta verziju Claudea za Word, probijajući se dalje u svakodnevni kancelarijski softver umjesto da ostane ograničen kao alat za razvojne programere. Može odgovoriti na pitanja o dokumentu s citatima odjeljaka na koje se može kliknuti, uređivati odabrani tekst bez oštećenja formatiranja i upravljati praćenim promjenama.
Ciljna publika je prilično jasna: timovi koji rade s puno dokumenata, posebno pravni i finansijski. Zbog toga je ovo više od pukog dodavanja funkcionalnosti - to je direktan udarac na Microsoftov domaći teren i prilično drzak potez.
🌐 AI botovi rudare web, a Anthropic prednjači u tome ↗
Novi pogled na podatke Cloudflarea tvrdi da kompanije koje se bave vještačkom inteligencijom izvlače mnogo više s weba nego što vraćaju. Ključna statistika je odnos indeksiranja i preporuka - koliko često botovi "stružu" stranice u odnosu na to koliko često vraćaju korisnike - a Anthropic posebno loše prolazi.
Prijavljeno je da je Anthropicov omjer 8.800 prema 1, a OpenAI je također visok, ali mnogo niži. Šira poenta je direktna: stara web pogodba je bila da nas prvo indeksira, a zatim nam šalje promet. AI mehanizmi za odgovore zadržavaju prvi dio, a drugi puštaju da nestane.
⚔️ Pogled na eskalirajuću globalnu utrku u naoružanju umjetnom inteligencijom, dok SAD, Kina, Rusija i drugi žure s izgradnjom autonomnog oružja i odbrambenih sistema podržanih umjetnom inteligencijom ↗
Najnovije izvještavanje o vojnoj i vještačkoj inteligenciji manje se bavi blještavim demonstracijama, a više strateškim ubrzanjem. Velike sile istovremeno promoviraju autonomne i vještački potpomognute odbrambene sisteme, što cijelu stvar čini kao štafetnu trku u kojoj su svi zgrabili palicu i zaboravili na kočnice.
To postavlja uobičajena pitanja - kontrolu, eskalaciju, odgovornost - ali sada s većom hitnošću. Kada se vještačka inteligencija dublje ugradi u ciljanje, nadzor i donošenje odluka na bojnom polju, "eksperimentalno" počinje zvučati kao papirna etiketa na nečemu što je već u pokretu.
🏭 Japanska SoftBank pokreće odjel za razvoj domaće umjetne inteligencije ↗
SoftBank se udružio sa Sonyjem, Hondom i drugim japanskim kompanijama kako bi formirao novi AI poduhvat fokusiran na "fizičku AI" - modele namijenjene kontroli mašina i robota, a ne samo odgovaranju tekstualnim porukama. To je drugačija staza od uobičajenog takmičenja chatbotova, i možda zanimljivija.
Ambicija je ogromna, a napor je navodno usmjeren na vrlo veliki model temelja i dug put ka industrijskoj upotrebi. Dijelom je to nacionalna tehnološka strategija, dijelom skok na mjesec, dijelom anime o robotima sa sastancima odbora.
Često postavljana pitanja
Zašto regulatori u Velikoj Britaniji pažljivo prate Anthropicov Mythos model?
Izvještaji sugeriraju da vlasti Ujedinjenog Kraljevstva smatraju Mythos potencijalnim rizikom jer bi mogao biti neobično vješt u pronalaženju softverskih ranjivosti. U razgovorima su navodno učestvovali Banka Engleske, FCA, Trezor i Nacionalni centar za sajber sigurnost. Ta kombinacija institucija ukazuje na zabrinutost zbog mogućih uticaja na kritične sisteme, posebno u finansijama i infrastrukturi.
Po čemu se model Antropičnog mita razlikuje od normalnog izdanja umjetne inteligencije?
Zabrinutost nije samo u tome što je riječ o novom modelu, već u tome što se čini posebno sposobnim u odbrambenim sigurnosnim poslovima vezanim za otkrivanje softverskih slabosti. Anthropic navodno tvrdi da je pristup strogo ograničen, što sugerira da se s uvođenjem postupa opreznije nego sa širokim lansiranjem za korisnike. U praksi, to daje osjećaj da je bliže kontroliranoj sigurnosnoj mogućnosti nego standardnom ažuriranju chatbota.
Zašto je Claude dobijao toliko pažnje na konferenciji HumanX?
Prema članku, Claude se više puta pojavljivao u panelima, razgovorima s dobavljačima i neformalnim diskusijama kao snažna opcija za poslovne i koderske tokove rada. Članak predstavlja Anthropic kao platformu koja je imala značajan zamah među poslovnim korisnicima na tom događaju. Također sugerira da je raspoloženje oko HumanX-a na ChatGPT-u bilo prigušenije, iako OpenAI i dalje ima veliki obim i resurse.
Šta Claude for Word zapravo radi za timove koji rade s puno dokumenata?
Beta verzija opisana ovdje je dizajnirana za rad unutar dokumenata, a ne samo za generiranje samostalnog teksta. Može odgovoriti na pitanja o dokumentu s citatima odjeljaka, uređivati odabrane odlomke bez ometanja formatiranja i obrađivati praćene promjene. To je čini posebno relevantnom za pravne, finansijske i druge timove kojima je potreban pažljiv pregled, a ne gruba izrada nacrta.
Šta omjer indeksiranja i preporuka govori o AI botovima i webu?
Članak predstavlja ovaj omjer kao način poređenja koliko AI kompanije indeksiraju web stranice u odnosu na to koliko često vraćaju korisnike nazad. U tom okviru, vrlo visok omjer sugerira ekstrakciju s malo povratnog prometa. Anthropic se prema ovoj mjeri opisuje kao posebno loš, što zaoštrava širu kritiku da AI tražilice za odgovore mogu oslabiti stariju web razmjenu indeksiranja u zamjenu za preporuke.
Zašto ljudi povezuju napredak umjetne inteligencije i s autonomnim oružjem i s fizičkom umjetnom inteligencijom?
Članak ukazuje na dva povezana trenda: vlade koje ubrzavaju razvoj odbrambenih sistema podržanih vještačkom inteligencijom i kompanije poput SoftBanka koje podržavaju modele dizajnirane za kontrolu mašina i robota. Zajedno, oni pokazuju da vještačka inteligencija prelazi granice chata i pretraživanja i ulazi u fizičke sisteme koji mogu osjećati, odlučivati i djelovati. To postavlja veća pitanja o kontroli, odgovornosti, industrijskoj upotrebi i koliko brzo ovi sistemi prelaze iz eksperimentalnog u operativni period.