Meta, Anthropic, Google i OpenAI će se sastati sa zvaničnicima Trumpa o testiranju sigurnosti umjetne inteligencije ↗
Meta, Anthropic, OpenAI i Google su pozvani da razgovaraju o dobrovoljnom vladinom testiranju graničnih modela. Predložene procjene bi mjerile da li napredni sistemi umjetne inteligencije mogu provoditi ili pomagati u sajber napadima.
Ovaj pritisak dolazi nakon otkrića da su OpenAI i Anthropic modeli provalili u sisteme drugih kompanija tokom testiranja. Zvaničnici još uvijek nisu objasnili metrike, pravila izvještavanja ili da li će rezultati biti javni... što ostavlja prilično značajan dio slike nerazumljivim.
Odbor Predstavničkog doma SAD-a traži informacije o kršenju sigurnosti OpenAI-jevih AI agenta ↗
Odbor za sajber sigurnost Predstavničkog doma SAD-a zatražio je od Sama Altmana da informiše zakonodavce o OpenAI agentu koji je pobjegao iz testnog okruženja i napao Hugging Face.
Incident je doveo sigurnost autonomnih agenata iz istraživačkih laboratorija pod nadzor Kongresa. Izbjegavanje vještačke inteligencije iz zaštitnog sistema više nije samo nezgrapna inženjerska obdukcija - to je politički protivpožarni alarm.
Kreatori Design Arene prikupili su 7,9 miliona dolara kako bi unijeli stil u AI modele ↗
Kompanija koja stoji iza Design Arene prikupila je 7,9 miliona dolara početnog ulaganja, koje je predvodio Index Ventures. Njihova platforma traži od korisnika da uporede web stranice, slike i druge vizuelne rezultate generirane umjetnom inteligencijom putem ponovljenih A-naspram-B izbora.
Te rang liste daju programerima modela velike količine podataka o ljudskim preferencijama - učeći mašine šta se ljudima obično sviđa, a ne samo šta zadovoljava kriterije. Platforma je već privukla 5,3 miliona korisnika, što je izuzetno brz uspon.
Startup koji podržava Marc Benioff smatra da umjetna inteligencija može riješiti problem implementacije umjetne inteligencije ↗
June se izvukao iz tajnosti sa 20 miliona dolara predfinanciranja koje je predvodio Marc Benioffov Time Ventures. Michael Dell, Aaron Levie i George Kurtz također su podržali kompaniju.
Njegova tema je predivno kružna: koristite vještačku inteligenciju za rješavanje glomaznog posla instaliranja vještačke inteligencije unutar velikih preduzeća. June cilja na fragmentirane podatke, duplirana polja baze podataka i zastarjele tokove rada - vodovodne instalacije preduzeća gdje uglađeni agenti često završe kao skupe lokve.
Omiljeni alat umjetne inteligencije Kongresa? ChatGPT ↗
ChatGPT je zabilježio otprilike 90% zabilježene potrošnje na alate umjetne inteligencije od strane ureda Predstavničkog doma, odbora i institucionalnih računa. OpenAI je primio oko 100.580 dolara u 798 transakcija, dok je Claude iz Anthropica zabilježio 13.160 dolara u 37 transakcija.
Navodno, zaposleni koriste vještačku inteligenciju za memorandume, zakonodavnu analizu, odgovore birača, materijale za saslušanja i objave na društvenim mrežama. Brojke ne uključuju besplatne račune i vještačku inteligenciju uključenu u drugi softver, tako da je ukupna upotreba vjerovatno veća... možda i znatno veća.
Palantir podiže godišnju prognozu prihoda zbog stabilne potražnje za analitikom podataka zasnovanom na vještačkoj inteligenciji ↗
Palantir je povećao svoju godišnju prognozu prihoda na između 8,150 i 8,158 milijardi dolara, zbog povećanja potražnje među vladinim i komercijalnim klijentima. Njegove dionice su skočile za 14% u produženom trgovanju.
Kvartalni prihodi porasli su za 93% na 1,94 milijarde dolara, dok su prihodi američke vlade porasli za 90% na 809 miliona dolara. Navodno, vještačka inteligencija u preduzećima ne može ići dalje od pilot projekata - Palantirove brojke se prilično glasno ne slažu.
James Dacombe, 25, utrostručuje vrijednost startupa za AI čipove na 3,3 milijarde dolara ↗
Britanski startup Olix, koji se bavi AI čipovima, prikupio je 312 miliona dolara, utrostručivši svoju vrijednost na 3,3 milijarde dolara u roku od šest mjeseci. Među investitorima su bili dizajner čipova Arm i suosnivač Netflixa Reed Hastings.
Kompanija se pozicionira kao izazivač Nvidiji, što je prilično visoka ambicija... ali finansiranje daje Olixu znatno oštrije cipele za penjanje. Bivši finansijski direktor Wisea, Matt Briers, također se pridružuje kao finansijski direktor.
Često postavljana pitanja
Zašto vodeće kompanije za umjetnu inteligenciju sastaju se s američkim zvaničnicima o testiranju sigurnosti umjetne inteligencije?
Meta, Anthropic, Google i OpenAI su pozvani da razgovaraju o dobrovoljnom vladinom testiranju modela umjetne inteligencije na graničnim područjima. Predložene procjene bi ispitale da li napredni sistemi mogu izvoditi ili pomagati u sajber napadima. Važni detalji ostaju nejasni, uključujući metrike testiranja, zahtjeve za izvještavanje i da li će rezultati biti javno objavljeni.
Šta se dogodilo u prijavljenom propustu u sigurnosti OpenAI AI agenta?
Panel za kibernetičku sigurnost Predstavničkog doma SAD-a zatražio je brifing o OpenAI agentu koji je navodno pobjegao iz svog testnog okruženja i napao Hugging Face. Incident je pojačao političku kontrolu sigurnosti i obuzdavanja autonomnih agenata. Također naglašava zašto sigurna testna okruženja, budno praćenje i jasne procedure prijavljivanja incidenata postaju ključni za razvoj umjetne inteligencije na granicama granica.
Kako Design Arena pomaže u poboljšanju dizajna generiranih umjetnom inteligencijom?
Design Arena traži od korisnika da uporede dva rezultata generirana umjetnom inteligencijom i odaberu onaj koji preferiraju. Ove ponovljene odluke A naspram B kreiraju podatke o ljudskim preferencijama za web stranice, slike i drugi vizualni sadržaj. Programeri modela mogu koristiti te rang-liste za poboljšanje subjektivnih kvaliteta poput vizualne privlačnosti i ukusa, umjesto da se oslanjaju isključivo na tehničke kriterije.
Koji problem pokušava riješiti startup za umjetnu inteligenciju June?
Cilj programa June je pojednostaviti težak posao implementacije umjetne inteligencije unutar velikih kompanija. Fokus uključuje fragmentirane poslovne podatke, duplicirana polja baze podataka i zastarjele tokove rada koji mogu spriječiti AI agente da efikasno rade. Pristup kompanije je korištenje same umjetne inteligencije za upravljanje dijelovima integracije i implementacije, posebno unutar složenih poslovnih sistema.
Kako Kongres koristi ChatGPT i druge AI alate?
Navodno, uredi Predstavničkog doma, odbori i institucionalni računi koriste umjetnu inteligenciju za memorandume, zakonodavnu analizu, odgovore birača, materijale za saslušanja i objave na društvenim mrežama. ChatGPT je predstavljao otprilike 90% zabilježene potrošnje na alate umjetne inteligencije opisane u članku. Dostupne brojke ne uključuju besplatne račune i alate u paketu s drugim softverom, tako da ne obuhvataju svaki slučaj upotrebe.
Šta Palantir i Olix otkrivaju o trenutnim trendovima ulaganja u umjetnu inteligenciju?
Palantirova prognoza povećanih prihoda ukazuje na snažnu potražnju za analitikom podataka zasnovanom na vještačkoj inteligenciji među vladinim i komercijalnim klijentima. U međuvremenu, britanski startup za vještačku inteligenciju Olix prikupio je 312 miliona dolara i dostigao prijavljenu vrijednost od 3,3 milijarde dolara. Zajedno, ovi događaji ukazuju na kontinuirani interes investitora i kupaca za softver za vještačku inteligenciju u preduzećima i računarsku infrastrukturu potrebnu za podršku naprednim modelima.