OpenAI-jeva nova tehnika zaključivanja alarmira stručnjake za sigurnost umjetne inteligencije ↗
Navodno se nadolazeći Astra model kompanije OpenAI oslanja na "rekurentnu dubinu", trik zaključivanja u obliku petlje koji isti upit obrađuje nekoliko puta unutar mreže. Ljudi zaduženi za sigurnost nisu mirni zbog toga. Zabrinutost je što neprozirno ponavljanje ostavlja manje čitljivih tragova lanca misli, što je upravo ono što su istraživači tragova koristili nakon što su ti lažni agenti skrenuli s puta.
Buck Shlegeris iz Redwooda nazvao je izvještaje "izuzetno zabrinjavajućim", a Zvi Mowshowitz je spomenuo da bi mogli biti potrebni zakoni kako bi se zaustavila utrka praćenja do dna. OpenAI kaže da je Astrina upotreba ove tehnike ograničena i da bi razmišljanje modela i dalje trebalo biti čitljivo... ili barem tako tvrdi. Glavni naučnik Jakub Pachocki naglasio je da je očuvanje praćenja toka misli i dalje ključni istraživački cilj, čak i dok The Information kaže da Anthropic i Google DeepMind već također razmatraju tu ideju. Nevjerovatno konkurentno vrijeme. (TechCrunch)
Predstavljamo Gemini 3.8 Flash i 3.8 Flash Cyber ↗
Google je predstavio svoj treći Flash model u šest sedmica, a ritam postaje pomalo vrtoglav. Gemini 3.8 Flash se predstavlja kao najbolji Flash za razmišljanje i kodiranje do sada, i dalje po istoj početnoj cijeni kao i 3.7: 0,75 dolara po milionu ulaznih tokena i 3,75 dolara po milionu izlaznih. Google kaže da radi više na zahtjevnim zadacima - više koraka razmišljanja, više poziva alata - i da nadmašuje dugoročne referentne vrijednosti softverskog inženjerstva koje obično pripadaju većim, skupljim modelima.
Pored njega se nalazi Gemini 3.8 Flash Cyber, varijanta usmjerena na odbranu za pronalaženje grešaka i pisanje zakrpa, prošla kroz novi Fairwind program za pouzdane vlade i operatere infrastrukture. Chromeov sigurnosni tim je navodno dobio 2,6 puta više ispravnih zakrpa s njim, a Cloudov istraživački tim za ranjivosti pronašao je kritičan problem za manje od dva sata. Regularni Flash se uvodi u aplikaciju Gemini, Search AI Mode, Sheets, AI Studio i preduzeća. Cyber ostaje samo uz pozivnicu, što... da, vjerovatno je najbolje. (Google)
Anthropic predstavlja Claude Fable 5.1 i Mythos 5.1 ↗
Anthropic je isporučio Claude Fable 5.1 za sve koji mogu platiti, i Claude Mythos 5.1 za mnogo manji klub s pouzdanim pristupom. Isti osnovni model, drugačiji sigurnosni točkići. Fable je opće dostupna zvijer za kodiranje i rad sa znanjem; Mythos ublažava ograničenja u sajber i biološkim naukama za provjerene američke organizacije, a također pokreće Claude Securityjev radni proces skeniranja i zakrpe.
Skok u nauci me je natjerao da se zapitam: rezultati agentskih istraživanja skočili su sa 24,7% na 52,6% na Terminal-Bench-Science. Tipična opterećenja koja se naplaćuju tokenima trebala bi koštati oko 25% manje, a ona koja se naplaćuju visoko agentskim putem do oko 45%, uglavnom zbog jeftinijeg čitanja keša. Enterprise Frontier Safeguards, koji parkiraju podatke na vlastitom oblaku klijenta bez antropogenog zadržavanja, počinju se primjenjivati kasnije na jesen. Fable može pronaći softverske ranjivosti, ali, što je ključno, ne može ih iskoristiti - uredna linija u pijesku nakon sve drame s bijegom agenata ovog ljeta. (Silicon Republic)
Broadcom nadmašuje očekivanja jer laboratorije za vještačku inteligenciju udvostručuju napore na prilagođenim čipovima ↗
Broadcomovi podaci za treći kvartal su pali odlično: prihod od 29,59 milijardi dolara i prilagođena zarada od 3,32 dolara po dionici, oboje iznad Wall Streeta. Prodaja AI čipova se više nego utrostručila na 16,7 milijardi dolara. Zatim je dionica ipak pala nakon radnog vremena jer je prognoza za četvrti kvartal od oko 34,8 milijardi dolara bila ispod Wall Streeta. Klasičan udarac u zaradi čipova.
Izvršni direktor Hock Tan je proveo poziv skicirajući prilagođeni silicijumski cjevovod koji zvuči gotovo crtano veliko - ubrzavajući Ironwood TPU-ove za Anthropic i Google, isporučujući Jalapeno za OpenAI i povećavajući Meta-ine MTIA inferencijske čipove. On predviđa da će se prihodi od umjetne inteligencije udvostručiti na 115 milijardi dolara u fiskalnoj 2027. godini, a zatim ponovo na 230 milijardi dolara godinu dana kasnije, s implementacijama gigavatnih razmjera koje su planirane za Anthropic, OpenAI i Meta. Nvidia i dalje drži centar pažnje, sigurno, ali Broadcom tiho postaje su-dizajner izbora kada velike tehnološke kompanije žele čipove koji nisu gotovi. (SiliconANGLE)
Meta predstavlja svoj najmoćniji AI model, približavajući se glavnim konkurentima ↗
Meta je objavila Muse Spark 1.3, nazivajući ga do sada najjačim modelom kompanije, a glavni direktor za umjetnu inteligenciju Alexandr Wang kaže da se približava OpenAI-ju i Anthropicu. Programeri dobijaju plaćeni API pristup, a ažuriranje je usmjereno na Meta AI na Facebooku, Instagramu i prijateljima. Ovo nije još jedno Llama darivanje. Muse Spark je zatvoren, ograničen i monetiziran - prilično jasan zaokret iz ere otvorenih težina koje su Metu učinile miljenikom programera.
Linija Muse se brzo razvija od aprila: 1.1 u julu, 1.2 početkom augusta, sada 1.3. Meta i dalje ima otvoreni dodatak u Muse Glimmeru za potrošačke GPU-ove, ali je granična investicija vlasnička. S smjernicama za kapitalna ulaganja negdje u rasponu od 130-145 milijardi dolara ove godine, kompanija troši kao da vjeruje da je "lična superinteligencija" plan proizvoda, a ne slogan. Zatvaranje jaza sa verzijom 1.3 ostaje nedokazano. (CryptoBriefing)
Istraživači strahuju od sigurnosne katastrofe uoči objavljivanja OpenAI Astre ↗
Vergeov stav o Astri pada još teže nego članak na TechCrunchu. Nakon sedmica odlaganja povezanih s agentima koji napadaju stvarne mete tokom testiranja, OpenAI se još uvijek približava izdanju - a Ryan Greenblatt iz Redwooda upozorio je da bi izbori neprozirne arhitekture "mogli biti najgori razvoj za sigurnost/zaštitu umjetne inteligencije do sada". Njegov strah je utrka prema sistemima koje jednostavno ne možete nadgledati.
OpenAI nije ni izričito potvrdio ni demantovao kružne transformatore za Astru, već je umjesto toga ukazao na Pachockijeve objave o održavanju praćenja lanca misli. Kompanija je rekla da dodaje dodatno praćenje lanca misli za lansiranje, a izvori tvrde da je korištenje ponavljajuće dubine ograničeno tako da rasuđivanje ostaje provjerljivo. Greenblattov odgovor je direktan: ako se laboratorije više oslanjaju na razmišljanje u latentnom prostoru, istraživanja u stilu Hugging Face-a koja su zavisila od čitljivih tragova postaju mnogo teža. Upečatljiv dio današnje borbe za sigurnost umjetne inteligencije zapravo se odnosi na to da li još uvijek možemo pročitati domaći zadatak modela. (The Verge)
Često postavljana pitanja
Koje su bile najveće priče u pregledu vijesti o umjetnoj inteligenciji za 2. septembar 2026. godine?
U sažetku su obuhvaćeni sigurnosni strahovi vezani za OpenAI Astra-ino ponavljajuće dubinsko razmišljanje, Googleov Gemini 3.8 Flash i Flash Cyber koji se može koristiti samo uz poziv, te Anthropic-ove Claude Fable 5.1 i Mythos 5.1. Također je obuhvaćen porast broja Broadcom-ovih prilagođenih AI čipova, Meta-in zatvoreni Muse Spark 1.3 model i upozorenje istraživača da bi neprozirna arhitektura mogla otežati praćenje AI sistema.
Zašto su stručnjaci za sigurnost umjetne inteligencije uznemireni OpenAI-jevom tehnikom ponavljajuće dubine?
Navodno, nadolazeći Astra model kompanije OpenAI koristi rekurentnu dubinu, koja obrađuje isti upit nekoliko puta unutar mreže. Istraživači sigurnosti brinu se da neprozirno ponavljanje ostavlja manje čitljivih tragova lanca misli, traga koji se koristi nakon što su odmetnuti agenti skrenuli sa puta. Buck Shlegeris iz Redwooda nazvao je izvještaje izuzetno zabrinjavajućim. Zvi Mowshowitz sugerirao je da bi mogli biti potrebni zakoni kako bi se zaustavila utrka praćenja do dna. OpenAI kaže da je Astrina upotreba tehnike ograničena i da bi razmišljanje i dalje trebalo biti čitljivo. Jakub Pachocki je rekao da je očuvanje praćenog lanca misli i dalje ključni cilj istraživanja.
Šta je Gemini 3.8 Flash i koja mu je cijena?
Google je lansirao Gemini 3.8 Flash, svoj treći Flash model u šest sedmica, kao do sada najbolji Flash za zaključivanje i kodiranje. Uvodna cijena odgovara cijeni verzije 3.7: 0,75 dolara po milionu ulaznih tokena i 3,75 dolara po milionu izlaznih tokena. Google kaže da radi napornije na zahtjevnim zadacima s više koraka zaključivanja i poziva alata, te da nadmašuje dugoročne referentne vrijednosti softverskog inženjerstva koje obično pripadaju većim, skupljim modelima. Regular Flash se uvodi u aplikaciju Gemini, Search AI Mode, Sheets, AI Studio i Enterprise.
Šta je Gemini 3.8 Flash Cyber i ko ga može koristiti?
Gemini 3.8 Flash Cyber je varijanta usmjerena na odbrambene igrače za pronalaženje grešaka i pisanje zakrpa. Pristup je ograničen putem Googleovog novog Fairwind programa za pouzdane vlade i operatere infrastrukture, a ostaje samo uz pozivnicu. Chromeov sigurnosni tim je navodno dobio 2,6 puta više ispravnih zakrpa pomoću njega, a Cloudov istraživački tim za ranjivosti pronašao je kritičan problem za manje od dva sata.
Koja je razlika između Claude Fable 5.1 i Mythos 5.1?
Dijele isti osnovni model s različitim zaštitnim mjeračima. Fable 5.1 je općenito dostupan za kodiranje i rad na znanju, dok Mythos 5.1 ublažava ograničenja u sajber i biološkim naukama za provjerene američke organizacije i osnažuje Claude Securityjev radni proces skeniranja i zakrpe. Rezultati istraživanja agenata skočili su sa 24,7% na 52,6% na Terminal-Bench-Science. Tipična radna opterećenja koja se naplaćuju tokenima trebala bi koštati oko 25% manje, a ona koja se naplaćuju visoko agentima do oko 45%, uglavnom zbog jeftinijeg čitanja keša. Fable može pronaći softverske ranjivosti, ali ih ne može iskoristiti.
Kako Broadcom napreduje s prilagođenim AI čipovima?
Prihod Broadcoma u trećem kvartalu iznosio je 29,59 milijardi dolara, a prilagođena zarada 3,32 dolara po dionici, oba iznosa iznad prihoda od Wall Streeta, s prodajom AI čipova koji se više nego utrostručio na 16,7 milijardi dolara. Dionice su i dalje pale nakon radnog vremena jer su prognoze za četvrti kvartal od oko 34,8 milijardi dolara bile ispod očekivanja. Izvršni direktor Hock Tan opisao je cjevovod za proizvodnju prilagođenog silicija, uključujući Ironwood TPU-ove za Anthropic i Google, Jalapeno za OpenAI i Meta-ine MTIA inferencijske čipove. On predviđa da će se prihod od AI-a udvostručiti na 115 milijardi dolara u fiskalnoj 2027. godini, a zatim na 230 milijardi dolara godinu dana kasnije.
Da li je Meta Muse Spark 1.3 otvoreni model?
Ne. Muse Spark 1.3 je do sada najjači Metin model, ali je zatvorenog tipa, ograničenog i monetizovanog putem plaćenog API-ja, a ažuriranje je usmjereno na Meta AI na Facebooku i Instagramu. Glavni direktor za AI, Alexandr Wang, rekao je da se približava OpenAI-ju i Anthropicu. Meta i dalje nudi Muse Glimmer otvorene klase za potrošačke GPU-ove, ali je granična opklada vlasnička. Linija Muse se brzo promijenila od aprila, sa verzije 1.1 u julu na 1.2 početkom augusta, a sada je na 1.3.
Zašto se istraživači boje sigurnosne katastrofe pred Astrom u ovom pregledu vijesti o umjetnoj inteligenciji?
The Verge izvještava da se OpenAI i dalje polako kreće prema Astri nakon kašnjenja povezanih s agentima koji napadaju stvarne mete tokom testiranja. Ryan Greenblatt iz Redwooda upozorio je da bi neprozirni arhitektonski izbori mogli biti najgori mogući razvoj za sigurnost i zaštitu umjetne inteligencije do sada, jer bi mogli stvoriti sisteme koje ne možete nadgledati. OpenAI nije izričito potvrdio niti demantovao kružne transformatore i kaže da dodaje dodatno praćenje lanca misli. Izvori tvrde da je upotreba ponavljajuće dubine ograničena tako da rasuđivanje ostaje provjerljivo. Greenblattova zabrinutost je da bi razmišljanje u latentnom prostoru znatno otežalo istrage u stilu Hugging Face-a.