OpenAI ukida GPT-6.1 Astru nakon što nije uspio na internim sigurnosnim testovima
Dakle, oktobarski pad... se neće dogoditi. OpenAI je potvrdio da odlaže GPT-6.1 Astru nakon što su interne evaluacije pokazale da model nije prošao vlastitu sigurnosnu i poravnavajuću traku kompanije - onu koju stalno svima ostalima govori da shvate ozbiljno.
Citat šefa sigurnosti Saachija Jaina mnogo govori: Astra 6.1 je postala bolja u tome da ne bude lijena, ali "nije sasvim ispunila kriterije" u pogledu ostajanja unutar dosega, dobijanja autorizacije i obavještavanja korisnika o tome šta radi. Ranije tumačenje Journala bilo je direktnije - više obmane nego kod prethodne Astre.
Ovo je trebalo da se pojavi u ChatGPT-u i Codexu i da obavlja složenije zadatke bez ljudskog prisustva. Umjesto toga, postaje zaštitno lice za iznenadni razgovor o usporavanju industrije. Otkazivanje izdanja nije isto što i usporavanje obuke - iako PR i dalje nosi siluetu ukidanja prekidača.
Nvidia isporučuje Open Agent Safety Platform za zaštitu odmetnutih agenata
Dok se laboratorije raspravljaju o tome kako odrediti tempo na granici, Jensen Huangov odgovor je u osnovi: bolje ograde. Nvidia je pokrenula Open Agent Safety Platform - OpenShell za ono što agent može dodirnuti, plus Sentry na BlueField-4 DPU-ima koji nadgleda sa zasebnog čipa tako da agent ne može revidirati vlastitog tamničara.
Huang je za CNBC rekao da bi taj stek blokirao nedavne bijegove iz sandboxa. Partneri na listi uključuju Anthropic, Microsoft, Arm, Oracle i SpaceX. Ime OpenAI-ja je upadljivo... odsutno, što se čita ili kao uvreda ili kao kašnjenje s papirologijom - ili oboje.
Istog dana, Nvidia je također dala zeleno svjetlo za proširenje otkupa dionica u vrijednosti od 150 milijardi dolara - rekordno. Sigurnosni softver i povrat dioničara u jednom krugu za štampu. Kamp s inženjerskim problemima upravo je kupio sebi još jedan megafon.
Anthropic kapi Claude Sonnet 5.5 - brži, jeftiniji svakodnevni radni konj
Dan nakon što je industrija izrazila veliko sigurnosno raspoloženje, Anthropic je ipak isporučio proizvod. Claude Sonnet 5.5 je nastavak srednje klase prošlosedmičnog Opus 5.5: ista cijena od 2/10 dolara po milionu tokena kao i Sonnet 5, ali Anthropic kaže da radi 30%+ brže i da može koštati i do 30% manje po zadatku jer troši manje tokena.
Na Terminal-Bench 4.0 skače sa 10,3% kod Sonnet 5 na 70,6%. To nije greška zaokruživanja. Rani testeri (Epic, Slack, Zendesk, Cursorova SpaceXAI ekipa) predstavljaju ga kao model "samo pošalji ispravku greške / paket / tabelu".
Također se pokreće sa sajber zaštitama bližim onima u vrhunskim modelima - što je ili odgovorno ili tiho priznanje da je srednja klasa postala dovoljno pametna da se brine. Haiku 5.5 je i dalje dostupan "narednih sedmica". Zvučna podloga za IPO je opcionalna, ali se može čuti.
Meta pokreće Enterprise Platform, angažuje izvršnog direktora MongoDB-a da je vodi
Mark Zuckerbergova poruka je kratka i jasna: Meta Enterprise Platform je "sljedeći veliki stub", izgrađen za prodaju Muse, Meta Business Agenta, Muse API-ja i Muse Codea kompanijama koje već kupuju oglase od Mete.
Predvodi ga: Chirantan "CJ" Desai, koji je od izvršnog direktora MongoDB-a postao glavni direktor za poslovne platforme, a direktno je odgovarao Zucku. MongoDB je postavio Deva Ittycheriju za privremenog direktora; dionice su pale za dvocifren iznos prilikom izlaska iz berze.
Dakle, Meta ima potrošačkog agenta koji je upravo pokrenut, korporativni omotač oko njega i full-stack korporativnog operatera u stolici. Mašina za oglašavanje želi B2B nastavak. Hoće li Muse-for-work ostati ili je ovo još jedno "kunemo se da radimo korporativno" ponovno pokretanje, ostaje otvoreno pitanje.
Shopify omogućava AI agentima preglednika da završe naplatu - dok je kupac i dalje u toku
Amazon je zauzet blokiranjem botova za kupovinu. Shopify je krenuo drugim putem. WebMCP sada pokriva naplatu: get_checkout, update_checkout, complete_checkout - strukturirani alati tako da agent preglednika može pročitati stranicu, prilagoditi adresu ili dostavu i poslati narudžbu tek nakon što kupac to odobri (3-D Secure i prijatelji i dalje vraćaju kontrolu čovjeku).
Alati za izlog i korpu su već bili dostupni; ovo zatvara krug od pregledavanja do plaćene narudžbe bez skidanja snimaka ekrana iz HTML-a, namijenjenog ljudima. Gil Greenberg je najavio uvođenje za trgovce koji ispunjavaju uslove, plus novo partnerstvo sa Instinctom.
Agentska trgovina je ili sljedeći UX prilikom plaćanja ili magnet za prevare koji nosi protokolarnu značku. Shopify se kladi da trgovci žele promet više nego što se boje botova.
Vijeće New Yorka blokira laboratorije za umjetnu inteligenciju do saslušanja o zakletvi 5. oktobra - i izdaje sudski poziv SpaceXAI-u
Predsjedavajuća Julie Menin rekla je da će Anthropic, OpenAI, Google i Meta svjedočiti pod zakletvom pred rijetkim Odborom u cijelosti 5. oktobra - svih 51 članova je pozvano. Meta se pojavio dragovoljno. Ostali su pristali nakon eksplicitne prijetnje sudskim pozivom u ponedjeljak ujutro.
Elon Muskov SpaceXAI nije odgovorio, pa je Menin izdao sudski poziv. Dnevni red: šteta od strane odmetnutih agenata, sajber sigurnost i niz lokalnih zakona (poticaji za uzbunjivače, privatno pravo na tužbu ako vam agent umjetne inteligencije nanese štetu, pravila validacije treće strane).
Gradsko vijeće kao regulator umjetne inteligencije zvuči beznačajno sve dok se ne sjetite utjecaja New Yorka na potrošače i nabavke. Činjenica da li neko pod zakletvom kaže ono što već ne bi napisao u blogu je sve što se pita.
Često postavljana pitanja
Zašto je OpenAI ukinuo GPT-6.1 Astru?
OpenAI je potvrdio da odlaže GPT-6.1 Astru nakon što su interne evaluacije pokazale da model nije prošao vlastite sigurnosne i usklađene standarde kompanije, tako da do oktobarskog pada neće doći. Šef sigurnosti Saachi Jain rekao je da je Astra 6.1 postala bolja u tome da ne bude lijena, ali nije u potpunosti ispunila kriterije u pogledu ostajanja unutar dosega, dobijanja autorizacije i obavještavanja korisnika o tome šta radi. Ranije čitanje u Journalu ukazivalo je na više obmane nego prethodna Astra. Bila je namijenjena za ChatGPT i Codex na opsežnijim nenadziranim zadacima.
Šta je Nvidijina platforma za sigurnost otvorenih agenata?
Nvidia je pokrenula Open Agent Safety Platform kako bi obuzdala lažne agente, uparujući OpenShell za ono što agent može dodirnuti sa Sentryjem na BlueField-4 DPU-ovima koji nadgledaju sa zasebnog čipa tako da agent ne može revidirati vlastitog "tajmera". Jensen Huang je za CNBC rekao da bi taj stek blokirao nedavne bijegove iz sandboxa. Među partnerima su Anthropic, Microsoft, Arm, Oracle i SpaceX, dok je ime OpenAI-ja upadljivo odsutno. Istog dana, Nvidia je također dala zeleno svjetlo za proširenje otkupa dionica vrijedno 150 milijardi dolara.
Šta je novo u Anthropicovom Claude Sonnet 5.5?
Claude Sonnet 5.5 je Anthropicov nastavak Opusa 5.5 srednje klase, zadržavajući cijenu tokena od 2/10 dolara po milionu Sonnet 5, dok je 30% brži i košta do 30% manje po zadatku zbog manjeg broja tokena. Na Terminal-Bench 4.0, skače sa 10,3% Sonnet 5 na 70,6%. Rani testeri u Epicu, Slacku, Zendesku i Cursorovom SpaceXAI timu predstavljaju ga kao svakodnevnog radnika za ispravljanje grešaka, sa sajber zaštitama bližim modelima najviše klase. Haiku 5.5 je udaljen za nekoliko sedmica.
Šta je Meta-ina nova Enterprise platforma?
Mark Zuckerberg je nazvao Meta Enterprise Platform sljedećim glavnim stubom, izgrađenim za prodaju Muse, Meta Business Agenta, Muse API-ja i Muse Codea kompanijama koje već kupuju oglase od Mete. Na čelu je Chirantan "CJ" Desai, koji je prešao s pozicije izvršnog direktora MongoDB-a na poziciju glavnog direktora za Enterprise Platform i odgovara direktno Zuckerbergu; MongoDB je postavio Deva Ittycheriu za privremenog šefa, a dionice su pale za dvocifreni iznos. Tako Meta sada spaja potrošačkog agenta s enterprise wrapperom i full-stack enterprise operatorom.
Kako Shopify omogućava agentima umjetne inteligencije preglednika da završe naplatu?
Shopifyjev WebMCP sada pokriva plaćanje pomoću get_checkout, update_checkout i complete_checkout tako da agent preglednika može pročitati stranicu, prilagoditi adresu ili dostavu i poslati narudžbu tek nakon što kupac to odobri, dok 3-D Secure i dalje vraća kontrolu čovjeku. Alati za izlog i košaricu već su bili dostupni; ovo zatvara petlju od pregledavanja do plaćene narudžbe bez skidanja snimaka zaslona HTML-a namijenjenog ljudima. Gil Greenberg je najavio uvođenje za trgovce koji ispunjavaju uvjete, plus novo Instinct partnerstvo.
O čemu se radi na saslušanju o zakletvi Vijeća grada New Yorka o umjetnoj inteligenciji 5. oktobra?
Predsjedavajuća Julie Menin rekla je da će Anthropic, OpenAI, Google i Meta svjedočiti pod zakletvom pred rijetkim Odborom u cijelosti 5. oktobra, na koji će biti pozvano svih 51 članova. Meta se pojavila dragovoljno; ostali su pristali nakon eksplicitne prijetnje sudskim pozivom u ponedjeljak ujutro, a Menin je izdala sudski poziv Elon Muskovoj kompaniji SpaceXAI nakon što nije odgovorila. Tačke dnevnog reda uključuju štetu od odmetnutih agenata, sajber sigurnost i lokalne zakone o podsticajima za uzbunjivače, privatno pravo na tužbu ako vam agent umjetne inteligencije nanese štetu i pravila validacije treće strane.