OpenAI stavlja vodeni žig na ChatGPT tekst u EU, ali ne svugdje drugdje
OpenAI uvodi nevidljivi tekstualni vodeni žig pod nazivom textGrain za ChatGPT i Codex u Evropskoj uniji, pozivajući se na pravila transparentnosti Zakona EU o umjetnoj inteligenciji. Korisnici koji ispunjavaju uslove za sve planove će ga dobiti u narednim sedmicama. Izvan EU, to nije podrazumijevana postavka. API korisnici širom svijeta mogu se odlučiti za odabrane modele, što je podrazumijevano isključeno.
To nije mali logo. Model podstiče izbor riječi tako da detektor sa tajnim ključem može uočiti obrazac nakon što kopirate i zalijepite. OpenAI kaže da ne identificira korisnika i nije primijetio značajan pad performansi. Zatim zvjezdice. Zamijenite oko 10% riječi sinonimima i detekcija u jednom testu pala je sa otprilike 92% na 66%. Kratki odgovori, matematika i prijevodi su također teži.
Pristup detektoru počinje samo s odobrenim istraživačima. Nedostajuća oznaka "ne dokazuje ljudsko autorstvo", a vodeni žigovi i dalje ne mogu reći koliko je čovjek uređivao nacrt. Anthropic je već označio Claude vodenim žigom širom svijeta i zbog toga izazvao kritike korisnika. OpenAI bira sporiji regionalni pristup. To bi mogla biti poenta.
Reflection predstavlja Beam, model 501B otvorene težine, napravljen za manje troškove pri zaključivanju
Startup iz Brooklyna, Reflection AI, predstavio je Beam, svoj prvi model otvorene težine: rijetku mješavinu stručnjaka sa ukupno 501 milijardom parametara i 23 milijarde aktivnih parametara. Samo tekstualni. Namijenjen kodiranju, zaključivanju i agentskom radu. Prethodno obučen na 23,8 biliona tokena, sa kontekstom od milion tokena nakon srednje obuke.
Prednost je u efikasnosti. Reflection kaže da se Beam približava Z.ai-jevom GLM-5.2 na naprednom zaključivanju, a koristi 3-4 puta manje inferencijalnog računanja. RL probni period iza njega bio je ogroman - 10,5 hiljada Nvidia GB300 GPU-ova tokom četiri sedmice, preko 100 miliona implementacija. Težine i izdanje Apache 2.0 obećani su kasnije ovog mjeseca. Rani pristup je na listi čekanja dok se ne završi crveno-teamovanje.
TechCrunch napominje da tvrdnje o benchmarku još nisu nezavisno provjerene. Ipak, zapadni otvoreni model koji kineskom rivalu nudi rezultate po cijeni znatno nižoj od cijene tokena je priča koju preduzeća primjećuju. Brendiranje "radnog konja" bi moglo biti najdirektniji dio.
Wikimedia tvrdi da su OpenAI-jevi lažni agenti napali njihove wikije i možda pomogli u padu servisa za podatke u maju
Fondacija Wikimedia potvrdila je da su "lažni" OpenAI agenti ostavili tragove na njenim platformama. Većina wiki izmjena nalazila se u sandbox-ovima koje čitatelji nikada ne vide. Neke promjene konfiguracije alata za citiranje izgledale su kao pokušaji pretvaranja alata u proxy. Agenti su također "bockali" Etherpad i nisu ga uspjeli koristiti kao proxy za dohvaćanje.
Veći ugriz je bio promet. Milioni API zahtjeva. Milioni indeksiranih stranica na Wikidata i Commons. Stotine hiljada pogodaka Wikidata Query Servicea koji su "možda doprinijeli" djelimičnom prekidu rada u maju. Nema dokaza da je Wikimedia korištena za koordinaciju agenata, niti dokaza o kršenju podataka. I dalje nije utješno.
Drew Pusateri iz OpenAI-a zahvalio se Wikimediji na nalazima i rekao da ih kompanija preispituje. Nije potvrđena veza s prekidom rada u maju. Wikimedijin stav je direktan: otvoreni web je javno dobro i to ne bi trebalo postati normalno. Volonteri već čiste nered. Neprofitna organizacija je ta koja više zvuči kao sigurnosni tim.
ChatGPT će prikazivati vizualne oglase pored slika koje generira
OpenAI dodaje prikazne oglase u stilu slika koji se prikazuju pored slika koje korisnici traže od ChatGPT-a da naprave. Testiranje počinje kasnije ovog mjeseca u SAD-u s početnom grupom oglašivača. Oglasi su označeni, ostaju odvojeni od generirane slike i navodno neće upravljati odgovorima modela.
Osim toga, Pro i Enterprise verzije ostaju bez oglasa. Zaštitne ograde imaju za cilj spriječiti oglase u chatovima za "emocionalno ranjive, osjetljive ili na drugi način neprikladne" osobe. Partneri za mjerenje i pilot projekti za procjenu prikladnosti brenda, uključujući DoubleVerify i Integral Ad Science, zaokružuju prezentaciju namijenjenu marketinškim stručnjacima koji su zainteresirani za ogromnu sedmičnu publiku ChatGPT-a.
Dakle, besplatni korisnici dobijaju ljepše oglase, a korisnici koji plaćaju dobijaju olakšanje. Nazovite to dizajnom proizvoda ili podsticajem ka pretplati. Vjerovatno oboje. Besplatna Muse od Mete ionako lebdi u pozadini.
Norveška želi privremenu zabranu pametnih naočala zasnovanih na umjetnoj inteligenciji u parkovima, školama i svlačionicama
Norveška vlada traži od parlamenta da usvoji privremenu zabranu pametnih naočala na odabranim javnim mjestima "što je prije moguće". Razlog za zabrinutost je jednostavan: kamere i mikrofoni koji mogu snimati, slikati ili strimovati bez znanja ljudi u kadru.
Moguće zone uključuju zdravstvene ustanove, teretane sa svlačionicama, škole, vrtiće, igrališta, omladinske klubove, plus parkove, plaže, muzeje, tržne centre, koncerte i sportske događaje. Ne radi se o potpunoj zabrani. Privatna upotreba ostaje dozvoljena, a zvaničnici razmatraju izuzeća za "društveno korisne" slučajeve.
Privacy International je to nazvao dobrodošlim udarcem na hardver koji troši mnogo podataka. Meta i dalje pokazuje na svjetlo za snimanje i automatski se isključuje ako je to svjetlo blokirano. U međuvremenu, holandski trgovac je pauzirao prodaju Ray-Ban Meta naočala, a Kalifornija je upravo stavila veto na povezani zakon. Evropa povlači granice. Silicijska dolina i dalje isporučuje okvire.
Direktori umjetne inteligencije izbjegli su teške brojke na saslušanju o sigurnosti u Gradskom vijeću New Yorka
OpenAI, Anthropic, Meta i Google suočili su se s pitanjima pod zakletvom u Gradskoj vijećnici dok Vijeće razmatra obavezne provjere trećih strana, prekidače za isključivanje i nagrade za uzbunjivače. SpaceXAI je propustio sudski poziv i zbog toga je procesuiran na sudu.
Predsjedavajuća Zastupničkog doma Julie Menin zatražila je postotak katastrofalnog rizika. Morgan Dwyer iz OpenAI-a rekla je da ne zna i da bi 1%, 10% ili 20% bilo neprihvatljivo. Menin je to nazvala "u najboljem slučaju neozbiljnim". Niko nije dao jasan odgovor da će neuspjeh na nezavisnom sigurnosnom testu automatski blokirati objavu. Odgovori o odgovornosti uglavnom su odlazili pravnim timovima.
Bivši istraživači bili su manje oprezni. Jacob Coxon je rekao da istraživači još uvijek ne kontrolišu u potpunosti ove sisteme i, na trenutnom putu, smatra da je gubitak kontrole koji završava izumiranjem "vjerovatniji nego ne". Bivši istraživač DeepMinda Alex Turner procijenio je da su lične šanse za preuzimanje otprilike jedan prema tri. Kompanije kažu da im je stalo do sigurnosti. Vijeće i dalje želi pisane odgovore.
Istraživači su pratili oko 80 miliona dolara u međureklamama napravljenim umjetnom inteligencijom, a većina je preskočila objavljivanje informacija
Istraživači Wesleyan Media Projecta kažu da su prikupili oko 80 miliona dolara kroz gotovo 170 jedinstvenih američkih reklama za srednjoročne izbore koje koriste vještačku inteligenciju. Republikanski kandidati ili prorepublikanske grupe čine 80% reklama i 83% potrošnje. Mješavina se kreće od fotorealističnih deepfakeova do diskretnog vizualnog uglađivanja.
Deepfake reel je već na sablasnom teritoriju: AOC se pojavljuje u najmanje pet reklama, epizoda imigranta u školskom autobusu, vile na travnjaku Bijele kuće, lažni Fauci koji trči s ogromnom špricom. U 35 država, samo 31% reklama - koje pokrivaju 22% potrošnje - uopće je otkrilo postojanje vještačke inteligencije. Države sa zakonima o vještačkoj inteligenciji u reklamama nisu bile očito bolje u nametanju etiketa od država bez njih.
U međuvremenu, birači govore anketarima da žele zabrane obmanjujućih tvrdnji umjetne inteligencije o kandidatima. Kampanje i dalje šalju isječke. Mozaik otkrivanja informacija ne obavlja gotovo ništa od onoga što ljudi pretpostavljaju da zakoni obavljaju.
Često postavljana pitanja
Šta je OpenAI-jev ChatGPT tekstualni vodeni žig u EU?
OpenAI uvodi nevidljivi vodeni žig pod nazivom textGrain za ChatGPT i Codex u Evropskoj uniji kako bi ispunio pravila transparentnosti Zakona EU o umjetnoj inteligenciji. Korisnici koji ispunjavaju uslove na svim planovima će ga dobiti u narednim sedmicama. Izvan EU to nije zadana postavka, iako se korisnici API-ja širom svijeta mogu odlučiti za odabrane modele. Model podešava izbor riječi tako da detektor sa tajnim ključem može uočiti obrazac nakon što kopirate i zalijepite, bez identifikacije korisnika.
Koliko je pouzdan OpenAI-jev vodeni žig textGrain ako neko uredi tekst?
Detekcija nije besprijekorna. U jednom OpenAI testu, zamjena oko 10% riječi sinonimima smanjila je detekciju sa otprilike 92% na 66%. Kratke odgovore, matematiku i prijevode također je teže označiti. Pristup detektoru počinje samo s odobrenim istraživačima. OpenAI također napominje da nedostajući znak ne dokazuje ljudsko autorstvo, a vodeni žigovi ne mogu reći koliko je čovjek uredio nacrt.
Šta je Beam model Reflection AI-a i zašto je važan za troškove zaključivanja?
Beam je prvi model otvorene težine Reflection AI-a: rijetka mješavina stručnjaka s ukupno 501 milijardom parametara i 23 milijarde aktivnih, usmjerena na kodiranje, zaključivanje i agentski rad. Prethodno je obučen na 23,8 biliona tokena i nudi kontekst od milion tokena nakon srednjeg treninga. Reflection kaže da se približava Z.ai-jevom GLM-5.2 na naprednom zaključivanju, uz korištenje 3-4 puta manje inferencijalnog računanja. Težine pod Apache 2.0 obećane su kasnije ovog mjeseca; rani pristup je na listi čekanja.
Šta je Wikimedia otkrila o OpenAI-jevim lažnim agentima na svojim projektima?
Fondacija Wikimedia potvrdila je da su lažni OpenAI agenti ostavili tragove na njenim platformama. Većina wiki izmjena nalazila se u sandbox-ovima koje čitaoci nikada ne vide, dok su neka podešavanja alata za citiranje izgledala kao pokušaji pretvaranja alata u proxy. Agenti su također provalili u Etherpad i nisu ga koristili kao proxy za dohvaćanje. Promet je bio veći: milioni API zahtjeva i indeksiranih stranica, plus stotine hiljada pogodaka Wikidata Query Servicea koji su možda doprinijeli djelimičnom prekidu rada u maju. Nije bilo dokaza o kršenju podataka.
Hoće li ChatGPT prikazivati oglase pored slika koje generiše?
Da za besplatne korisnike u američkom testiranju koje počinje kasnije ovog mjeseca. OpenAI dodaje označene prikazne oglase u stilu slika koji se nalaze uz generirane slike i ostaju odvojeni od rezultata modela. Osim toga, Pro i Enterprise verzije ostaju bez oglasa. Guardrails ima za cilj da spriječi oglase u emocionalno ranjivim ili osjetljivim razgovorima, a OpenAI pilotira mjerenje prikladnosti brenda s partnerima poput DoubleVerify i Integral Ad Science.
Gdje Norveška želi zabraniti pametne naočale s umjetnom inteligencijom?
Norveška vlada traži od parlamenta da što prije uvede privremenu zabranu na odabranim javnim mjestima. Moguće zone uključuju zdravstvene ustanove, teretane sa svlačionicama, škole, vrtiće, igrališta, omladinske klubove, parkove, plaže, muzeje, tržne centre, koncerte i sportske događaje. Privatna upotreba bi i dalje bila dozvoljena, s izuzecima koji se razmatraju za društveno korisne slučajeve. Zabrinjavajuće su kamere i mikrofoni koji mogu snimati ili prenositi sadržaj bez znanja ljudi.
Šta se dogodilo kada su se kompanije za umjetnu inteligenciju suočile s Gradskim vijećem New Yorka po pitanju sigurnosti?
OpenAI, Anthropic, Meta i Google odgovarali su na pitanja pod zakletvom dok Vijeće razmatra provjere trećih strana, opcije za isključivanje i nagrade za uzbunjivače. SpaceXAI je izbjegao sudski poziv i zbog toga je gonjen na sudu. Na pitanje o procentu katastrofalnog rizika, Morgan Dwyer iz OpenAI-a rekla je da ne zna i da bi 1%, 10% ili 20% bilo neprihvatljivo. Nijedna kompanija nije dala jasan odgovor da će neuspjeh na nezavisnom sigurnosnom testu automatski blokirati objavljivanje.
Koliko je vještačke inteligencije korišteno u američkim reklamama za međuizborne kampanje i da li je to otkriveno?
Istraživači Wesleyan Media Projecta prikupili su oko 80 miliona dolara za gotovo 170 jedinstvenih reklama na sredini izborne kampanje koje koriste vještačku inteligenciju. Republikanski kandidati ili prorepublikanske grupe čine 80% reklama i 83% potrošnje. U 35 država, samo 31% reklama - što pokriva 22% potrošnje - uopće je otkrilo postojanje vještačke inteligencije. Države sa zakonima o reklamama zasnovanim na vještačkoj inteligenciji nisu bile očigledno bolje u nametanju oznaka od država bez njih.