OpenAI će pauzirati dio rada na AI modelu Astra zbog sigurnosnih problema ↗
OpenAI pauzira interni rad na Astri, koja ne ispunjava strože sigurnosne zahtjeve, nakon što su procjene sugerirale da su njene sajber sposobnosti možda prešle "kritični" prag. Agent bi navodno mogao pronaći i iskoristiti ranjivosti bez ljudske intervencije ili izvesti napade s cilja visokog nivoa. Da... to je prilično ozbiljna granica koju treba preći.
Kompanija pooštrava izolovano testiranje, pristup mreži i alatima, zaštitu na osnovu težine modela, enkripciju i praćenje. Astra nije bila uključena u raniji incident Hugging Face kompanije OpenAI, ali širi obrazac sve autonomnijih agenata čini obuzdavanje mnogo većom brigom. (Izvor: The Guardian)
Apple tvrdi da se korisnici Maca u Kini mogu povezati s Alibabinom uslugom umjetne inteligencije Qwen ↗
Korisnici Maca u kontinentalnoj Kini koji ispunjavaju uslove sada mogu povezati Alibabin Qwen sa Siri i Appleovim alatima za pisanje. To znači detaljnije odgovore plus analizu dokumenata i slika, uz generiranje teksta i slika iz opisa.
Iskreno, to je zanimljiv spoj - Apple dobija lokalno kompatibilan put do jačih AI funkcija na žestoko konkurentnom tržištu računara, dok Alibaba omogućava Qwen da se mnogo dublje ugrađuje u tuđi ekosistem. Apple kaže da Alibaba ne može koristiti materijal poslan putem ekstenzije za obuku svojih modela. (Izvor: Reuters)
Google DeepMind ulazi u novu eru dok suosnivač Demis Hassabis mijenja ulogu u oblasti umjetne inteligencije ↗
Demis Hassabis odustaje od svakodnevnog vodstva DeepMind-a, postajući predsjedavajući, a istovremeno preuzima i ulogu glavnog naučnika u Alphabetu. Dugogodišnji kolega Koray Kavukcuoglu preuzima operativnu kontrolu kao viši potpredsjednik, a ne kao izvršni direktor - suptilna promjena titule koja mnogo govori.
Reorganizacija dolazi uz odlazak drugih velikih istraživača i pitanja o tome da li DeepMind postaje manje nezavisan i sve više apsorbiran u Googleovu komercijalnu AI mašinu. Google osporava da je promjena povezana s konkurentskim rezultatima Geminija. (Izvor: The Guardian)
Sve veći broj djece u Velikoj Britaniji prijavljuje da vide eksplicitne deepfakeove sebe ↗
Broj prijava djece iz Velike Britanije o eksplicitnim lažnim ili manipuliranim slikama sebe samih je naglo porastao. Report Remove je primio 420 prijava za samo šest mjeseci, što je već premašilo prethodni godišnji broj od 397. Alati za "nudifikaciju" pokretani umjetnom inteligencijom znatno olakšavaju skaliranje problema.
Fondacija Internet Watch kaže da su mnoge prijavljene manipulirane slike bile dovoljno ozbiljne da pređu prag za materijal seksualnog zlostavljanja djece. Neke žrtve su također bile meta seksualnog iznuđivanja, pretvarajući sliku generiranu umjetnom inteligencijom u vrlo opipljivo oružje. (Izvor: The Guardian)
Istraživanje pokazuje da funkcije umjetne inteligencije rastu brže od poslovne vrijednosti ↗
Kompanije za poslovni softver plasiraju AI funkcije, ali ih kupci ne koriste nužno. U anketi provedenoj na više od 260 vertikalnih softverskih kompanija, 51% je reklo da manje od jedne četvrtine njihovih kupaca koristi AI mogućnosti koje su one izgradile. Malo je nezgodno nakon sve te isporuke...
Usko grlo manje liči na mogućnosti umjetne inteligencije, a više na integraciju, sigurnost, privatnost, promjene u radnom procesu i dokazivanje konkretne poslovne vrijednosti. Jedan posebno neobičan fenomen je "tokenmaxxing" - velika potrošnja umjetne inteligencije koja izgleda impresivno na kontrolnoj ploči bez jasnih dokaza da daje bolje rezultate. (Izvor: Forbes)
Vještačka inteligencija mijenja rad brže nego što podaci mogu pratiti ↗
Argument o poslovima zasnovanim na vještačkoj inteligenciji postaje sve zamršeniji, a ne jasniji. Studija koja je obuhvatila više od 21.000 američkih firmi otkrila je da su kompanije koje najviše usvajaju vještačku inteligenciju povećale ukupan broj zaposlenih za 10%, a zapošljavanje na početnom nivou za 12%, dok kompanije koje manje intenzivno usvajaju nisu pokazale rast broja zaposlenih.
Ali druga istraživanja su otkrila pritisak na zapošljavanje među mlađim radnicima na pozicijama izloženim vještačkoj inteligenciji, a ekonomisti upozoravaju da kompanije u razvoju i dalje mogu zapošljavati dok vještačka inteligencija mijenja zanimanja u široj ekonomiji. Dakle, vještačka inteligencija ubija i stvara radna mjesta... ili bi vas barem tako htjeli uvjeriti kontradiktorni skupovi podataka. (Izvor: Fortune)
Često postavljana pitanja
Koji su trenutno najveći razvoji vijesti iz svijeta umjetne inteligencije?
Nedavne vijesti o umjetnoj inteligenciji ukazuju na nekoliko preklapajućih tema: jače autonomne mogućnosti, strože sigurnosne kontrole, dublje integracije platformi, promjene u rukovodstvu, rizici online sigurnosti i neizvjesna poslovna vrijednost. OpenAI pooštrava zaštitne mjere oko Astre, Apple povezuje Qwen s Macovima u Kini, a DeepMind mijenja vodstvo. Istovremeno, raste zabrinutost oko deepfakeova, usvajanja u preduzećima i utjecaja umjetne inteligencije na zapošljavanje.
Zašto je OpenAI pauzirao dio rada na Astri?
OpenAI je navodno pauzirao interni rad Astre koji nije ispunjavao strože sigurnosne zahtjeve nakon što su evaluacije sugerirale da su sajber mogućnosti modela možda dostigle kritičan nivo. Zabrinutost je da bi napredni agent potencijalno mogao otkriti i iskoristiti ranjivosti uz ograničenu ili nikakvu ljudsku intervenciju. Kao odgovor na to, OpenAI jača izolovano testiranje, kontrole pristupa, šifriranje, praćenje i zaštitu oko težina modela.
Kako će Alibaba Qwen sarađivati sa Apple Mac računarima u Kini?
Korisnici Mac računara u kontinentalnoj Kini koji ispunjavaju uslove mogu povezati Alibabinu Qwen uslugu sa Siri i Appleovim alatima za pisanje. Integracija može podržati detaljnije odgovore, analizu dokumenata i slika, te generiranje teksta ili slika iz opisa. Za Apple, ovaj aranžman pruža lokalno usklađen put do jače funkcionalnosti umjetne inteligencije, dok Alibaba dobija dublji pristup Appleovom ekosistemu. Apple kaže da se dostavljeni materijal ne može koristiti za obuku Alibabinih modela.
Šta promjena rukovodstva DeepMind-a znači za Google AI?
Demis Hassabis se udaljava od svakodnevnog vodstva DeepMind-a i postaje predsjedavajući i preuzima ulogu glavnog naučnika u Alphabetu. Koray Kavukcuoglu će preuzeti operativnu kontrolu kao viši potpredsjednik. Ova promjena je pokrenula pitanja o tome da li se DeepMind bliže integriše sa širim komercijalnim operacijama umjetne inteligencije kompanije Google, iako Google osporava sugestije da je rekonstrukcija povezana sa konkurentskim rezultatima kompanije Gemini.
Zašto AI deepfakeovi postaju sve veća briga za sigurnost djece?
Alati za manipulaciju slikama pokretani vještačkom inteligencijom mogu olakšati kreiranje realističnih eksplicitnih lažnih slika u velikim količinama. Djeca u Velikoj Britaniji sve više prijavljuju manipulirane ili izmišljene slike sebe, a neki slučajevi su bili dovoljno ozbiljni da prelaze prag za materijal seksualnog zlostavljanja djece. Ove slike se također mogu koristiti za seksualno iznuđivanje, što znači da izmišljena slika i dalje može uzrokovati značajnu reputacijsku, emocionalnu i finansijsku štetu.
Da li preduzeća i radnici već imaju koristi od vještačke inteligencije?
Najnovije vijesti o umjetnoj inteligenciji sugeriraju da je odgovor mješovit. Mnoge softverske kompanije dodaju AI funkcije brže nego što ih kupci usvajaju, a integracija, privatnost, sigurnost i mjerljiva poslovna vrijednost ostaju glavne prepreke. Podaci o zaposlenosti su slično komplikovani: neke kompanije sa intenzivnim usvajanjem umjetne inteligencije proširuju zapošljavanje, dok druga istraživanja ukazuju na pritisak na mlađe radnike na pozicijama izloženim umjetnoj inteligenciji. Ukupni uticaj uveliko zavisi od industrije, radnog toka i načina na koji se umjetna inteligencija implementira.