💰 Sequoia tiho uskače u Anthropicovu mega-rundu ↗
Sequoia - koja je već upletena u nekoliko velikih laboratorija za vještačku inteligenciju - navodno se pridružuje velikom povećanju broja zaposlenih u Anthropicu. To je potez koji cijelu priču o "sukobima, bez sukoba" podiže na viši nivo, priznao to iko ili ne.
Navodi se da će runda uključivati i druge teške provjere, gurajući Anthropic dalje u tu vrhunsku, mega-procjenu traku. Vibracije mjehurića se zadržavaju. Ovo bi također moglo biti novo normalno, iritantno.
📢 ChatGPT počinje flertovati s oglasima - ovaj put ozbiljno ↗
Navodno OpenAI testira oglase za neke američke korisnike na nižim nivoima, dok će oni na skupljim nivoima ostati bez oglasa. Obećanje je da oglasi neće utjecati na odgovore - što je u teoriji ohrabrujuće, čak i ako refleks povjerenja malo potraje.
Širi podtekst je jednostavan: zaključivanje je skupo, a same pretplate možda neće pokriti sve zauvijek... ili se barem tako čini. Ipak, prvi put kada vidite "sponzorirano" bilo gdje u blizini chatbota, nešto se mijenja u vašoj glavi. Atmosfera se mijenja.
📚 Izdavači pokušavaju iskoristiti tužbu protiv Googlea za obuku umjetne inteligencije ↗
Grupa izdavača pokušava se pridružiti tužbi koja optužuje Google za korištenje autorskih djela za obuku svojih AI sistema. Ova pravna borba se nastavlja širiti, poput pukotine u ledu koju stalno čujete, ali ne možete je tačno locirati.
Ako im sud dozvoli da uđu, slučaj bi se mogao zaoštriti oko toga šta "dozvola" i "plaćanje" trebaju značiti za podatke o obuci. Svi žele presedan - po mogućnosti onaj koji ide njima u prilog, očigledno.
🕳️ Navodno trik "brzog ubrizgavanja" kvari Gemini putem podataka o sastancima ↗
Istraživači su opisali napad u stilu "indirektnog ubrizgavanja prompta" gdje se zlonamjerne instrukcije skrivaju unutar normalnog sadržaja, a zatim ih asistent prati kasnije kada korisnik pita nešto nevino. Nema zlonamjernog softvera, nema čarobnjaštva - samo tekst pretvoren u oružje, neobično elegantan i pomalo odvratan.
To je podsjetnik da "LLM čita nepouzdan tekst" nije slatka funkcija - to je čitava površina prijetnje. Kao da puštate strance da vam cijeli dan guraju bilješke u džepove, a zatim se pretvarate da ste iznenađeni kada je jedna od njih zamka.
🎮 Izvršni direktor Razera kaže da igrači "već vole vještačku inteligenciju" - samo mrze tu etiketu ↗
Razerovo predavanje na CES-u se fokusiralo na vještačku inteligenciju kao praktičan alat za radne procese razvoja igara - kontrolu kvaliteta, iteraciju, takve stvari - plus neke koncepte nalik asistentima koji djeluju dijelom korisno, a dijelom kao naučnofantastični rekvizit.
Oni također u osnovi priznaju problem brendiranja: igrači ne žele "AI otpad", ali žele pametnije alate i glatkija iskustva. Nazovite to "pomoć" i ljudi će klimati glavom. Nazovite to "AI" i ljudi će ponekad posegnuti za vilama.
⚖️ Sud propisuje pravila za advokate koji koriste generativnu vještačku inteligenciju ↗
Sud je objavio smjernice koje se u osnovi svode na: naravno, koristite genAI - ali i dalje ste vlasnik posla. Ne možete prepustiti svoju profesionalnu procjenu generatoru teksta, a zatim se praviti šokiranim kada on samouvjereno nešto izmisli.
Zanimljivo je da otkrivanje nije potrebno osim ako sudija ne zatraži - ali poruka o odgovornosti je prava kičma toga. Vještačka inteligencija može crtati i sređivati... a također i halucinirati poput previše samouvjerenog pripravnika sa smislom za fikciju.
Često postavljana pitanja
Šta Sequoia-ino pridruživanje Anthropicovoj mega rundi finansiranja znači za investiranje u vještačku inteligenciju i konflikte u oblasti vještačke inteligencije?
To sugerira da bi veliki investitori mogli nastaviti podržavati više vrhunskih laboratorija za vještačku inteligenciju odjednom, što predvidljivo oživljava debatu o "sukobima, bez sukoba". Kada je isti fond uključen u nekoliko laboratorija, ljudi počinju ispitivati podsticaje, pristup i konkurentske prednosti. Prijavljena mega runda također naglašava kretanje prema ogromnim čekovima i visokim procjenama, čak i dok "vibracije balona" još uvijek vise u zraku.
Da li ChatGPT dobija oglase na besplatnim ili jeftinijim nivoima i da li će oni uticati na odgovore?
U izvještaju se navodi da OpenAI testira oglase za neke američke korisnike na nižim nivoima, dok oni na skupljim nivoima ostaju bez oglasa. Također se tvrdi da oglasi neće utjecati na odgovore, što na papiru zvuči umirujuće, ali ipak može promijeniti način na koji ljudi doživljavaju povjerenje. Podtekst je ekonomski: zaključivanje je skupo, a pretplate možda neće zauvijek pokrivati sve.
Zašto izdavači pokušavaju da se pridruže Googleovoj tužbi za obuku u oblasti vještačke inteligencije?
Grupa izdavača želi se pridružiti tužbi u kojoj se tvrdi da je Google koristio djela zaštićena autorskim pravima za obuku sistema vještačke inteligencije. Ako im sud to dozvoli, slučaj bi se mogao zaoštriti oko toga kako bi "dozvola" i "plaćanje" trebali izgledati za podatke o obuci. Više stranaka često znači veći pritisak za jasan presedan - posebno oko toga ko će biti kompenziran i pod kojim uslovima.
Šta je napad "indirektnim promptnim ubrizgavanjem" i zašto je to velika tema u vijestima o AI tehnologiji?
To je napad u kojem su zlonamjerne instrukcije skrivene unutar sadržaja koji izgleda normalno, a asistent ih kasnije slijedi kada korisnik uputi nevin zahtjev. Osnovni problem je što model čita nepouzdan tekst, pretvarajući svakodnevne dokumente i poruke u potencijalnu površinu prijetnje. Uvjerljiv je jer može funkcionirati bez tradicionalnog zlonamjernog softvera - samo s jezikom koji je oružje ugrađenim u sadržaj.
Zašto igrači ne vole oznaku "AI", ali i dalje žele AI alate?
Izvršni direktor Razera tvrdi da igrači već vole praktične prednosti - brže osiguranje kvaliteta, glatkiju iteraciju i pomoćne alate za radni proces - ali negativno reaguju na brendiranje. Problem je često "AI nered" ili sadržaj koji djeluje neautentično i ne zahtijeva puno truda. Preoblikovanje u "pomoć" ili korisnu funkciju može stvoriti osjećaj da se radi o alatu koji poboljšava iskustvo, a ne zamjenjuje kreativnost.
Šta sudska pravila znače za advokate koji koriste generativnu vještačku inteligenciju i da li moraju to otkriti?
Opisane smjernice su jednostavne: advokati mogu koristiti generativnu umjetnu inteligenciju, ali ostaju odgovorni za rad i ne mogu prepustiti profesionalnu procjenu generatoru teksta. Rizik je halucinacija - samouvjereno izmišljene činjenice ili citati - tako da provjera i odgovornost ostaju ključni. Navodno otkrivanje nije potrebno osim ako sudija ne zatraži, ali poruka je i dalje: vi ste odgovorni za ishod.